Il a travaillé dans les années 1930 avec Les Brown, Charlie Barnet et Artie Shaw (1937-39), puis a rejoint l'orchestre de Glenn Miller de 1939 à 1942. Il a passé un court laps de temps avec Bob Crosby avant de servir dans la Marine pendant la Seconde Guerre mondiale en tant que sauveteur, jouant dans le groupe militaire de Shaw en 1942-43 et celui de Sam Donahue en 1944-45.
Après une période avec Benny Goodman en 1945-46, il s'est installé à Hollywood, où il a travaillé à nouveau avec Crosby à la radio de 1946 à 1951 et a joué dans de nombreux grands orchestres de studio dans les années 1940 et 1950. Il a fait une tournée avec Billy May en 1953, et a dirigé son propre groupe localement plus tard dans la décennie.Sa trompette peut être entendue aux côtés d'Ella Fitzgerald sur son album Get Happy. En 1964, il a fait une tournée au Japon avec Crosby, et a rejoint Ray Conniff pour des tournées mondiales dans les années 1970. En 1982, il s'est cassé le dos en travaillant dans son verger d'avocats et a utilisé un fauteuil roulant à la fin de sa vie, mais était actif jusque dans les années 1980. Il a joué le solo de trompette sur l'enregistrement de Glenn Miller de "At Last", qui a été présenté dans le film Orchestra Wives, chanté en play-back par George Montgomery à l'écran. Billy May se souvenait : Il avait un bon son à l'instrument.
Jouer de la trompette peut être un concours d'endurance avec vos lèvres, et Johnny avait le contrôle. Il a joué sur "Begin the Beguin", qui a mis Artie Shaw en affaires.