Ayant obtenu son doctorat en Allemagne, avec une thèse sur les effets quantiques dans les semi-conducteurs nouvellement découverts. Ses recherches sur les transistors ont été une pierre angulaire pour le développement ultérieur.
Kroemer a travaillé dans divers domaines. Il a rejoint le corps professoral de l'UCSB en 1976, en se concentrant sur la technologie émergente des semi-conducteurs composites plutôt que sur les semi-conducteurs. Il a co-écrit le manuel, publié pour la première fois en 1980 et toujours utilisé aujourd'hui. Il est également l'auteur du manuel de Mécanique Quantique pour l'Ingénierie, la Science des Matériaux et la Physique Appliquée.
Kroemer a ensuite été élu membre en 1997 et a toujours préféré travailler sur des problèmes en avance sur leur temps. Dans les années 1950, il a été le premier à souligner les avantages pouvant être obtenus dans divers dispositifs à semi-conducteurs en les incorporant.
En 1963, il a notamment proposé le concept du double hétérojonction, qui est maintenant un concept central dans le domaine des lasers à semi-conducteurs. Il est devenu un pionnier précoce en se concentrant sur l'application de la technologie à de nouveaux matériaux non testés.