Родился в Зорау, Верхняя Силезия (ныне Жоры, Польша), учился в Бреславле (Вроцлав). После ухода со своего поста в Университете Гамбурга в 1933 из-за нацистов, он стал профессором физики в Технологическом институте Карнеги и позднее стал почётным доктором в Калифорнийском университете.
Штерн был выдающимся экспериментатором; его вклад в физику включал развитие метода молекулярных пучков, открытие спина (совместно с Вальтером Герлахом, 1922; см. опыт Штерна-Герлаха), измерение атомных магнитных моментов, демонстрация волновой природы атомов и молекул, открытие магнитного момента протона. Он стал лауреатом Нобелевской премии по физике в 1943 году.