Джером Карле родиля 18 июня 1918 года в Нью-Йорке. В 1937 году получил степень бакалавра в Сити-колледж при Нью-Йоркском университете, где он познакомился с Хербертом Хауптманом, а в 1938 году — степень магистра по биологии в Гарвардском университете. В 1943 защитил диссертацию по физической химии в Мичиганском университете. В 1946 Карле вошёл в штат военно-морской научно-исследовательской лаборатории в Вашингтоне, где снова встретился с Хауптманом. В 1950-е годы сотрудничал с ним над созданием прямого метода расшифровки трехмёрных молекулярных структур с помощью рентгеновской кристаллографии. За эти работы в 1985 году был удостоен Нобелевской премии по химии.