Родился в селе Старая Сурава Усманского уезда, ныне Липецкой области.
Окончил Военно-воздушную академию им. Н. Е. Жуковского (1928).
В 1932—1933 — начальник Газодинамической лаборатории, в 1933—1937 — начальник Реактивного института.
В 1937 директора НИИ No 3 НКОП И. Т. Клейменова и главного инженера Г. Э. Лангемака представляли к правительственным наградам за разработку новых типов вооружения.
2 ноября 1937 г. он и главный инженер Г. Э. Лангемак были арестованы, осужден по ст. 58-6, 58-7, 17-58-8, 58-11 УК РСФСР (следственное дело No Р2020 (13630)). 10 января 1938 года расстрелян.
11 июня 1955 г. по определению No 4н07119/55 Военной Коллегии Верховного Суда СССР было отменено постановление Военной Коллегии от 10 января 1938 г., и дело прекращено за отсутствием состава преступления. И. Т. Клейменов был полностью реабилитирован.
Официальное признание Иван Терентьевич Клеймёнов и другие участники создания знаменитого реактивного оружия Второй мировой воины — реактивного миномета «Катюша» — получили только в 1991 году. Указом Президента СССР М. С. Горбачева от 21 июня 1991 И. Т. Клейменову, Г. Э. Лангемаку, В. Н. Лужину, Б. С. Петропавловскому, Б. М. Слонимеру и Н. И. Тихомирову посмертно было присвоено звание Героев Социалистического Труда.
Именем Клейменова назван кратер на обратной стороне Луны.