В. Я. Климов родился 11 (23) июля 1892 года в Москве. С 1918 года, после окончания МВТУ имени Н. Э. Баумана, работал начальником отдела авиационных двигателей Высшего совета народного хозяйства, затем занимал различные руководящие должности в научно-исследовательских институтах и на авиационных заводах, а также преподавал в МВТУ, ВВИА имени Н. Е. Жуковского, МАИ имени С. Орджоникидзе.
Одновременно участвовал в разработке первых советских звездообразных авиационных двигателей воздушного охлаждения М-12, М-23 и др. (1925—1927) и первого, самого мощного в то время (ок. 650 кВт (880 л. с.)), 12-цилиндрового двигателя жидкостного охлаждения М-13 (1925—1930). С 1935 года — главный конструктор авиационных двигателей. К середине 1930-х годов организует производство 12-цилиндрового двигателя М-100, мощность которого была на 30 % больше, чем у аналогичных зарубежных двигателей тех же размеров, а затем серийного двигателя М-103 для бомбардировщиков «СБ» конструкции А. Н. Туполева и А. А. Архангельского.
В конце 1930-х — начале 1940-х под руководством Климова создаётся ряд мощных серийных двигателей (М-105, ВК-105ПФ, ВК-107, ВК-108), оснащённых двухскоростным воздушным нагнетателем оригинальной конструкции. Эти двигатели устанавливались на пикирующих бомбардировщиках Пе-2 конструкции В. М. Петлякова и истребителях конструкции А. С. Яковлева, прославившихся в сражениях Великой Отечественной войны. В послевоенный период в ОКБ под руководством Климова разработан ряд воздушно-реактивных двигателей. В 1947—1949 создаются первые отечественные двигатели с центробежными компрессорами для реактивных самолётов. В 1951 году на основе английского двигателя «Nene» был создан ВК-1Ф — один из первых в мире турбореактивных двигателей, оснащённых форсажной камерой, который устанавливался на истребителях.
В ходе научных исследований и конструкторской работы Климовым были разработаны и внедрены специальная закрытая система жидкостного охлаждения поршневых авиационных двигателей под давлением, воздушный нагнетатель с двухскоростным приводом, усовершенствованная система газораспределения, система питания топливовоздушной смесью мощных и высокооборотных авиадвигателей, предложен ряд оригинальных решений в конструкциях ТРД. Климов внёс существенный вклад в развитие теории смазки, в решение проблем уравновешивания поршневых авиадвигателей и др. вопросов двигателестроения.
В. Я. Климов умер 9 сентября 1962 года. Похоронен в Москве на Новодевичьем кладбище (участок № 1).
В 2002 году именем В. Я. Климова была названа улица в Шевченковском районе города Запорожье. Также в Запорожье есть парк академика Климова.
Во время Великой Отечественной войны В. Я. Климов внёс большой вклад в Фонд обороны: