В 1945—1953 — начальник Первого главного управления при СНК СССР (с 1946 — при Совете министров) СССР (организация производства ядерного оружия). Трижды Герой Социалистического Труда (1942, 1949, 1954), дважды лауреат Сталинской премии (1951, 1953). Генерал-полковник инженерно-технической службы (1944).
Родился в еврейской семье рабочего-нефтяника. Подростком после окончания начальной школы был рабочим на нефтепромыслах, затем на дорожном строительстве, также слесарем на заводе. Окончил Бакинское политехническое училище (1918), Московское высшее техническое училище имени Н. Э. Баумана (1926).
В 1916 вступил в Партию социалистов-революционеров, но в 1917 вышел из неё. В 1917 служил младшим десятником на строительстве дорог на Кавказе. В 1918—1919 служил в Красной армии. В 1919 вступил в РКП(б). В 1919—1920 находился на подпольной работе в Баку, а затем в Тифлисе.
В 1920 вновь был направлен на работу в Баку, который к тому времени уже был под контролем большевистской власти, работал сотрудником при старшем инспекторе Наркомата Рабоче-крестьянской инспекции (РКИ) РСФСР. В 1920 переехал в Москву, с 1921 — старший инспектор, с 1924 — заместитель управляющего экономической инспекцией Наркомата РКИ РСФСР. Одновременно учился в МВТУ имени Н. Э. Баумана.
С 1927 — инженер, начальник цеха, технический директор завода сельскохозяйственного машиностроения в Люберцах. В 1930—1933 начальник отдела автотракторного машиностроения — заместитель начальника Главного управления сельскохозяйственного машиностроения ВСНХ СССР. В 1933—1936 — директор Тульского оружейного завода. В 1936 — директор машиностроительного завода в Перми.
В 1936—1937 годах — начальник Главного артиллерийско-танкового, в 1937 году — танкового управления Наркомата оборонной промышленности СССР. С декабря 1937 года — заместитель народного комиссара оборонной промышленности СССР. В январе 1939 года — июне 1941 года — народный комиссар вооружения СССР. 7 июня 1941 был арестован. 20-го июля 1941 года освобождён и назначен заместителем народного комиссара вооружения.
С 16 февраля 1942 года — народный комиссар Наркомата боеприпасов СССР. Организовывал обеспечение всеми видами орудий, миномётов, боеприпасов всех видов и калибров РККА и ВМФ. В конце 1942 выпуск боеприпасов вдвое превысил их производство в 1941, а в 1943 по сравнению с 1941 производство возросло втрое. При этом улучшились качество, баллистические данные снарядов. В результате, с 1943 года действующая армия не испытывала недостатка в снарядах, что способствовало скорейшему достижению Победы. С середины 1943 производство боеприпасов было переведено на поточный метод. По своим техническим характеристикам боеприпасы Красной армии превосходили аналогичные боеприпасы немецкой армии.
В январе—июне 1946 — народный комиссар (министр) сельскохозяйственного машиностроения СССР.
В 1945—1953 — начальник Первого Главного управления при СНК (с 1946 — при Совете министров) СССР, которое осуществляло организацию всех исследований и работ по созданию в СССР атомной бомбы, а затем и производства ядерного оружия. Руководил этими работами вместе с И. В. Курчатовым. Один из участников «атомного проекта» Н. Н. Головин позднее вспоминал: «Б. Л. Ванников и И. В. Курчатов как нельзя лучше дополняли друг друга. Курчатов отвечал за решение научных задач и правильную ориентацию инженеров и работников смежных областей науки, Ванников — за срочное исполнение заказов промышленностью и координацию работ».
В 1953—1958 — первый заместитель министра среднего машиностроения СССР (ведало производством атомного оружия).
В 1954 году за руководство при создании водородной бомбы он был удостоен третьей Золотой Звезды.
С 1958 — на пенсии.
В 1939—1961 — член ЦК ВКП(б), ЦК КПСС. В 1946—1950 — депутат Верховного Совета СССР.
Скончался 22 февраля 1962 года в Москве. Урна с его прахом погребена в Кремлёвской стене на Красной площади.
На родине, в Баку, в мае 1982 года установлен бюст героя.
Именем наркома названы: