Окончил историко-филологический факультет Харьковского университета (1910), преподавал в Харьковском, Пермском и других университетах. С 1944 г. в Киеве, директор института языкознания им. А. А. Потебни АН УССР (1944—61), также заведовал кафедрой украинского языка и кафедрой славянской филологии Киевского университета (1944—47).
Автор популярного учебника «Введение в языкознание» (1953). Внёс вклад в реконструкцию славянской акцентной системы и описание акцентных систем ряда славянских языков, подготовив почву для последующих исследователей (В. М. Иллич-Свитыч, В. А. Дыбо, А. А. Зализняк и др.), в работах которых была воссоздана цельная картина эволюции славянского ударения. Изучал также историю украинского языка и, наряду с В. В. Виноградовым, эволюцию лексики и грамматики русского языка на протяжении XIX в.
В честь Леонида Булаховского в Киеве названа улица.