Окончил Тамбовскую мужскую гимназию. В 1914 году Леонид Рамзин окончил Императорское Московское техническое училище (ныне МГТУ имени Н. Э. Баумана). В 1920 году стал там же профессором.
В 1921 году возглавил Всесоюзный теплотехнический институт. Участвовал в разработке и осуществлении плана ГОЭЛРО. До ареста работал директором Теплотехнического института, являлся членом Госплана СССР и ВСНХ СССР.
В 1930 году обвинён по сфабрикованному делу «Промпартии». Его показания, в которых он подробно описал деятельность якобы существовавшей подпольной инженерной организации, стали основным аргументом следствия против него и других обвиняемых. Был приговорён к расстрелу, заменённому 10 годами тюремного заключения.
В заключении продолжал работу над конструкцией прямоточного котла. В 1933 году первый прямоточный котёл был введён в эксплуатацию на ТЭЦ-9 Мосэнерго.
В 1934 году Рамзин возглавил ОКБ прямоточного котлостроения, организованное в составе 9-го управления ГПУ. Это конструкторское бюро, в котором работали арестованные инженеры, стало одной из первых «шарашек».
В 1936 году освобождён из заключения по амнистии.
В 1943 году Рамзин вместе с академиком А. В. Щегляевым основал энергомашиностроительный факультет и кафедру котлостроения в Московском энергетическом институте. С 1944 года — заведующий кафедрой котлостроения в МЭИ.
Умер в 1948 году. Похоронен на Армянском кладбище в Москве.