В 1956 году закончил 1-й Московский Медицинский Институт, 2 года работал врачом на Чукотке, затем врачом-рентгенологом в Москве, в Факультетской Терапевтической Клинике 1-го Московского Медицинского Института.
Написал историю самиздатского журнала Хроника текущих событий , в которой сравнивает значение Хроники со значением герценовского «Колокола»
В 1970-е годы он был одним из немногих врачей, не боявшихся лечить бывших политзаключенных. Оказывал профессиональную помощь Софье Каллистратовой.
B 1979 году Л.Терновский вместе с Вячеславом Бахминым присоединяется к Московской Хельсинкской группе , где уже работали Елена Боннэр, Софья Каллистратова, Иван Ковалев, Мальва Ланда, Наум Мейман, Виктор Некипелов, Татьяна Осипова, Юрий Ярым-Агаев.
В 1980 году Терновский был арестован по обвинению в «антигосударственной деятельности» и приговорен к трем годам заключения по статье 190-1 «Распространение заведомо ложных измышлений порочащих Советский государственный и общественный строй» . Отбывал наказание в лагере под Омском.
B 1991 году реабилитирован.
В 2005 году награжден медалью Уполномоченного по правам человека РФ «Спешите делать добро».
Леонард Терновский — автор многих книг и публикаций . Статья Терновского «Закон и „понятия“» перекликается с одноименной карикатурой Сергея Ермилова.
Умер 14 февраля 2006 года в Москве.