Родился в еврейской семье издателя газеты «Современное слово» Владимира Полякова. У Владимира Полякова уже было несколько дочерей и Лев стал первым сыном в семье. Его назвали в честь Льва Толстого, который умер незадолго до его рождения. После прихода к власти большевиков состоятельная семья Полякова стала опасаться за свою безопасность и в 1920 году переехала сначала в Париж, потом — в Берлин. В 1924 году, почувствовав нарастающие антиеврейские настроения в Германии, семья Полякова возвращается в Париж. В Париже Поляков учится в Лицее Жансон-де-Сайи, позже изучает право на Парижском факультете права.
В 1933 году, после окончания университета, Поляков предлагает отцу идею издавать единственную в Париже немецкоязычную ежедневную антигитлеровскую газету. Они вместе издают эту газету под названием Pariser Tageblatt («Парижская ежедневная газета») до 1936 года, когда газета закрывается в результате конфликта Владимира Полякова с главным редактором газеты Георгом Бернхардом.
1 июля 1937 года посвящён в парижскую масонскую ложу «Юпитер». Возведён во вторую степень 3 февраля, в третью — 1 декабря 1938 года. Был членом ложи в довоенный период.
В октябре 1944 года возглавляет отдел исследований Центра современной еврейской документации (CDJC), созданного Ицхаком Шнеерсоном в апреле 1943 года. Целью CDJC был сбор данных о преступлениях нацистов против евреев в годы Второй мировой войны. После возвращения в Париж в 1945 году Полякову удаётся получить для CDJC архивы отделений гестапо, занимавшихся евреями, архивы Немецкого посольства в Париже, архивы немецкой штаб-квартиры и главной делегации вишистского правительства. Во время Нюрнбергского процесса выступает помощником прокурора Эдгара Фора, подготавливая для трибунала документы из французских архивов. Позже получает разрешение взять себе архивы Альфреда Розенберга.
С 1946 года Поляков, имея доступ к большому числу немецких документов времён войны, начинает публиковать исследования по истории антисемитизма и Холокоста. Первой его книгой стала «Положение французских евреев во время итальянской оккупации» (фр. «La condition des Juifs en France sous l'occupation italienne»; 1946). За ней последовали «Жёлтая звезда» (1949) и «Настольная книга ненависти: Третий Рейх и евреи» (1951), предисловие к которой было написано Франсуа Мориаком. Следующей книгой Полякова стал первый из четырёх том «Истории антисемитизма» (1956—1977), главного труда Полякова, в котором Поляков исследует эволюцию антисемитизма от эпохи Христа до прихода Гитлера к власти.
В 1954 году Поляков становится руководителем исследовательской группы в Национальном центре научных исследований (CNRS), кем и остаётся до 1971 года. В 1954—1979 годах преподаёт в Высшей школе социальных наук.
В 1981 году пишет автобиографию «Таверна музыкантов» (фр. «L'Auberge des musiciens. M?moires»), в которой описывает своё участие в движении Сопротивления.
Был женат на Натали Поляковой (однофамилица), развёлся в 1937 году. В 1952 году женился на Жермене Руссо, с которой жил до самой смерти.
Обладатель карточки «Комбатан Волонтёр» за участие в движении Сопротивления. В апреле 1961 года получает награду Эдмонда Вейля за «вклад в еврейскую жизнь и мысль». В 1971 году Поляков получает Антирасистскую награду за книгу «Арийский миф». В 1978 году награждён литературной премией ВИЦО (Международная женская сионистская организация) за книгу «Европа на пути к самоубийству» — 4-й том «Истории антисемитизма». В 1981 году получил награду по литературе Фонда иудаизма во Франции (). В 1989 году стал кавалером Ордена Почётного легиона.