Леонид Леонидов родился 22 мая (3 июня) 1873 года в Одессе.
Во время учебы в Ришельевской гимназии увлёкся любительским театром. Работал актёром в любительской труппе Городской народной аудитории (реж. Г. Матковский), игравшей преимущественно для рабочих. В это время принял псевдоним Леонидов. В 1895 году, после неудачной попытки вступить в труппу Н.Соловцова, уезжает в Москву поступать в императорское театральное училище (ныне — Высшее театральное училище имени М. С. Щепкина). Во время учёбы участвовал в утренниках Малого театра, играл в выпускном спектакле училища «Лес» А. Н. Островского (Милонов), однако через год бросил училище и вернулся в Одессу. Здесь работал в труппе Н. Соловцова, которая выступала в Одессе и Киеве (1896—1901). Затем перешёл в Московский театр Ф. Корша (режиссёр Н. Н. Синельников), а через два года по приглашению В. И. Немировича-Данченко вступает в Московский Художественный театр, где прослужил 38 лет (до конца жизни). К. С. Станиславский считал Леонидова «единственным русским трагическим актёром».
Занимал ответственные должности в Художественном театре: заведующий труппой и репертуаром (1921—1922), заместитель директора театра (1927—1928), состоял в Совете (1932, совместно с В. И. Качаловым и И. М. Москвиным), управлявшим театром во время отсутствия руководителей, с 1939 года входил в Художественный совет МХАТ под председательством В. И. Немировича-Данченко.
В последние годы жизни Леонидов преподавал в Государственном институте театрального искусства им. А. В. Луначарского актёрское мастерство (с 1935 года — декан актёрского факультета, с 1939 года — художественный руководитель института; доктор искусствоведения, профессор). Среди его учеников Евгений Максимович Полосин.
Главные роли в театре: Васька Пепел («На дне» М. Горького), Кассий («Юлий Цезарь» Шекспира), Лопахин («Вишневый сад» А. П. Чехова), Дмитрий Карамазов («Братья Карамазовы» по Ф. М. Достоевскому); в советское время — Пугачёв («Пугачёвщина» К. А. Тренёва), Бородин («Страх» А. Н. Афиногенова), Плюшкин («Мёртвые души» по Н. В. Гоголю), Булычёв («Егор Булычёв и другие» М. Горького).
С 1918 года снимался в кино, играл роли Ивана Грозного («Крылья холопа», 1926), Петра Первого («Царевич Алексей», 1918), Гобсека («Гобсек», 1937) и другие. Жил в Москве на Кузнецком Мосту в доходном доме Хомякова.