Среднее образование получил в 1-й Московской гимназии. Затем поступил в Императорское Московское техническое училище, которое закончил в 1879 году, получив звание механика-строителя.
Увлёкшись ботаникой, в 1898 году бросил работу преподавателя технического училища и стал учёным хранителем, а позже старшим ботаником Ботанического музея Академии наук, где проработал до конца жизни.
Литвинов был активным путешественником, участвовал во многих экспедициях. Первооткрыватель (вместе с В. Я. Цингером) ботанического феномена урочища Галичья гора (1882).
Выдвинул гипотезу о реликтовом происхождении сосновых лесов на меловых горах в европейской части России.