Унаследовал фамилию от отца — внебрачного сына помещика Наумова. Родился в 1846 году в Симбирске. Ещё мальчиком познакомился с анатомией под руководством отца, который был военным врачом и занимался собиранием естественно-исторических коллекций. Окончив курс в 1-й московской гимназии, поступил в 1863 году на математическое отделение физико-математического факультета Московского университета, который закончил со степенью кандидата в 1867 году. Намереваясь поступить в технологический институт, пожелал сначала ознакомиться с практикой технических производств, для чего работал некоторое время на вагоностроительном заводе Вильямса и Бухтеева. Два месяца пробыл вольнослушателем в Санкт-Петербургском технологическом институте, затем был оставлен при Московском университете для приготовления к профессорскому званию по кафедре физики. В следующем году преподавал физику во 2-й женской гимназии и читал лекции по физике на женских Лубянских курсах.
В 1871 году году при активном участии Ф.Н. Шведова был приглашен в Новороссийский университет, где 22 ноября был избран доцентом по кафедре физики и переехал в Одессу. На следующий год защитил магистерскую диссертацию «Теория термомеханических явлений в твердых упругих телах» и был избран доцентом Новороссийского университета. Затем там же последовательно получил экстраординатуру и ординатуру. В 1874 году защитил докторскую диссертацию «Уравнения движения энергии в телах».
В 1893 году перешёл в Московский университет, где преподавал физику студентам-медикам и теоретическую физику студентам-математикам. После смерти профессора А. Г. Столетова читал курсы по экспериментальной физике. Вместе с П. Н. Лебедевым принял деятельное участие в составлении проекта и организации Физического института при университете.
Решил в общем виде задачу о распределении электрических токов на проводящих поверхностях произвольного вида (1875). Экспериментально исследовал диффузию веществ в водных растворах, поляризацию света в мутных средах, открыл эффект хроматической деполяризации лучей света, падающих на матовую поверхность (1888—1891).
В 1900-е годы провёл глубокий анализ многих сложных формул Гаусса в теории земного магнетизма, что позволило определить вековые изменения магнитного поля Земли.
Впервые, ещё в 1873 году, указал на зависимость энергии от массы [нет в источнике], впоследствии строго выведенную (без какого-либо коэффициента k) Эйнштейном в специальной теории относительности (СТО). Одним из первых русских учёных оценил значение СТО.
Впервые ввёл в науку такие основополагающие понятия, как скорость и направление движения энергии, плотность энергии в данной точке среды, пространственная локализация потока энергии. Однако, не обобщил эти понятия на другие виды энергии, кроме энергии в упругих телах. В 1884 году понятие потока электромагнитной энергии ввел Дж. Пойнтинг, используя для описания распространения энергии вектор, называемый в российской научной традиции «вектором Умова — Пойнтинга» (в западной научной традиции — «вектор Пойнтинга»).