Происходил из дворянской семьи Ковалевских. Родился 27 августа 1851 года (по старому стилю) в Харькове.
В 1865 году блестяще выдержал экзамен в 5-й класс 3-й Харьковской гимназии, которую закончил с золотой медалью в 1868 году.
В 1868 году поступил в Харьковский университет на юридический факультет. Специализировался по государственному праву западноевропейских стран.
В 1871 году Максим Максимович окончил университет со степенью кандидата прав и был оставлен по инициативе Д. И. Каченовского при университете на кафедре государственного права европейских держав после представления работы «О конституционных опытах Австрии и чешской национальной оппозиции».
В 1872—1876 годах продолжил образование за границей сначала в Берлине, затем в Париже, где слушал лекции во французском колледже, высшей свободной школе политических наук и школе хартий и Лондоне, где занимался в Британском музее.
С 1877 по 1887 год преподавал в Московском Университете. В 1880 защитил докторскую диссертацию «Общественный строй Англии в конце средних веков». В апреле 1879 участвовал в работе первого земского съезда в Москве.
В 1879—1880 издавал вместе с В. Ф. Миллером журнал «Критическое обозрение», сотрудничал в журнале «Юридический вестник», газетах «Порядок» и «Земство».
Совершил ряд этнографических экспедиций на Кавказ: в 1883 году — с В. Ф. Миллером, в 1885 году — с Н. И. Иванюковым, в 1887 — с Ю. С. Гамбаровым.
В 1887 по приказу министра народного образования И. Д. Делянова уволен из университета и с этого времени жил преимущественно за границей, в основном, в Лондоне, Париже, на своей вилле Батава в Болье-сюр-мер около Ниццы. Выступал с лекциями в Стокгольме, Оксфорде, Брюсселе, Чикаго и др. городах по приглашениям от университетов и частных фондов.
В 1901 году вместе с Е. В. де Роберти и Ю. С. Гамбаровым основал в Париже Русскую высшую школу общественных наук, где проходили обучение российские политики оппозиционного направления.
В августе 1905 года во время революции возвратился в Россию и активно включился в политическую жизнь. В сентябре 1905 участвовал в съезде земских и городских деятелей в Москве. Основатель партии демократических реформ, в которую также входили В. Д. Кузьмин-Караваев и С. Д. Урусов. Активно сотрудничал в различных газетах.
Был масоном. Посвящен в 1?2 и 3-ю степени 14 марта 1888 года в Париже в Достопочтенную ложу «Космос» № 288 находившуюся под юрисдикцией Великой Ложи Франции. Возобновил членство 29 апреля 1904 года, по другим сведениям — присоединен после 6 февраля 1905 года. Перешел в ложу «Возрождение» 9 января 1906 года, по другим сведениям — действительный член ложи «Космос» по 1915 год. С 1906 года член-основатель ложи «Возрождение» Великого Востока Франции, был ее мастером-наместником и 1-м Стражем.
В 1906 году избран членом первой Государственной думы от Харьковской губернии. председатель комиссии по составлению наказа, входил в четыре другие комиссии, выступал в Думе 62 раза по большинству обсуждавшихся вопросов. В июле 1906 возглавлял думскую делегацию на 14-й международной межпарламентской конференции в Лондоне. После роспуска думы первого созыва отказался подписать Выборгское воззвание.
В 1907 году избран членом Государственного совета от академических организаций и университетов.
Профессор Петербургского университета (1905—1916). преподавал также в Петербургском политехническом институте и на высших женских курсах. Участвовал в организации Психоневрологического института.
Один из основателей партии прогрессистов, в 1912—1914 годах — член её ЦК.
Начало первой мировой войны застало Ковалевского в Карлсбаде на лечении. Как русский подданный он был интернирован до весны 1915 года, затем вернулся в Россию.
Умер в Петрограде 23 марта (5 апреля) 1916. Похоронен на Никольском кладбище Александро-Невской лавры; в похоронах принимало участие до 100 тыс. человек.
Исторической закономерностью является необходимость продвижения каждого общества от низшей к более высокой стадии. Однако этому прогрессу противоречит «противопоставление бедности и богатства, рознь между имущими и неимущими». Для преодоления этого противоречия он полагал необходимым вмешательство государства в распоряжение собственностью в интересах земледельцев и рабочих, юридическое закрепление права на труд, свободную деятельность профсоюзов, их борьбу за социальные права.
При медленности общественных изменений прогресс более надежен, чем при их быстроте, эволюцию надо предпочитать революции; прогресс желателен только под условием сохранения порядка.
1905—1916 — главное здание Санкт-Петербургского Императорского университета — Университетская набережная, 7.