Родился 25 октября 1832 в городе Петергофе, назван в честь младшего брата Николая I великого князя Михаила Павловича. 6 декабря 1862 года назначен наместником на Кавказе и командующим Кавказской армией, со всеми правами главнокомандующего действующей армией; 19 апреля 1864 года назначен главнокомандующего действующей армией; 23 июля 1881 года уволен от должности наместника и главнококомандующего Кавказской армией
1 (13) марта 1881, около 2 часов пополудни, был на чае в Михайловском дворце у великой княгини Екатерины Михайловны, где присутствовал также его брат император Александр II, смертельно раненный при возвращении в Зимний дворец около 2 часов 25 минут пополудни; прибыл на место покушения вскоре после второго взрыва (смертельного для императора), отдавал распоряжения и приказания на месте происшествия.
Назначен председателем Государственного совета 14 июля 1881 года.
Именным Высочайшим указом от 24 августа 1905 года назначен почётным председателем Государственного совета. Инициатор составления «Кавказского Сборника», издававшего в Тифлисе в 1876—1912 военно-историческим отделом штаба Кавказского военного округа. Вышло 32 тома. В «КС» печатались документы и материалы по истории Кавказских войн.
В 1857 году, в возрасте 25 лет, великий князь Михаил Николаевич женился на Цецилии Баденской (в православии Ольга Фёдоровна) - младшей дочери великого герцога Баденского Леопольда, а также двоюродной сестре Императрицы Елизаветы Алексеевны (супруге Императора Александра I). В браке с ней имел шестерых сыновей и одну дочь:
В 1857 году в казну перешёл дом №6 (дом П. Ф. Балка) на Миллионной улице в Санкт-Петербурге. В 1857-1863 годах по проекту А. И. Штакеншнейдера он был перестроен под служебный корпус дворца великого князя Михаила Николаевича. В здании расположились запасный дом и Конюшенный двор великого князя Николая Михайловича.
После кончины великого князя в декабре 1909 года двор был упразднён.
При совершении Святого Таинства Крещения получил имя Святого Архистратига Божия Михаила и Императорские ордена Святого Апостола Андрея Первозванного, Святого Александра Невского, Белого Орла, Святой Анны 1-го класса, и Святого Станислава 1-го класса.
Вместе с державным братом 7 (20) ноября 1854 года он Высочайше пожалован был военным орденом Святого великомученика и Победоносца Георгия 4-го класса «В воздаяние за мужество, оказанное Им в сражении при Севастополе 24-го числа минувшего Октября, и за неустрашимость, коею Он отличился при посещении после того Севастопольских бастионов и батарей, под смертоносным неприятельским огнем». В 1862 году Высочайше пожалован орденом Святого равноапостольного Великого Князя Владимира 1-го класса — редкой наградой для членов Императорской Фамилии.
15 (30) июня 1864 года «За покорение Западного Кавказа» Высочайшим Манифестом Государь Александр II Николаевич жалует Великого Князя Михаила орденом Святого великомученика и Победоносца Георгия 2-го класса. 9 (22) октября 1877 года «За разбитие наголову Кавказскими войсками, под личным предводительством Его Высочества, армии Мухтара-Паши в кровопролитном бою, 3-го Октября 1877 года, на Аладжинских высотах и принуждение большей части оной сложить оружие» пожалован был орденом Святого Георгия 1-го класса.
До революции великому князю Михаилу Николаевичу небольшие памятники были установлены в городах:
В честь его рождения была построена церковь во имя Воскресения Христова и св. Михаила Архангела в Коломне.
Михаил Николаевич, 1852 год
Михаил Николаевич, 1865 год
Портрет Великого князя Михаила Николаевича (1913 год, работы Эрнста Липгарта; Музей Гвардии)