Учился в Петербургском институте горных инженеров. Литературную деятельность начал в 1860 в журнале «Рассвет» под редакцией В. А. Кремпина. Сотрудничал в различных периодических изданиях («Книжный вестник», «Гласный суд», «Неделя», «Современное обозрение»). Перевёл «Французскую демократию» Прудона (Санкт-Петербург, 1867).
С 1868 участвовал в журнале «Отечественные записки». После смерти Н. А. Некрасова (1877) стал одним из редакторов журнала (вместе с М. Е. Салтыковым-Щедриным и Г. З. Елисеевым).
В 1879 сблизился с организацией «Народная воля», его первая встреча с руководителями партии состоялась в библиотеке П. В. Засодимского по адресу Невский, 80. Михайловский публиковал статьи в газете «Народная воля». После закрытия «Отечественных записок» (1884) сотрудничал в журнале «Северный вестник» и «Русская мысль», в газете «Русские ведомости». Высылался из Петербурга (1882, 1891) за связи с революционными организациями. С 1892 один из редакторов журнала «Русское богатство» (совместно с В. Г. Короленко).
Николай Константинович скончался в 1904 году и был похоронен в Санкт-Петербурге на Литераторских мостках Волковского кладбища.
Михайловскому наравне с П. Л. Лавровым принадлежит разработка идеи о свободном выборе «идеала», которая философски обосновывала возможность изменить общественное развитие в избранном передовой интеллигенцией направлении. Наиболее полное выражение эта идея получила в так называемом субъективном методе социологии, который в качестве высшего мерила общественного прогресса и исходным пунктом исторического исследования полагал отдельную личность («Что такое прогресс?», «Аналогический метод в общественной науке», «Теория Дарвина и общественная наука», «Что такое счастье?», «Борьба за индивидуальность»).
Разрабатывал теорию «героев и толпы», объяснявшей механизм коллективного действия склонностью человека к подражанию («Герои и толпа», «Научные письма (к вопросу о героях и толпе)», «Патологическая магия», «Ещё о толпе»). Он считает, что психологическое воздействие личности зависит от восприятия массы, и в принципе любой человек, а не обязательно выдающаяся личность, оказавшись случайно впереди толпы, может сыграть важную роль в определенных событиях.
В 1880-е критиковал теорию «малых дел» и толстовство. В начале 1890-х выступал против русских марксистов (см. тж. «легальный марксизм»), обвиняя их в защите капитализма и отказе от наследства шестидесятников и семидесятников.
Б. Горев в статье «Н. К. Михайловский и революция», написанной по поводу 20-летия со дня смерти выдающегося социолога и публициста, приходит к выводу, что «сторонник консервативного мелкобуржуазного социализма, он (Н. К. Михайловский) даже тогда, когда признал необходимость политической борьбы, признавал лишь одну ее форму: террористическое воздействие на правительство с целью вынудить либеральные реформы».
В начале XX века в кругах демократической, особенно народнической, интеллигенции фигура Михайловского была окружена культом, его ставили в один ряд с крупнейшими фигурами освободительного движения, такими, как А. И. Герцен или Н. Г. Чернышевский. Однако после 1917 года слава Михайловского померкла: он был оппонентом марксизма и сторонником критиковавшейся марксистами теории героев и толпы, в эмиграции к его наследию также обращались редко.
В литературной критике считается продолжателем Н. Г. Чернышевского и Н. А. Добролюбова. В литературно-критических работах анализировал творчество Л. Н. Толстого, Ф. М. Достоевского, Г. И. Успенского, В. М. Гаршина, Максима Горького и других писателей. Значительный общественный резонанс получили статьи «Десница и шуйца Льва Толстого» и «Жестокий талант» (о Ф. М. Достоевском).
Пользовался псевдонимами Гроньяр, Посторонний, Профан и другими.
1900 — 28.01.1904 года — Спасская улица, 5.