Родился в помещичьей семье, в Симбирске, отец — прапорщик Михаил Петрович Языков (1774—1836), мать — Екатерина Александровна Ермолова. На 12-м году был отдан в институт горных инженеров в Петербурге, а по окончании в нем курса поступил в инженерный корпус; но не чувствуя призвания к занятиям математикой и увлекаясь поэзией, решил, по совету профессора словесности в Дерптском университете, известного литератора А. Ф. Воейкова, перейти в этот университет (1820). В 1819 году дебютировал в печати (на страницах «Соревнователя просвещения и благотворения»).
Учёба на этико-политическом отделении философского факультета в Дерпте продолжалась 7 лет, с 1822 по 1829 годы. Увлечение «традиционными для немецких студентов пирушками и амурами» было главной причиной того, что Языков не успел за все это время окончить университетского курса. Благодаря условиям свободной и веселой жизни тогдашнего студенчества Языков создает в своих стихах самобытный, яркий и праздничный мир молодого раздолья и вольнолюбия — новый торжественный дифирамбический стиль «лёгкой поэзии». Его анакреонтические стихотворения во славу вина и веселья вскоре были замечены Жуковским. Дельвиг искал его стихов для своих «Северных цветов», а Пушкин приглашал к себе в Михайловское.
Из Дерпта поэт лишь на короткое время уезжал в Москву и Петербург. В 1826 году гостил в Псковской губернии, в Тригорском у А. С. Пушкина. Там было написано знаменитое стихотворение «Тригорское». Впоследствии Языков с удовольствием вспоминал об этой поездке в проникновенном стихотворном послании к Арине Родионовне.
В 1829 г., накопив в Дерпте долгов, Языков переселился в Москву, в дом своих друзей Елагиных, якобы для подготовки к экзаменам в Казанском университете, но в начале 1830-х годов переехал в свою симбирскую деревню, Языково, где и прожил несколько лет, «наслаждаясь», как он сам говорил, — «поэтической ленью». В сентябре 1833 года проездом в Оренбург и обратно здесь бывал А. С. Пушкин. «Прибежищем поэзии» называли этот дом в первой половине XIX века, здесь бывали декабрист В. П. Ивашев, поэт-партизан Д. В. Давыдов, мыслитель А. С. Хомяков.
Во время пребывания в деревне Языков через своего будущего зятя (мужа сестры) А. С. Хомякова и племянника Д. А. Валуева начинает сближаться со славянофилами. В 1831 году вместе с П. В. Киреевским принимается за сбор материалов по русской народной поэзии. Также в этот период увлёкся гомеопатией, стал переводить с немецкого сочинения на эту тему.
«Здоровье, подорванное дерптскими излишествами, стало изменять ему очень рано». Осенью 1836 г. с новой силой возобновились одно время было ослабевшие его недуги — солитер, болезнь спинного мозга и др., которые начали так быстро прогрессировать, что поэт вскоре не мог прямо ходить и весной следующего года принужден был уехать для лечения в Москву, куда сопровождал его П. В. Киреевский. Знаменитый врач Иноземцев, осмотрев Языкова, посоветовал ему как можно скорее ехать за границу.
Киреевский сопровождал его сначала в Мариенбад, потом в Ганау, Крейцнах и Гаштейн. В Ганау Языков сблизился с Гоголем, который в 1842 г. повез его с собой в Венецию и Рим. Гоголь называл Языкова своим любимым поэтом: «Имя Языков пришлось ему недаром. Владеет он языком, как араб диким конём своим, да еще как бы хвастается своею властью». Дружба Языкова и Гоголя вначале была горячей и искренней, хотя выражалась преимущественно в сочувственном отношении каждого из них к таланту другого, свойственной им обоим религиозности и сходных телесных недугах. Из-за мелких житейских дрязг они расстались, но продолжали переписываться.
Языков умер 26 декабря 1846 г. холостым и был похоронен в Даниловом монастыре. Неподалёку от его могилы позднее были преданы земле Гоголь и Хомяков. В 1930-е гг. все трое были перезахоронены на Новодевичьем кладбище.
После смерти Николая Михайловича Языкова 2 325 книг из его личной библиотеки были переданы его братьями Петром и Александром в фонд Карамзинской общественной библиотеки в Симбирске.