Виельгорский был сыном польского посланника при дворе Екатерины II, деятеля Тарговицкой конфедерации, на русской службе имевшего чин действительного тайного советника, и фрейлины Императрицы Екатерины II графини Софьи Дмитриевны Матюшкиной.
В 1794 году вместе с отцом и братьями принял православие, причем восприемницей была сама императрица.
В десять лет Михаил вместе со своим младшим братом был пожалован Павлом I в звание рыцаря Мальтийского ордена.
В январе 1804 года граф Виельгорский был пожалован в камер-юнкеры; тогда же он поступил на службу в Государственную коллегию иностранных дел, где состоял до апреля 1812 года, когда причислился к Министерству народного просвещения.
В 1818 году он перешёл в ведомство Министерства внутренних дел, но в 1826 году вновь определился в Министерство народного просвещения, в 1827 году временно замещал должность попечителя Харьковского учебного округа; состоял членом Главного правления училищ, находящихся в С.-Петербурге, и членом Комитета Главной театральной дирекции.
В 1832 году в чине действительного статского советника и в звании шталмейстера, Михаил Виельгорский был назначен почётным опекуном С.-Петербургского опекунского совета и управлял воспитательным домом, Мариинской больницы и Училищем глухонемых. В 1838 году был пожалован в гофмейстером, в 1845 году был назначен членом Главного совета женских учебных заведений, в июне 1846 года пожалован в обер-шенки.
Особой страстью Михаила Виельгорского была музыка, он был прекрасным исполнителем и композитором, и хотя дилетантом, но по отзыву Шумана, «гениальным дилетантом».
Уже в детские годы у него проявились незаурядные музыкальные способности: он неплохо играл на скрипке, пытался сочинять. Виельгорский получил разностороннее музыкальное образование, теорию музыки и гармонию он изучал у В. Мартин-и-Солера, композицию у Тауберта. Ещё в 1804 г., когда вся семья жила в Риге, Виельгорский принимал участие в домашних квартетных вечерах: партию первой скрипки исполнял отец, альта — Михаил Юрьевич, а партию виолончели — его брат Матвей, выдающийся музыкант-исполнитель. Не ограничиваясь полученными знаниями, Виельгорский продолжил занятия композицией в Париже у Л. Керубини — известного композитора и теоретика.
Испытывая большой интерес ко всему новому, Виельгорский в Вене познакомился с Л. Бетховеном и присутствовал в числе первых восьми слушателей при исполнении «Пасторальной» симфонии. В течение всей жизни он оставался горячим поклонником немецкого композитора. Перу Виельгорского принадлежит опера «Цыгане» на сюжет, связанный с событиями Отечественной войны 1812 г. (либретто В. Жуковского и В. Соллогуба), он одним из первых в России осваивал крупные сонатно-симфонические формы, написав две симфонии (Первая была исполнена в 1825 г. в Москве), струнный квартет, две увертюры. Им созданы также Вариации для виолончели с оркестром, пьесы для фортепиано, романсы, вокальные ансамбли, а также ряд хоровых сочинений. Романсы Виельгорского пользовались большой популярностью. Один из его романсов («Любила я») охотно исполнял Глинка.
Дом Виельгорского всегда становится своеобразным музыкальным центром. Здесь собирались истинные ценители музыки, впервые исполнялись многие сочинения. В доме Виельгорского Ф. Лист впервые играл с листа (по партитуре) «Руслана и Людмилу» Глинки. Поэт Д. Веневитинов называл дом Виельгорского «академией музыкального вкуса», Г. Берлиоз, приезжавший в Россию, — «маленьким храмом изящных искусств».
В свое поместье Луизино в Курской губерни, вдали от столичной жизни, Виельгорский сумел привлечь многих музыкантов. В 20-х гг. в его имении были исполнены 7 симфоний Бетховена. Виельгорский высоко ценил музыку Глинки. Оперу «Иван Сусанин» он считал шедевром.
Виельгорский оказывал поддержку многим прогрессивным деятелям России. Так, в 1838 г. совместно с Жуковским он организовал лотерею, вырученные средства от которой пошли на выкуп из крепостной зависимости поэта Т. Шевченко.
Умер Михаил Виельгорский 9 сентября 1856 года в Москве. Его зять граф В. Соллогуб вспоминал о нём:
Первой женой Михаила Виельгорского была фрейлина Екатерина Бирон (1793-1813), племянница последнего курляндского герцога. Этому браку способствовала императрица Мария Фёдоровна. Венчание состоялось в феврале 1812 года в Большой церкви Зимнего дворца. Этот брак укрепил позиции Виельгорского при дворе.
В воспоминаниях современницы Екатерина Бирон описывается, как милое, наивное дитя, которое любило кружева и наряды. После свадьбы Виельгорские переехали в Москву, вскоре началась Отечественная война. Спасаясь от неприятеля, они уехали в одно из своих имений. В январе 1813 года чета Виельгорских решила вернуться в Петербург. Екатерина находилась на последнем сроке беременности. Их путь лежал через сгоревшую Москву. С трудом добравшись до Москвы, Виельгорские поселились в доме князя Голицына, где Екатерина умерла в результате родов. Об этой трагедии писала их родственница :
В 1816 году Михаил Виельгорский тайно женился на старшей сестре первой жены Луизе Бирон (1791—1853) — фрейлине императрицы Марии. Такой брак по церковным правилам считался противозаконным. Этим он навлёк на себя опалу и вынужден был уехать в свое поместье Луизино в Курскую губернию. В этом имение Виельгорские прожили несколько лет. Здесь же родились их дети: