Родившись в семье Глинских, Михаил Львович с рождения был богат и имел значительные поместья. Обладая от природы недюжинным умом, он многому научился за время 12-летнего пребывания за границей. Служил в войске Альбрехта саксонского, у Максимилиана I участвовал в итальянских войнах. В Италии принял католицизм, был и в Испании; выучился говорить на главных европейских языках. Возвратясь в Литву, он понравился королю Александру, который постоянно обращался к нему за советами. В 1499 году Александр сделал его маршалом своего двора, а когда отправился в Краков на коронацию, Глинский сопровождал его в качестве посла от Литвы.
Громадное богатство помогало ему приобретать себе сторонников и друзей, преимущественно, впрочем, из среды русского боярства. Литовская знать сильно опасалась, что Глинский, по смерти бездетного Александра, может захватить власть в свои руки, перенести столицу в Русь и опереться на эту последнюю. Когда король опасно заболел, многие подозревали, что, в стычке с доктором Балинским, Глинский хотел отравить короля, и это подозрение ещё более усилилось, когда князь освободил арестованного канцлером Ласким доктора и дал ему возможность бежать в Краков. Победы Глинского в стычках с Крымским ханством, в том числе в 1506 году в Клецкой битве, только усиливали зависть и ненависть к нему. Вскоре король скончался. Отправлению его тела для погребения в Краков воспротивились паны, боясь, что в их отсутствие Глинский легко может овладеть Вильной. Между тем, в литовскую столицу прибыл королевич Сигизмунд. Враги Глинского, особенно Ян Заберезинский, добились того, что Глинскому воспрещён был свободный вход в покои государя. Глинский требовал суда с своими противниками, но король вёл себя в этом деле вяло и нерешительно; Глинский обращался к посредничеству венгерского короля Владислава (1507), но напрасно.
Тогда Глинский, вместе с братьями Иваном и Василием, уехал в свой Туров, созвал к себе слуг и друзей и назначил королю срок, к которому ему должен быть дан суд. Великий князь московский Василий воспользовался случаем и предложил всем Глинским защиту, милость и жалованье. Попытка Сигизмунда возвратить Глинского в Литву не состоялась, и Глинский заключил формальный договор с Москвой. В начале 1508 года он открыто поднял знамя бунта. С братом Василием он обложил Минск, но, не будучи в силах взять его, пошёл к Клецку. Здесь братья разделились: Василий пошёл на киевские пригороды поднимать русских, а Михаил опустошил слуцкие и копыльские волости и взял Мозырь. По приходе к нему на помощь от вёл. кн. под руководством воеводы Евстафия Дашковича, с 20 тыс. конницы, Глинский из Мозыря пошёл на другие русские крепости и заключил договоры с послами московским, молдавским и крымским, действуя как бы владетельный государь. Московские воеводы подошли к Глинскому на Березину, сообща с ним осадили Минск и послали отряды к самой Вильне; другие воевали Смоленскую область, третьи подошли к Бобруйску. Вскоре вёликий князь послал ещё новые полки к Орше, но подоспевший с войсками король заставил их снять осаду и отступить.
Глинский отправился в Москву, где принят был весьма милостиво. Но вскоре между Сигизмундом и Василием заключён был мир, поставивший Глинских в положение изгнанников. Они лишились своих владений в Литве и выехали с своими сторонниками в Москву. Михаилу Глинскому дано было два города: Ярославец и Боровск. Король несколько раз просил Василия выдать ему Глинского, обещая простить им прошлое. Великий князь отвечал, что Глинские перешли к нему во время войны и таким образом сделались его подданными, а подданных он не выдаёт никому.
Когда между Москвой и Литвой вновь вспыхнула война (1512), Глинский послал своего наперсника, немца Шлейница, в Силезию, Чехию и Германию нанимать конных воинов и кнехтов, которые перебирались в Москву через Ливонию. Ратью предводительствовал великий князь Василий; Глинский был одним из воевод большого полка. 1 августа 1514 года. Смоленск был взят русскими войсками.
Михаил Глинский надеялся получить этот город от великого князя; но Василий, по словам Герберштейна, смеялся над его излишним честолюбием, после чего Глинский обратился к Сигизмунду, который уверил его в своей милости. По предварительному уговору, литовское войско пошло к Днепру; когда оно было уже недалеко от Орши, Глинский ночью бежал к нему; но один из его слуг известил о том русского воеводу, князя Михаила Булгакова-Голицу, который захватил Глинского и отправил к великому князю. Глинский не запирался в измене: у него нашли Сигизмундовы письма. Готовясь к смерти, Глинский смело говорил о своих услугах и о неблагодарности Василия. Его заковали в цепи и отправили в Москву.
В 1517 году вместе с литовскими послами в Москве был Герберштейн — посол императора Священной Римской империи Максимилиана I. Когда литовские послы после аудиенции вышли от великого князя, Герберштейн остался и наедине вручил Василию грамоту Максимилиана о Глинском: император писал, что Глинский мог быть виновен, но что он уже довольно наказан за то неволей, — что он имеет знаменитые достоинства, воспитан при венском дворе, служил верно ему и курфюрсту саксонскому, — что Василий сделает великое удовольствие Максимилиану, если отпустит Глинского в Испанию. Василий отвечал, что Глинский сложил бы голову на плахе, если бы не изъявил желания возвратиться в православную веру.
Глинский долгое время оставался в заточении. В 1526 году великий князь Василий женился на племяннице Михаила, Елене Васильевне. Молодая жена великого князя через год выхлопотала дяде свободу, за поручительством многих бояр, обязавшихся, в случае бегства Михаила, заплатить в казну 5 тысяч рублей.
В 1530 году Михаил Глинский является воеводой в коннице под Казанью; в 1533 году он был около Волоколамска при государе, заболевшем во время охоты. В своих предсмертных распоряжениях великий князь, обращаясь к боярам, просил их, между прочим, не обижать князя Михаила, как родственника его жены, принимать его за своего, не за пришельца, а назначая Глинского в советники к Елене, просил его, чтобы за великую княгиню и сыновей его он «кровь свою пролиял и тело своё на раздробление дал».
После смерти Василия дела решались опекунским советом при малолетнем князе Иване, в состав совета вошли братья государя и 20 бояр, в том числе и Глинский. Многие думали, что думой и правительницей будут располагать двое: Михаил Глинский и конюший боярин Иван Федорович Овчина-Телепнев-Оболенский, любимец Елены. Случилось иначе: Глинский смело говорил племяннице о неприличии её отношений к Оболенскому. Вследствие этого его обвинили в замыслах овладеть государством: он был заключён в темницу (1534), где и умер.