Отец умер рано, мать, Мария Владимировна, покончила с собой, когда Кононов уже был известным актёром.
Выступал в школьной самодеятельности вместе с Андреем Смирновым, который в дальнейшем стал известным кинорежиссёром.
Окончил Высшее театральное училище им. М. С. Щепкина в 1963 году. Однокурсниками по училищу были Виктор Павлов, Виталий Соломин, Олег Даль. До 1968 года — актёр Академического Малого театра. Но во время периода, когда актёр готовил большую роль (Хлестаков в «Ревизоре»), случайно брошенные слова стали причиной разразившегося скандала, и ему срочно пришлось покинуть Малый театр. Впоследствии стал актёром киностудии им. М. Горького.
Первая роль — в фильме Ивана Пырьева «Наш общий друг» (1961). Ярким началом кинокарьеры следует считать комедийный фильм «Начальник Чукотки», где Кононов сыграл Алексея Бычкова. В тот же год он сыграл Фому в историко-философском фильме Андрея Тарковского «Андрей Рублёв».
Наибольшую популярность актёр получил, сыграв молодого учителя Нестора Петровича Северова в многосерийном телефильме Алексея Коренева «Большая перемена», хотя первоначально и отказывался от этой роли, так как ему не нравился сценарий.
Последняя роль — в телесериале «В круге первом» (2006). В целом актёр сыграл более чем в 60 фильмах. Наиболее известные роли — младший лейтенант Малешкин («На войне как на войне»), Алёша Семёнов («В огне брода нет»), Павлик («Начало»), Митька Ярмолюк («Здравствуй и прощай»), Аким («Таёжная повесть»), Василий («Василий и Василиса»), космический пират Крыс («Гостья из будущего»), Яшка (фильм-сказка «Финист Ясный Сокол»).
Актёру было свойственно сочетание мягких комических красок с драматической глубиной. Сам Кононов считал себя трагикомическим актёром.
С начала 1990-х годов актёр мало появлялся на экране. От предложений чаще отказывался, с новым поколением актеров принципиально не дружил и негативно отзывался о состоянии современного российского кинематографа.
В конце 1990-х годов Кононову пришлось продать московскую квартиру и начать многолетнее строительство дома в Истринском районе в деревне Бутырки.
В последние годы жизни актёр мало снимался, редко появлялся на людях и жил в деревне Бутырки под Можайском. Проведя в деревне десять лет, купил маленькую квартирку на окраине Москвы, вернувшись в которую работал руководителем службы маркетинга.
В 2000-е годы Михаил Кононов написал книгу мемуаров, но ни одно издательство не приняло её к публикации.
Актёр был женат, в браке с женой Натальей прожил 38 лет.
Скончался 16 июля 2007 года после продолжительной болезни от сердечного приступа. В последние годы жизни перенес инфаркт, тромбофлебит и был инвалидом II группы. За две недели до смерти Кононов с пневмонией лёг в больницу. Однако в больнице его состояние лишь ухудшалось: у него не было денег, чтобы приобрести необходимые медикаменты. На фоне пневмонии у Кононова развились сердечная недостаточность и тромбоэмболия. Вечером 15 июля его перевели в отделение кардиореанимации, но спасти жизнь артисту не удалось: утром 16 июля он скончался от тромбоэмболии.
Похоронен в Москве, в колумбарии Ваганьковского кладбища.