Выступления и произведения Жванецкого отличает особый «одесский юмор»; в них осмеянию подвергаются людские недостатки и пороки общества.
Родился в семье врачей Мане (Эммануила) Моисеевича Жванецкого и Раисы Яковлевны Жванецкой. В 1956 году окончил ОИИМФ — Одесский институт инженеров морского флота по специальности «Инженер-механик подъёмно-транспортного оборудования портов». После окончания ОИИМФа работал в Одесском порту вместе с Виктором Ильченко: Михаил механиком по кранам, а Виктор — механиком по автопогрузчикам.
В студенческие годы участвовал в самодеятельности, где начал писать миниатюры и монологи, которые часто сам и исполнял. В 1963 году во время гастролей в Одессе Ленинградского театра миниатюр познакомился с Аркадием Райкиным, который взял его произведения в репертуар театра, а в 1964 году пригласил его в свой театр на должность заведующего литературной частью.
Вместе со Жванецким Райкин поставил в 1969 году программу «Светофор», в которой впервые прозвучали миниатюры Жванецкого «Авас», «Дефицит», «Век техники».
В период работы в театре А. И. Райкина, творчески сотрудничал с Романом Карцевым и Виктором Ильченко, для которых написал более трёхсот миниатюр и монологов.
Затем самостоятельно выступал в Одесской филармонии, потом в Московском театре «Эрмитаж», где приобрел популярность.
С 1988 года художественный руководитель созданного им Московского театра миниатюр. В 1991 году снялся в эпизоде фильма «Гений».
С 2002 года по настоящее время является постоянным ведущим в ежемесячной телепередаче «Дежурный по стране», оригинального формата на канале Россия 1.
Всего у Михаила Жванецкого пятеро детей — двое сыновей и три дочери.
Решением сессии Одесского городского совета от 05.04.2009 бульвар Искусств в городе Одессе переименован в бульвар Жванецкого.
Некоторые источники утверждают, что Жванецкий был одним из последних, кто получил звание «Народный артист СССР» в 1991 году, наряду с А. Б. Пугачёвой, однако в «Ведомостях Верховного Совета СССР» № 52 за 1991 год его имени нет среди других награждённых.