Родился 11 (24) октября 1904 года в Санкт-Петербурге в семье служащего. Еврей. Член ВКП(б)/КПСС с 1921 года.
В РККА в 1920-21 годах, 1928 году и с 1939 года. Участник Гражданской войны. В 1925 году окончил факультет воздушных сообщений Ленинградского института инженеров путей сообщения.
Являясь начальником Полярной авиации Главного управления Севморпути, М. И. Шевелёв в мае 1937 года умело руководил высадкой в районе Северного полюса экспедиции во главе с И. Д. Папаниным и доставкой оборудования для научной станции «Северный полюс-1».
За успешное выполнение этого задания, и проявленные мужество и героизм, Шевелёву Марку Ивановичу 27 июня 1937 года присвоено звание Героя Советского Союза с вручением ордена Ленина, а после учреждения знака особого отличия ему была вручена медаль «Золотая Звезда» № 36.
Во время Великой Отечественной войны М. И. Шевелёв был заместителем командира авиационной дивизии, начальником штаба Авиации дальнего действия (до 18 апреля 1944 года), затем — начальником воздушной трассы Красноярск — Аляска. 25 марта 1943 года ему было присвоено воинское звание «генерал-лейтенант авиации».
После войны в 1955 году окончил Высшие академические курсы при Военной академии Генерального штаба. С 1971 года — в отставке.
В 1971—1988 государственный инспектор Севморпути. Руководитель 15 высокоширотных экспедиций, в том числе перелёта Москва — Антарктида — Москва. В 1977 г. обеспечивал стратегическую ледовую разведку для успешного прорыва атомного ледокола «Арктика» к Северному полюсу.
Жил в Москве. Умер 6 октября 1991 года. Похоронен в Москве, на Троекуровском кладбище.
Награждён 2 орденами Ленина, орденами Кутузова 2-й степени, Отечественной войны 1-й степени, 3 орденами Трудового Красного Знамени, 3 орденами Красной Звезды, медалями. Лауреат Государственной премии СССР (1984).
Его именем было названо судно Министерства речного флота.