Родился в Харсианской области Каппадокии, приходился родственником императору Льву VI Мудрому (а племянником преподобного был будущий император Никифор Фока) и был в раннем возрасте взят на службу в Константинополь. В возрасте 18-ти лет покинул столицу и ушёл в Вифинию где поступил в послушание старцу Иоанну Еладиту на Киминской горе и позднее принял от него монашеский постриг с именем Михаил. Позднее был рукоположен в иеромонаха. Согласно жития, ушёл в затвор и пять дней в неделю проводил в пещере, выходя от туда в субботу для участия в богослужении. Основал ряд монастырей на Киминской горе, одним из учеников Михаила около 953 года стал Афанасий Афонский, основавший впоследствии Великую Лавру на горе Афон. Михаил мирно скончался в 963 году.
В честь преподобного Михаила Малеина был назван первый царь династии Романовых Михаил Федорович, что послужило причиной строительства в России храмов в честь этого святого, в том числе в Московском кремле.