Михаил Яковлевич Геллер родился в Могилеве в 1922 году. Окончив исторический факультет Московского университета, работал преподавателем высшей школы.
В 1950 г. был арестован и приговорен к 15 годам лагерей. Отсидел 7 (по другим данным 6) лет. В 1957 г. освобожден из тюрьмы.
В 1963 г. (по другим данным в 1957) был вынужден уехать из СССР. Жил в Варшаве, затем — в Париже, где получил звание профессора Сорбонны.
В эмиграции написал несколько фундаментальных исторических трудов, в том числе — в соавторстве с другим известным историком-диссидентом Александром Некричем — многотомную работу «Утопия у власти», об истории Советского Союза. В соавторстве они написали три тома, после смерти Некрича Геллер написал четвёртый. До 1994 года его книги издавались только за рубежом. Начиная с 1994 года многие книги были переизданы в России.
Скончался в Париже в 1997 г.
Большая часть произведений Михаила Геллера издана в издательстве МиК.