Майкл Рабин родился в 1931 году сыном раввина Исраэля Аврахама Рабина в городе Бреслау (ныне Вроцлав), принадлежащему тогда к Пруссии. В 1935 году его семья эмигрировала в Палестину. В 1953 году он получил титул магистра наук, закончив учёбу в Еврейском университете в Иерусалиме. Три года спустя, в 1956 году, защитил диссертацию в Принстонском университете и стал доктором философии.
В настоящее время (сентябрь 2008 года) Майкл Рабин занимается исследованиями в области компьютерной безопсаности и преподаёт в Иерусалиме и Гарварде. Имеет звания почётного профессора в следующих вузах:
К его знаменитым ученикам относится Саарон Шела, ныне профессор в Иерусалиме, лауреат премии Вольфа по математике.
В 1969 году Рабин обобщил теорему Бьюхи на случай более одной функции следования, чем показал разрешимость соответствующей теории второго порядка. В ходе ведения доказательства он доказал детерминированность игр на чётность (англ. parity games)
В 1975 году Гари Миллер разработал новый тест простоты, который был модифицирован Рабином в 1980 году. Тест Миллера — Рабина — вероятностный полиномиальный алгоритм, способный очень эффективно, но с ненулевой вероятностью ошибки, проверить число на простоту.
Четыре года спустя, Майкл Рабин разработал первую асимметричную криптосистему, сложность взлома которой сравнима с проблемой факторизации целых чисел.
В 1981 году Рабин изобрёл протокол передачи данных с забыванием (англ. oblivious transfer) — надёжную технику передачи информации, при которой отправитель не получает подтверждения того, дошло ли сообщение до получателя.
В 1987 году, вместе с Ричардом Карпом, Рабин разработал знаменитый алгоритм поиска образца (подстроки) в строке.