Чертофф родился В г. Элизабет, штат Нью Джерси. Отец, раввин Гершон Барух Чертофф (1915—1996), был талмудистом, лидером Конгресса B’nai Israel в Элизабет. Мать, Ливия Чертофф (в девичестве Айзен), стюардесса авиакомпании El Al. Дед по отцу, раввин Пол Чертофф (Павел Чертов) эмигрировавший из царской России, с территории современной Беларуси, был также, как и отец Майкла Чертоффа, известным талмудистом. Выпускник Гарвардского университета (1975).
Стал вторым, после Тома Риджа министром национальной безопасности США. Занимал этот пост с 15 февраля 2005 по 21 января 2009. В 2009 году в этой должности его сменила Джанет Наполитано.