Начал играть с 9-10 лет, но серьёзно с 15. Будучи ещё подростком в Висконсине играл в кавер-группах и трёх дэт-метал группах. В 16 лет выиграл на конкурсе Guitar Wars в Висконсине.
В 1987 году на прослушивание в Megadeth пришёл шестнадцатилетный Джефф Лумис. После Мастейн похвалил его за хороший навык игры, но отказал, так как Лумис был слишком молод. Позже он попал на концерт группы Cacophony, в которой играли Марти Фридмен и Джейсон Беккер, и рассказал Фридмену (который в тот момент выпустил свой первый сольный альбом Dragon’s Kiss) об этом случае. Фридмен пришёл на прослушивание. В феврале 1990 он официально присоединился к Megadeth. В 2005, Лумис разделил сцену с Megadeth, как лидер-гитарист Nevermore во время мастейновского фестиваля Gigantour. По случайному совпадению бывший одногруппник Лумиса по Nevermore Крис Бродерик через 2 года прослушивался и стал новым гитаристом Megadeth.
Новый альбом Plains of Oblivion выходит 10 апреля 2012 года.