Петти и его группа The Heartbreakers появились на горизонте американской рок-музыки в 1976 году, когда был выпущен одноимённый альбом. Первый успех музыкант познал в Великобритании, где критики несколько близоруко причислили его к «новой волне», тогда как сам Петти настаивал на том, что его творчество является логическим продолжением наследия The Byrds и The Rolling Stones.
Третий альбом его группы, «Damn the Torpedoes» (1979), дошёл до 2-го места в США, и держался на 1-м месте в Великобритании до выхода легендарного «The Wall» от «Pink Floyd». В 1981 г. в продажу поступил очень успешный дуэт Петти со Стиви Никс из Fleetwood Mac — «Stop Draggin' My Heart Around». Музыкальные критики сравнивали Петти то с Бобом Диланом, то с Нилом Янгом, то с Брюсом Спрингстином. Однако совсем уж консерватором Петти считать нельзя: например, одним из первых рокеров он стал снимать музыкальные клипы на все свои синглы.
В 1987 г. Петти записал несколько треков вместе со своим кумиром Бобом Диланом, а в следующем году они стали участниками супергруппы The Traveling Wilburys, которую создали Джордж Харрисон, Рой Орбисон и Джефф Линн. В 1989 г. при поддержке The Heartbreakers и друзей из The Traveling Wilburys Петти выпустил первый сольный альбом — «Full Moon Fever» (3-е место в Billboard 200), главным хитом с которого стала песня «Free Fallin'» (7-е место в Billboard Hot 100).
В 1990-е годы Петти работал с модным продюсером Риком Рубином. Второй сольный альбом, «Wildflowers», вышел в 1994, третий («Highway Companion») — 12 лет спустя. Все они пользовались достаточно солидным успехом. В последнее время Петти известен своей критикой американского шоу-бизнеса. Причину кризиса рок-музыки он видит в коммерциализации радиостанций и в исчезновении независимых передающих сетей.