В детстве увлекался хоккеем. Мечтал стать байкером. Впервые Тони взял в руки гитару в возрасте одиннадцати лет. Тони никогда не брал уроков игры на гитаре, научившись музицировать с помощью музыкальных журналов, таких как «Guitar World».
В середине 90-х Тони Ромбола случайно встретил Салли Эрну и Робби Меррилла из группы Godsmack. В то время Тони в составе местных групп исполнял кавер-версии песен таких групп как Alice in Chains и Rage Against the Machine. В 1997 году Godsmack записал первый EP, который в 1998 году стал их дебютным альбомом. Альбом получил платиновый статус.
Женат, у него трое приёмных детей. В настоящее время проживает в Сэйлеме (англ. Salem), штат Нью-Гемпшир. В свободное время любит играть в видеоигры и в гольф.
До прихода в группу Godsmack работал плотником.