С детства пел в церковном хоре, самостоятельно научился играть на гитаре. Его взял к себе дядя, брат матери, торговец, чтобы отвлечь от «музыкальных глупостей» и привлечь к делу. Но предприниматель из будущего певца не получился, племянник покинул раздосадованного дядю. В 1826 году попал в гастрольную труппу Жураховского, впервые выступил в водевиле Катерино Кавоса на текст Шаховского «Козак-стихотворец», а вскоре стал участником труппы Иван Фёдоровича Штейна, где познакомился с театральным актёром Михаилом Щепкиным, который оказал большое влияние его на творческое развитие. После нескольких лет выступлений в провинциальных городах в 1830 певец оказался в Петербурге, где с восторгом был принят публикой. В Мариинском театре, он проработал до конца своей жизни — с 1830 по 1878 год. Дебютировав в опере Моцарта «Волшебная флейта», он вскоре стал одним из ведущих столичных оперных солистов, исполняя басовые партии в сочинениях Мейербера, Россини, Беллини и других композиторов. Петров также совершенствовался в теории музыки и игре на фортепиано у Гунке и в пении — у Кавоса.
Настоящим звёздным часом Петрова стала премьера в 1836 году оперы Глинки «Жизнь за царя» («Иван Сусанин»), в которой он спел заглавную роль. В это время на сцене театра шли сразу две разные оперы на один сюжет — о подвиге крестьянина Ивана Сусанина — опера Глинки и опера Катерино Кавоса, и Петров исполнял обе заглавные партии в двух постановках.
Среди других партий, написанных специально для Петрова и с блеском им исполнявшихся — Фарлаф («Руслан и Людмила» Глинки), Мельник («Русалка»), Лепорелло («Каменный гость» Даргомыжского), Озия, Владимир («Юдифь», «Рогнеда» Серова), Иван Грозный («Псковитянка» Римского-Корсакова), Варлаам («Борис Годунов» Мусоргского), Гудал («Демон» Рубинштейна), Кочубей («Мазепа» Чайковского). Певец участвовал в операх французских и итальянских композиторов, пел партию Неизвестного («Аскольдова могила» Верстовского).
В апреле 1876 года в Мариинском театре праздновалось пятидесятилетие сценической карьеры Петрова. Ему была преподнесена золотая медаль от императора и позолоченный лавровый венок, на каждом листе которого было выгравировано название одной из опер, в которых он пел.
Объём голоса Петрова составлял более чем две с половиной октавы: от B1 (си-бемоль контроктавы) до fis1 (фа-диез первой октавы). Его пение отличали теплота, глубина и чёткость интонации. Обладая хорошим актёрским мастерством, Петров успешно исполнял как драматические, так и комические роли в русских и зарубежных операх.
Петров был женат на Анне Воробьёвой, которая также была оперной певицей.