Бергер начал с гонок «Альфа-Ромео», но вскоре перешёл в Формулу-3, где выступал очень успешно и составил конкуренцию Ивану Капелли в борьбе за титул чемпиона Европы 1984 года. В конце этого года он успешно дебютировал в Формуле-1 с «АТС», придя шестым в своей второй гонке, хотя и не имел права получить очки за это место, поскольку не был официально допущен к участию в чемпионате.
В 1985 году дела шли хорошо, пока Герхард не попал в дорожное происшествие, получив перелом шейных позвонков. Несмотря на неблагоприятные прогнозы врачей, он быстро встал на ноги и выступал за «Эрроуз», в том же году завоевав очки в двух последних гонках сезона. Переход в 1986 году в команду «Бенеттон» принёс ему первую победу в Мехико и помог заключить контракт с «Феррари» на следующий сезон. И снова успех пришёл в конце сезона — на счету Герхарда были две победы в Гран-при. Ещё одна победа и более стабильные выступления позволили ему занять третье место в чемпионате 1988 года.
В 1989 году, последнем сезоне с «Феррари», машина не позволяла ему финишировать вплоть до сентября. На третьем круге Гран-При Сан-Марино австриец попал в аварию в повороте Тамбурелло, его машина загорелась, но благодаря быстрому приезду медиков ему удалось избежать худшего. Раздосадованный Бергер в 1990 году перешёл в «Макларен», став напарником Айртона Сенны. Он редко показывал скорость Сенны, но, во всяком случае, вызывал у него симпатию и оставался одним из лидеров пелотона до своего возвращения в «Феррари» в 1993 году. Сильное давление на гонщиков команды из-за необходимости преодолеть долгую серию гонок без побед закончилось победой Бергера в 1994 году на Гран-при Германии. К этому могла бы и прибавиться победа в Австралии, но австриец слишком широко зашёл в один из поворотов и пропустил вперёд Найджела Мэнселла. В итоге он занял второе место и укрепил этим своё высокое третье в общем зачёте.
На сезон 1995 года Герхард пытался достичь соглашения между «Бенеттоном» и «Уильямсом», но это не удалось. Оставшись в «Феррари», Бергер шесть раз финишировал третьим. В 1996 году, не захотев остаться в «Феррари», он вернулся в «Бенеттон», но победы не приходили. Например, в Германии у него за несколько кругов до финиша сгорел мотор. Ожидания не подтвердились и в следующем году, несмотря на блестящее второе место в Бразилии. По ходу сезона Герхард был вынужден пропустить три гонки из-за тяжёлого гайморита, но сумел восстановиться и сразу по возвращении выиграл с поула Гран-при Германии, показав при этом лучший круг в гонке и пролидировав почти на всех кругах. В конце сезона он объявил об уходе из гонок и вскоре стал руководителем проекта «БМВ» в Формуле-1.