Родители: Отец — Иоганн Георг Розенберг, рижский экономии камерир (Камерир, нем., 1) в петровск. коллегиях начальник счетной части.., Брокгауз, Эфрон., БЭС); мать — Анна Регина, урожденная Ланденберг.
В 1753 году начал службу солдатом гвардии. Участник Семилетней войны. Принимал участие в сражениях при Гросс-Егерсдорфе (19 августа 1757 года) и при Пальциге (14 августа 1758 года). При Пальциге был тяжело ранен.
28 февраля 1758 года произведен в первый офицерский чин прапорщика, за отличие.
В апреле 1760 года переведен в Рижский гарнизон секунд-майором.
В 1766 году назначен главным судьей в Контору строения Балтийского порта.
Во время русско-турецкой войны 1768—1774 годов выполнял секретные поручения при графе А. Г. Орлове, князе Ю. В. Долгоруковым. Участвовал в действиях русского флота в Архипелаге, в Черногорской экспедиции, осаде Модона, Чесменском сражении, и в военных действиях в Крыму, командуя войсками в Керчь-Еникале.
В 1770 году произведен в капитаны лейб-гвардии Преображенского полка.
в 1772 году переведен в армию чином полковника.
В 1778—1779 годах участвует в военных действий против конфедератов в Польше.
В 1782 году произведен в чин генерал-майора. Шеф Таврического егерского полка.
В 1788 году назначен Смоленским военным губернатором и шефом Московского полка.
В 1790 назначен шефом Таврического егерского корпуса.
В 1797 шеф Московского гренадерского полка и инспектор Смоленской дивизии.
Особое место в военной карьере А. Г. Розенберга заняли «Итальянская» кампания и «Швейцарский поход» Русской Армии 1798—1800 годов.
В октябре 1798 года назначен командиром вспомогательного корпуса, направляемого в помощь Австрии против французов. Вместе с корпусом весной 1799 года прибыл в Верону и поступил под командование А. В. Суворова.
Занял Брешию, успешно действовал в бою при переправе через реку Адду у Бривио, а затем нанес поражение французам при Вердерио. 18 апреля 1779 года вступил в Милан; занял Пьемонт.
В сражении при Требии 7-8 июня 1799 года во главе двух колонн атаковал французов и отбросил их, оказав помощь колоннам князя П. И. Багратиона и организовал преследование отступавших частей генерала Виктора.
За Эти сражения был награжден орденом Св. Иоанна Иерусалимского с командорством и 1000 рублей ежегодного дохода.
Участник сражения при Нови (4 августа 1799 года), а затем Швейцарского похода, в котором командовал передовой колонной.
20 сентября 1799 года разбил войска генерала А. Массены у Швица.
Про этот эпизод у А. А. Керсновского в его труде «История русской Армии» сказано:
29 октября 1799 года награжден орденом Св. Андрея Первозванного.
После отъезда больного Суворова в марте 1800 года из армии в Кракове, как старший в чине, принял на себя командование Армией.
8 июня 1800 года назначен Каменец-Подольским военным губернатором.
С 1803 года также управлял Минской, Волынской и Подольской губерниями.
11 октября 1803 года назначен Херсонским военным губернатором, управляющим гражданской частью в Херсонской, Екатеринославской и Таврической губерниях.
Генерал-Инспектор Крымской инфантерии.
В 1805 году подал прошение об увольнении от службы «по слабости здоровья». Был уволен Высочайшим повелением «с сохранением за ним всех окладов по должностям его получаемых».
25 августа 1813 года скончался в имении Черном, вблизи Каменец-Подольска.