Сын Александра Романовича, внук Романа Вилимовича. Получив домашнее воспитание, он был записан солдатом в л.-гв. Семёновский полк в 1744 г., произведен в прапорщики в 1750 г., в подпоручики в 1751 г., через четыре года в поручики.
Участвовал волонтёром в войне Франции с Пруссией в армии первой, но после битвы при Росбахе Императрица Елизавета приказала отозвать всех русских, находя, что русским офицерам неприлично быть в армии столь постыдно разбитой. После вступления России в Семилетнюю войну, Брюс участвовал в ней со своим полком. Отличился храбростью в сражении при Гросс-Егерсдорфе и был произведен в полковники 25 января 1758, а затем, за блокаду крепости Кюстрина и битву при Цорндорфе, произведен в бригадиры в 1759 г.
При вступлении на престол Петра III Брюс сделан был 28 декабря 1761 секунд-майором Семёновского полка, через два дня — генерал-майором, а через несколько недель (в феврале 1762 г.) награжден орденом Св. Анны. Со вступлением на престол Екатерины II Брюс, благодаря тому особому расположению, которым пользовалась его супруга (Прасковья Александровна Румянцева) у Императрицы, быстро продвигался по службе. Он был произведен в генерал-поручики и 14 мая 1769 награждён орденом Александра Невского.
При начале первой турецкой войны Брюс находился в армии князя Голицына, командовал частями войск первой линии и участвовал в сражениях под Хотином в 1769 г., в особенности 29 августа и 6 сентября, где Брюс с трудом удерживал натиски турок. После того как Голицын был отозван и на его место назначен граф П. А. Румянцев, Брюс получил в командование 3-ю дивизию и принимал участие в сражении при Ларге, находясь на левом фланге главного каре. В последовавшей затем битве при Кагуле 21 июня 1770 Брюс был направлен для атаки в тыл правого фланга турецкого ретраншемента. При этом турки окружили со всех сторон каре Брюса и Репнина, храбро и стойко державшихся, пока действиями Румянцева турки не потерпели полного поражения.
Получив после битвы при Кагуле приказание Румянцева двинуться с отрядом к Фальчи, чтобы спешить к штурму Бендер, сообразуя свое движение с отрядом генерала Глебова, Брюс дошел 1 сентября до Фальчи и остановился ввиду сильного разлития реки Прута от дождей, причем снесены были мосты. Румянцев приказал ему двинуться немедленно далее. Хотя Брюс это и исполнил и дошел до Текуча, но, не имея должного сношения с отрядом Глебова, дал туркам возможность отступить к Фокшанам и, опасаясь один встретиться со значительными силами турок, не решился идти далее; этими действиями Брюс навлек на себя гнев Румянцева.
Брюс обиделся, сказался больным, сдал команду Глебову и скоро отправился в Киев, а затем в Петербург, где был пожалован в генерал-адъютанты в том же 1770 г. В связи с тем, что в 1771 г. в Москве началась эпидемия чумы, ему поручено было принять меры профилактики в Петербурге. Брюс принялся за дело энергично, учредил карантины между двумя столицами, строго следил за приезжающими, запретил всякий вывоз товаров из пунктов, зараженных чумой, приказал осматривать и окуривать все привозимые товары и т. д.; благодаря таким мерам чума в Петербург не проникла.
Произведённый в 1773 г. в генерал-аншефы, Брюс был назначен командовать финляндской дивизией в ходе войны со шведским королём Густавом III. 24 ноября 1782 Брюс был награждён орденом Андрея Первозванного. После почти одновременной кончины генерал-губернаторов в обеих столицах (князя Александра Голицына в Петербурге и графа Захара Чернышёва в Москве), Брюс был назначен на их место генерал-губернатором обеих столиц и главнокомандующим войсками в Москве.
В 1786 году созданы первые органы городского самоуправления: Городское собрание и Городская дума. В период губернаторства Брюса завершено строительство Старого Эрмитажа, Таврического дворца, Академии художеств, Главного почтамта. Освящен Троицкий собор Александро-Невской лавры. Одеты гранитом набережные Фонтанки, Екатерининского канала и Английская набережная на Неве. Построены Старо-Калинкин, Чернышёв, Симеоновский и Обуховский мосты через Фонтанку.
Брюса в Москве не любили за его суровость, да и сам он был недоволен пребыванием в городе, где "застарелые обычаи и тьма предубеждений", и благодарил Безбородко в 1786 г. за исходатайствованное у Императрицы разрешение ему приехать в Петербург. С московского поста Екатерина II, по его просьбе, уволила Брюса 26 июня 1786, и он остался только генерал-губернатором в Петербурге. Во время путешествия своего в Крым в 1787 г. Екатерина посылала Брюсу журнал этого путешествия, чтобы «отвратить в столице пустые речи».
Немного позже, при войне с Турцией, Брюс был назначен членом особого совета по планированию предстоящей войны; затем, при возникшей внезапно войне с Швецией, Брюс был назначен главнокомандующим в столице и Петербургской губернии, однако должен был производить дела под собственным ведением Её Величества. Граф Брюс погребён в Петербурге, в Александро-Невской Лавре. Так как он не имел сыновей, род графов Брюсов в России пресекся. Единственная дочь его, Екатерина была замужем за графом Василием Валентиновичем Мусиным-Пушкиным, которому Император Павел I разрешил принять фамилию графа Мусина-Пушкина-Брюса, но и он умер в 1836 г., не оставив сыновей.