Племянник героя Отечественной войны 1812 года П. И. Багратиона и сын тифлисского генерал-губернатора Р. И. Багратиона, родился 24 сентября 1818 года. Получив всестороннее домашнее образование, Багратион поступил 26 ноября 1831 года в школу гвардейских подпрапорщиков и кавалерийских юнкеров, из которой выпущен 11 декабря 1835 года юнкером в лейб-гвардии конно-пионерный эскадрон.
1 сентября 1837 года произведён в прапорщики, а 16 июня 1840 года — в чин подпоручика; 30 декабря того же года назначен адъютантом к исправляющему должность начальника инженеров гвардейского корпуса, и 11 октября 1842 года получил следующий чин.
Обратив на себя внимание изучением артиллерийских и инженерных наук и трудами по гальванической части, князь Багратион удостоился 3 ноября 1843 года за свои труды ордена св. Станислава 3-й степени, а 9 мая 1844 года — Высочайшего благоволения за очистку кронштадтской гавани от льда гальваническим способом; затем в октябре того же года командирован на шесть месяцев к инженер-генералу Витовтову в Германию, Францию и Англию изучать под его руководством применение гальванизма к инженерному делу.
Состоя с 19 июня 1845 года адъютантом герцога Максимилиана Лейхтенбергского, князь Багратион сопровождал его за границу и, находясь при нём, награждён чинами штабс-капитана, капитана и полковника, а также орденами высших степеней: шведским — св. Олафа (в 1849 году), португальским — Христа (в 1850 году), неаполитанским — св. Франциска, гессенским — Филиппа Великодушного и баденским — Церингенского льва (все в 1852 году).
Удостоенный 23 октября 1852 года звания флигель-адъютанта и прикомандированный к лейб-гвардии конно-гренадерскому полку для испытания фронтовой службы, Багратион окончил с большим успехом возложенные на него в 1853 и 1854 годах поручения по приёму рекрут в Тульской и Харьковской губерниях; отличное же состояние дивизиона конно-гренадер, вверенного его командованию на манёврах и учениях в присутствии императора Николая І, доставило князю неоднократные Его Величества благоволения, — 9 сентября 1854 года князь Багратион назначен исправляющим должность коменданта Императорской главной квартиры, причём принял и начальство над отправленным в Варшаву собственным Его Императорского Величества конвоем, а в следующем 1855 году, временно командирован в Воронежскую губернию для усмирения волнений среди местных крестьян. Поручение это князь Багратион выполнил с полным успехом.
За благоустройство командуемых им частей, князь Багратион удостоился в 1856 году Высочайших благоволений в бытность императора Александра II в Варшаве, а также и в Москве, во время коронования Их Величеств; 15 августа того же года награждён орденом св. Станислава 2-й степени, а 26 числа того же месяца назначен командиром собственного Его Императорского Величества конвоя.
Зачисленный в 1857 году в лейб-гвардии Кавказский эскадрон, князь Багратион снова удостоился неоднократных Высочайших благоволений за смотры и учения в присутствии государя. 30 августа 1858 года князь Багратион получил орден св. Анны 2-й степени и произведён в генерал-майоры (со старшинством от 6 декабря того же года), с зачислением в свиту Его Величества.
В 1859 и 1861 годах на князя возложены оконченные им с большим успехом поручения: в Курскую губернию по призыву отпускных нижних чинов на укомплектование войск, приводимых в военное положение, и в Пермскую — по применению крестьянской реформы. 30 августа 1861 года он получил орден св. Владимира 3-й степени, 29 октября — Высочайшую признательность за успех последнего поручения, 30 августа 1862 года — орден св. Станислава 1-й степени и знак отличия за введение в действие положения о крестьянах, вышедших из крепостной зависимости.
14 сентября того же 1862 года Багратион был назначен Тверским губернатором, с оставлением в свите Его Величества. На этом посту он действовал весьма энергично и в то же время успел расположить к себе всех так как, обладая большим тактом и выдержкой, совершенно устранил столкновения администрации с новыми земскими и судебными учреждениями. К числу весьма полезных мероприятий князя Багратиона в Твери относятся: устройство земляного вала для ограждения затмацких жителей от наводнений во время весеннего разлития рек и проведение железнодорожной ветви от Тверской станции к реке Волге, и телеграфных линий от той же станции к губернскому городу, а оттуда в Старицу и Ржев. Кроме того, во время его управления значительно улучшена тверская публичная библиотека, основан музей, а при участии земства и содействии минералогического общества, произведены местные геологические исследования.
При его отбытии в марте 1868 года к новому месту служения, тверские земские деятели выразили ему письменно чувства искренней признательности за постоянное содействие их трудам; тверское же городское общество положило основать в местной губернской женской гимназии и детском приюте стипендии его имени, а также имени его супруги и собрать в память князя капитал, проценты с которого обратить на обучение ремеслам бедных детей.
4 апреля 1865 года князь Багратион Всемилостивейше пожалован кавалером ордена св. Анны 1-й степени с императорской короной и мечами; 30 августа того же года — чином генерал-лейтенанта, а Высочайшим указом 25 марта 1868 года назначен помощником по гражданской части Виленского генерал-губернатора А. Л. Потапова. В 1870 году, во время нахождения генерал-губернатора в отпуску, Багратион весьма успешно исправлял его должность.
22 сентября того же года князь Багратион занял должность Лифляндского, Курляндского и Эстляндского генерал-губернатора. Содействуя на этом посту применению к прибалтийским губерниям реформ, дарованных императором Александром II, князь Багратион употреблял все меры к объединению Остзейского края с прочими областями Российской империи и к преобладанию в этом крае русского элемента, причём всегда был готов на упорную борьбу с всем, что противодействовало русским принципам.
По собственному его выбору в подведомственные ему губернии были назначены такие высшие деятели, которые могли бы водворить с желаемым успехом русские начала. Князь Багратион строго охранял неприкосновенность в крае городового положения 1870 года и судебных уставов 1864 года, заботился о благоустройстве православных сельских приходов, народных школ, старался ввести обязательное преподавание русского языка в училищах. За труды на генерал-губернаторской должности ему были пожалованы ордена св. Владимира 2-й степени (в 1868 году), Белого Орла (в 1869 году) и св. Александра Невского (в 1872 году).
Приехав в январе 1876 года по делам службы в Санкт-Петербург, князь Багратион внезапно скончался 17 числа от приступа астмы. Тело предано земле 20 января 1876 года, в Воскресенском Новодевичьем монастыре, в особо воздвигнутой часовне.