Родился в Казани 1 января 1809 г. Отец его, командовавший в Казани гарнизонным полком, через год после рождения сына-первенца вышел в отставку и поселился в имении жены, с. Архангельском Пензенской губернии, где Филипсон и провёл свое детство до 9 лет.
В 1818 г. он был определён в университетский пансион, содержавшийся в Казани лектором немецкого языка Лейтером, а осенью 1821 г. поступил и пензенскую гимназию.
Когда мальчику минуло 14 лет, отец определил его юнкером в Олонецкий пехотный полк, откуда через год Филипсон был отправлен, по выбору начальства, в юнкерскую школу в Могилёве. Прослушав здесь годичный курс, Филипсон был переведён в офицерское училище, откуда 23 февраля 1826 г. выпущен прапорщиком в гренадерский принца Евгения Виртембергского полк.
В 1829 г. Филипсон был ротным командиром, а в 1830 и 1831 гг. принимал с полком участие в усмирении Польского восстания и в штурме Варшавы, за что получил ордена св. Анны 4-й степени и 3-й степени с бантом, а также польский знак отличия за военное достоинство 4-й степени. По возвращении из похода, Филипсон был прикомандирован к Военной академии, в которую поступил в 1833 г. и первым окончил в ней двухгодичный курс с чином капитана и с причислением к Генеральному штабу. Будучи ещё в академии, Филипсон начал изучать восточные языки, намереваясь применить свои знания в службе на Кавказе, куда и был назначен, по собственному желанию, в 1835 г.
Состоя в распоряжении командующего войсками Кавказской линии и Черноморского края, генерал-лейтенанта Вельяминова, Филипсон принимал участие в съёмках и исполнял обязанности обер-квартирмейстера, а затем состоял начальником штаба при начальнике 1-го отделения Черноморской прибрежной линии, генерал-майоре Раевском, и совершил несколько походов против горцев. Ту же должность Филипсон сохранил и при генерал-майоре Анрепе, преемнике Раевского. Экспедиции против горцев продолжались по-прежнему, причем, за экспедицию 1842 г. Филипсон получил орден св. Владимира 3-й степени. В 1845 г. Филипсон был назначен начальником штаба войск Кавказской линии.
Не сочувствуя ни новым людям, приобретшим влияние при новом (с 1845 г.) кавказском наместнике, князе М. С. Воронцове, ни новым порядкам, заведенным новым главнокомандующим, Филипсон задумал в 1847 г. оставить Кавказ и подал прошение об увольнении его, по болезни, в годовой отпуск. Воронцов не встречал препятствий для отпуска, но не согласился император Николай Павлович: считая Филипсона знатоком края, его величество приказал прислать его в Санкт-Петербург для получения личных Высочайших указаний относительно предполагавшегося усиления Кавказского линейного казачьего войска перечислением в него государственных крестьян Ставропольской губернии. Князь Воронцов не сочувствовал этой мере, что и высказал в донесении, посланном Государю с Филипсоном. Последний, наоборот, в основе соглашался с монаршими предначертаниями, о чём и доложил императору при представлении его величеству. Государь велел Филипсону составить об этом записку, которую немедленно утвердил и передал для исполнения в департамент военных поселений, в тот же день отославший её наместнику Кавказа. После этого служба Филипсона под начальством князя Воронцова сделалась невозможной. За это время Филипсон получил ордена св. Станислава 1-й степени (1848 г.) и св. Анны 1-й степени (1851 г.),
В сентябре 1849 г. Филипсон был назначен начальником штаба 4-го пехотного корпуса, 2 января следующего года был произведён в генерал-майоры и почти сразу вышел в отставку, занимался устройством имения, принадлежавшего его жене в земле Войска Донского.
В 1855 г., по настоянию вновь назначенного главнокомандующим Кавказской армией Н. Н. Муравьёва, Филипсон согласился опять вступить в службу и в июле назначен наказным атаманом Черноморского казачьего войска, а в августе 1856 г., кроме того, и командиром 1-й бригады 19-й пехотной дивизии. Преемник Н. Н. Муравьёва, князь А. И. Барятинский, высоко ценил Филипсона и неоднократно представлял его к наградам за отличия в делах против горцев — при занятии и возобновлении крепости Анапы, при постройке в низовьях долины Адагума укрепления, а также за боевую распорядительность во время экспедиции между реками Лабой и Белой. В пять лет Филипсон получил следующие ордена: св. Владимира 2-й степени с мечами (1858 г.), Белого Орла (1859 г.) и св. Александра Невского (1859 г., алмазные знаки к этому ордену пожалованы в 1861 году). Кроме того, 28 сентября 1857 г. он был произведён в генерал-лейтенанты, а в следующем назначен командующим войсками правого фланга Кавказской линии.
В 1859 г., вследствие действий войск, состоявших под начальством Филипсона, присягнуло русскому Императору многочисленное и воинственное племя восточного Кавказа — абадзехи; кроме того, покорён целый ряд других племен и, между прочим, все абхазские племена между Лабой и Белой. Действия Филипсона значительно облегчили окончательное покорение Западного Кавказа. Назначенный в 1860 г. начальником штаба Кавказской армии, Филипсон в следующем был уже сенатором, получив при увольнении от последней должности бриллиантовые знаки ордена св. Александра Невского. В 1861 г. Филипсон был определён попечителем Санкт-Петербургского учебного округа, но беспорядки, происшедшие в том году в Санкт-Петербургском университете, вызвали неудовольствия против Филипсона, которые заставили его просить увольнения от этой должности (уволен в начале 1862 г.). Занятия Филипсона по сенату продолжались до 1878 г., после чего он два года провёл в отпуске за границей и в 1880 г. освобождён от присутствования в сенате, с оставлением в звании сенатора. В том же году, в октябре, в день 50-летия службы в офицерских чинах, Филипсон произведён в генералы от инфантерии. Среди прочих наград Филипсон имел ордена св. Георгия 4-й степени, пожалованный ему 1 января 1847 года за беспорочную выслугу 25 лет в офицерских чинах.
Филипсон умер в Санкт-Петербурге 14 января 1883 г.
В последние годы жизни он писал свои «Воспоминания», которые успел довести только до 1847 г. В них много метких характеристик кавказских деятелей и любопытных эпизодов из истории долголетней войны с горцами. Эти «Воспоминания» были напечатаны с приложением «Воспоминаний о Г. И. Филипсоне с 1848 по 1883 год» и статьи Г. И. Филипсона «Несколько слов старого солдата о серой шинели» в «Русском архиве» за 1883 г., кн. 5 и 6, и 1884 г., кн. 1, 2 и 3; отдельным изданием вышли в 1885 г.
Яркую характеристику Филипсона дал в своих мемуарах М. Я. Ольшевский: «Обладая обширными научными сведениями, легко приобретаемые чрез посредство громадной памяти, быстро обнимая самые сложные и запутанные дела, свободно излагая свои мысли на бумаге, Григорий Иванович был вполне хорошим администратором и кабинетным деятелем. В военной администрации и Иерархии Григорий Иванович мог быть достойным начальником штаба армии, генерал-губернатором или даже министром, но не его дело было управлять войсками в военное время. У него не было умения, манеры и смелости обращаться с солдатами; он избегал случаев встречаться и здороваться с ними. У него было более нерасположение, нежели стремление к лагерной боевой жизни, он даже не любил верховой езды, а потому не удивительно, что сам не начальствовал отрядами, а поручал другим. Сколько мне кажется, у Григория Ивановича не хватало настолько твёрдости характера и силы воли, чтобы, управляя самому войсками, вести их неуклонно к определённой цели и не сворачивать в стороны перед препятствиями, столь большими и столь часто встречавшимися в Кавказской войне».