Г. М. Фихтенгольц родился 5 июня 1888 года в Одессе. В 1911 году окончил Императорский Новороссийский университет в Одессе. После этого работал в Санкт-Петербургском императорском электротехническом институте Александра III, а с 1918 — в Петроградском (затем Ленинградском) университете. В начале 1920-х одновременно преподавал во 2-м педагогическом институте (позже вошедшем в состав Педагогического института им. А. И. Герцена). С 1929 года — профессор, с 1935 — доктор физико-математических наук.
Особо следует отметить трёхтомный «Курс дифференциального и интегрального исчисления», который служил и служит учебником и настольной книгой для целого ряда поколений математиков. Несмотря на наличие учебников, написанных более современным математическим языком, например, двухтомный труд Рихарда Куранта, курс Фихтенгольца до сих пор пользуется широкой популярностью.
Заслуженный деятель науки РСФСР.
Награждён орденом Трудового Красного Знамени.
Кафедра математического анализа Ленинградского университета основана Г. М. Фихтенгольцем (он возглавлял её до вынужденной отставки в 1953 году).
Скончался 26 июня 1959 года.
Г. М. Фихтенгольц работал в Ленинградском университете более сорока лет. Почти все ленинградские математики были в определённой степени его учениками. В разное время его лекции слушали С. Л. Соболев, Л. В. Канторович, И. П. Натансон, С. А. Христианович, С. Г. Михлин, Д. К. Фаддеев, и многие другие видные советские математики.
Г. М. Фихтенгольц жил на Каменноостровском проспекте близ Малой Невки: в начале 1920-х — в доме № 66 (при 2-м педагогическом институте, в котором он в то время преподавал), а затем — в доме № 73—75.