Родился в небольшом городке на юге Англии в семье учителей, оба родителя имели склонность к математике, хотя и преподавали другие предметы. Математические способности самого Харди начали проявляться еще в возрасте двух лет.
В 1896 году он поступил в Тринити-колледж Кембриджского университета. Всего после двух лет учебы он занял четвертое место на конкурсе выпускников.
В 1900 году Харди становится сотрудником факультета, а с 1906 года становится лектором с нагрузкой в 6 часов в неделю, что давало много свободного времени для собственных исследований. В 1919 году он занял пост профессора математики в Оксфордском университете. В 1931 году Харди вернулся в Кембридж, где пробыл на посту профессора до 1942 года.
Одним из самых своих больших открытий сам Харди называл открытие индийского математика Рамануджана, с которым впоследствии написал много работ.
Начиная с 1911 года Харди очень плодотворно сотрудничает с Джоном Литлвудом. Большинство работ Харди написано именно в сооавторстве с Литлвудом. Ходила даже шутка, что в Англии живёт три великих математика — Харди, Литлвуд и Харди-Литлвуд, причем третий из них самый великий.
Член Лондонского королевского общества (1910).
Харди предпочитал называть свою работу чистой математикой, в отличие от математики имевшей прикладное, особенное военное значение. В своей книге «Апология математика» он говорит:
В теории чисел он занимался теорией простых чисел и теорией дзета-функции, а также проблемой Варинга. Вместе с Литлвудом они доказали несколько условных результатов, а также выдвинули две важные гипотезы о распределении простых чисел. Совместно с M.Райт нашел два решения задачи о четырех кубах (формулы Харди и Райт).
В теории функций занимался теорией тригонометрических рядов и исследованием неравенств. Ряд работ посвящен теории интегральных преобразований и теории интегральных уравнений.
Харди также является одним из авторов закона Харди — Вайнберга в популяционной генетике.