Родился в 1851 году в видной дублинской семье. Его отец и дед были хорошо известными типографами и издателями. Образование получил в St. Bees School (англ.) (графство Камберленд) и Тринити Колледж (Дублин), где будучи студентом математики занимал призовые места в переводе с санскрита и хинди.
Устроился в Индийскую гражданскую службу (англ.)русск. в 1871 году и достиг Бенгалии (англ.)русск. в 1873 году. Был судьёй и сборщиком налогов в городе Патна, а позднее, опиумным агентом в Бихаре.
Посвятил много времени изучению языков. В 1894—1897 был «филологическим секретарём» Азиатского общества в Калькутте. Был назначен управляющим вновь образованной Лингвистической службы Индии (англ.)русск. (1898—1928) и переехал в Англию «для удобства консультаций европейских библиотек и учёных».
Грирсон публиковал на протяжении всей своей карьеры научные работы: о диалектах и крестьянской жизни Бихара, литературе на хинди, о бхакти и по языкознанию. Первая из его статей появилась в 1877 году.
В 1898 Грирсон начал работу по лингвистическому исследованию, и в течение следующих 30 лет был ответственным за сбор данных о 364 языках и диалектах, поместившихся почти на 8000 страниц в 19 томах «Лингвистического обозрения Индии». Пять томов, на неиндоевропейских языках были подготовлены норвежским лингвистом Стеном Коновым, остальное в основном Грирсоном. В дополнение к словарям для большинства из языков и диалектов были добавлены грамматика и краткие тексты.