Родился 21 августа 1951 года в селе Воскехат Эчмиадзинского района Армянской ССР. В 1965 году поступил в богословскую семинарию Эчмиадзина, которую закончил в 1971 году, в дальнейшем работал преподавателем в той же семинарии.
В 1970 году был рукоположён в дьяконы, а в 1972 году — в сан священника. По указанию Патриарха и Католикоса Вазгена I выехал в Вену для продолжения богословского образования.
В 1975 году по указанию Католикоса Вазгена I выехал в ФРГ, где служил в чине духовного пастыря и продолжал богословское образование в Боннском университете.
В 1975 году продолжил образование в Венском университете.
В 1979 году вернулся в Эчмиадзин, впоследствии выехал в Загорск, где учился в аспирантуре при Московской духовной академии Русской православной церкви.
В марте 1980 года, в годы патриаршества Католикоса всех армян Вазгена I, архиепископ Гарегин Нерсесян был назначен главным викарием Католикоса всех армян, которым оставался до 4 июля 1999 года.
27 октября 1999 года, после смерти Католикоса Гарегина I, Национальный Церковный собор (высший орган управления) Армянской Апостольской Церкви избрал архиепископа Гарегина Нерсесяна 132-м Патриархом и Католикосом всех армян.
Является членом Верховного духовного совета, члены которого избираются собором.
В начале мая 2008 года, находясь с визитом в Ватикане по приглашению главы Римско-Католической церкви Бенедикта XVI, призвал все страны мира признать геноцид армян 1915 года в Османской империи.