Родился в семье музыканта. Изучал биологию в Иркутском сельскохозяйственном институте, был джазовым саксофонистом. Якунин под влиянием Александра Меня вернулся в христианство в конце 1950-х годов. Обучался в Московской духовной семинарии, но был исключён по инициативе КГБ, работал псаломщиком. В августе 1962 года рукоположен во священника Русской Православной Церкви и направлен в Зарайск, а позднее в Дмитров.
25 ноября 1965 вместе с Николаем Эшлиманом направил Патриарху Алексию I открытое письмо, которое подробно рисовало картину противозаконного подавления органами государственной власти СССР прав и свобод верующих граждан страны. Варианты Письма был предложены отцом Александром Менем и затем Анатолием Красновым-Левитиным, но не были приняты Николаем Эшлиманом и Глебом Якуниным, которые привлекли к сотрудничеству Карелина Феликса Владимировича. Им и была проделана большая часть литературной работы, хотя каждая формулировка обсуждалась и принималась втроем. В своем письме Н. А. Струве от 15.11.1971 о. Глеб Якунин открыто называет Феликса Карелина «третьим автором письма» . Однако было решено не ставить его подпись, поскольку Карелин имел судимость и это могло дать церковной власти формальный канонический повод для отказа в рассмотрении Обращения. Первоначально предполагалось, что это будет совместное письмо нескольких епископов и священников (в частности, архиепископа Гермогена (Голубева)). Но архиепископ Гермоген затем отказался от участия в проекте, а без него отказались участвовать и все остальные. Через два года арх. Гермоген направил Патриаху собственное послание, посвященное в основном вопросу о канонической нелигитимности Поместных Соборов, состоящих из епископов, не избранных народом на свои кафедры, но назначенными церковной властью . Результатом для архиепископа была последовавшая опала: высылка в Жировицкий монастырь, где он впоследствии и скончался.
В Письме, подписанном Николаем Эшлиманом и Глебом Якуниным, в частности, говорилось:
В заключение письма священноначалию Патриархии предлагалось:
Письмо было размножено в 100 экземплярах и разослано в середине декабря всем правящим архиереям Московского Патриархата. Митрополит Сурожский Антоний (Блум) прислал одобрительную телеграмму.
15 декабря копии письма были направлены Председателю Верховного Совета СССР Н. В. Подгорному, Председателю Совета Министров СССР А. Н. Косыгину и генеральному прокурору СССР Р. А. Руденко.
Историк Русской Церкви, диссидент Лев Регельсон писал:
Митрополиту Крутицкому и Коломенскому Пимену Патриархом было поручено провести увещевательные беседы с Глебом Якуниным и Николаем Эшлиманом, по результатам которых Патриарху Алексию был представлен доклад, на котором 13 мая 1966 последовала резолюция:
23 мая 1966 года Глеб Якунин и Эшлиман обратились с апелляцией в Священный Синод по поводу их запрещения в священнослужении. 8 октября 1966 года Священный Синод постановил:
После амнистирования в 1987 году (впоследствии реабилитирован Постановлением Верховного Совета РФ 18 октября 1991 года) восстановлен Московской Патриархией в священническом служении, которое исполнял в Никольском храме села Жегалово (город Щёлково Московской области) по 1992 год.
8 октября 1993 года лишён священнического сана Священным Синодом РПЦ с мотивировкой: «за отказ подчиниться требованию о неучастии православных клириков в парламентских выборах».
19 февраля 1997 года на Архиерейском Соборе РПЦ отлучён чрез анафематствование от Церкви.
Ещё до того был принят в юрисдикцию УПЦ КП в священническом сане, а затем перешёл в Русскую Истинно-Православную (Катакомбную) Церковь. В 2000 году на её основе были созданы Движение за Возрождение Российского Православия, а затем и Апостольская Православная Церковь, где имеет сан протопресвитера.
Глеб Якунин опубликовал сотни материалов и документов, свидетельствующих о нарушениях прав верующих в СССР и имевших широкий резонанс за рубежом. В ноябре 1979 года был арестован, а 20 августа 1980 года осуждён за антисоветскую агитацию, сидел в Перми-37 до 1985 года, затем — два с половиной года ссылки в Якутии. В 1987 году был амнистирован и восстановлен в сане, после чего служил в Никольской церкови села Жегалова в Подмосковье.
В 1990 году избран депутатом Верховного Совета РСФСР, после чего 18 октября 1991 года реабилитирован. В ВС занимал должность заместителя председателя Комитета Верховного Совета РФ по свободе совести. Принимал активное участие в работе над законом «О свободе вероисповеданий». При содействии Глеба Якунина возобновили работу множество закрытых храмов и монастырей.
В конце 1991—1992 годов участвовал в работе парламентской Комиссии по расследованию причин и обстоятельств ГКЧП. Комиссия опубликовала материалы КГБ о сотрудничестве Московской патриархии с КГБ. В 1993 году лишён Московской патриархией сана священника, официально — за отказ подчиниться требованию о неучастии православных клириков в парламентских выборах. Якунин подавал прошения о восстановлении его в сане священника, так как, по его мнению, он прежде всего защищал интересы верующих и рядового духовенства, которые были жертвами широкомасштабного шпионажа в православной церкви, но патриархат отклонил его просьбы. После лишения сана в 1993 году, в 1997 году Якунин был отлучён от церкви за самочинное ношение иерейского креста и священнических одежд, а также общение с самозванным патриархом Киевским Филаретом.
В 1993—1995 годах — депутат Государственной Думы.
11 сентября 1995 года стал участником драки в Госдуме. Николай Лысенко обвинил Якунина в том, что тот не имеет права носить рясу церковнослужителя, т.к. был лишён сана. После чего сорвал с него крест и начал им размахивать.
В 1965 году был запрещён Патриархом в священнослужении за выступление в защиту прав верующих. В 1976 году являлся одним из соучредителей общественного «Христианского комитета защиты прав верующих в СССР».
В 1990 году был избран народным депутатом РСФСР, членом Верховного Совета РСФСР, заместителем председателя Комитета ВС РСФСР по свободе совести.
С 1990 года — сопредседатель Координационного Совета движения «Демократическая Россия», а с февраля 1992 г. — сопредседатель Совета представителей Движения «Демократическая Россия».
В 1995 году организовал Общественный комитет защиты свободы совести.
Письмо, датированное 21 ноября 1965 года, вызвало резонанс не только в СССР, но и за границей. Так о письме отозвался в те годы ещё находившийся в СССР Александр Солженицын:
В письме священники выступали против гонений на церковь со стороны советского тоталитарного режима. До этого в феврале 1964 года были письменные протесты баптистов против гонений на христианство.
Широкий резонанс письма Якунина и его единомышленника можно объяснить тем, что церковь и до прихода коммунистов к власти не была самостоятельной, а после прихода была по сути на службе у государства и КГБ или ограничивалась литургиями. В самом письме перечислялись запреты, установленные властью: запрет на регистрацию крестин, запрет треб на дому и кладбищах, контроль над назначением духовенства и т. д.
Сам Глеб Якунин подтверждает информацию о гонениях на церковь соответствующими численными данными: «1 января 1958 года было 13 414 храмов, а в 1966-м осталось 7523, из монастырей 56 к 1966 году осталось только 19». Он также утверждает, что на самом деле у письма было три автора: он сам, Эшлиман и Феликс Карелин.
На посту руководителя общественного Комитета защиты свободы совести Глеб Якунин не раз предостерегал руководство страны о том, что бесконтрольный антисемитизм и вытекающая из него ксенофобия могут серьёзно подорвать целостность России, являющейся многонациональным государством.
Так, в заявлении Комитета «Безнаказанная ксенофобия — мина, которая рано или поздно разнесёт государство» Якунин, а также другие общественные организации, среди которых: Военно-историческое общество «Добровольческий корпус», Московское купеческое общество и Тамбовский правозащитный центр, критикуют российскую прокуратуру за то, что она до сих пор блокировала все попытки преследования по закону «черносотенцев и антисемитов», авторов антисемитского манифеста, так называемого «письма 20 депутатов». Антисемитский и человеконенавистнический характер данного манифеста подтвердили МИД, Государственная дума, председатель Совета Федерации, а также Федеральная служба по контролю за соблюдением федерального законодательства в СМИ. Но несмотря на это, прокуратура не приняла никаких действий по отношению к авторам манифеста. Также позднее прокуратурой не было принято мер по пресечению антисемитских кампаний по сбору подписей под требованием запрещения еврейских организаций в России, а также других акций антисемитов.
В 1997 году Якунин во главе комитета инициировал в Хорошёвском суде Москвы процесс против «сектоведа» Александра Дворкина, утверждая, что в его брошюре «Десять вопросов навязчивому незнакомцу…» содержатся сведения, которые не соответствуют действительности и порочат репутацию нескольких упомянутых в ней религиозных организаций, но потерпел поражение.
В ноябре 2005 года вместе с другими участниками московской Хельсинкской группы написал лидерам Запада письмо, в котором высказывалась озабоченность преследованием российских граждан по политическим мотивам. Среди жертв преследования государства фигурировали учёные Игорь Сутягин и Валентин Данилов, адвокат Михаил Трепашкин, студентка Зара Муртазалиева, предприниматели Михаил Ходорковский и Платон Лебедев.
Ранее он, а также ряд других правозащитников выразили свою озабоченность по поводу разгоревшейся в России «шпиономании» и преследования российских учёных ФСБ. Глеб выступил за перенесение дела профессора Кайбышева из Башкирии в любой другой регион, так как, по мнению правозащитников, «дело Кайбышева» — ещё одно сфальсифицированное ФСБ дело против российских учёных.
8 июля 2008 года, по поводу прещений, наложенных руководством Патриархии на Чукотского епископа Диомида (Дзюбан), сказал: