Гарнак родился в российском Дерпте. Его отец Феодосий (Theodosius) был профессором практической и методической теологии вначале в Дерпте, затем в течение 13 лет в Эрлангене (Германия) и позднее, уже до самой своей смерти, опять в Дерпте. Его основной труд, касающийся теологии Лютера, до сих пор широко изучается. Дед Гарнака по материнской линии, Густав Эверс, издал Справочник по истории догматов Мюнтера.
Адольф фон Гарнак учился в Дерптском (1869—1872), а затем в Лейпцигском университете, где после получения докторской степени (защитил диссертацию о раннем христианском еретическом учении, гностицизме, в 1874) он стал приват-доцентом, а в 1876 году — экстраординарным профессором по истории церкви.
В 1879 году Гарнак переехал в Гессен, где возглавил кафедру церковной истории Гессенского университета. В 1886-88 состоял профессором в университете в Марбурге — центре неокантианства.
Вскоре ему представилась возможность вернуться в Лейпциг, но ортодоксальные лютеранские круги подняли против него травлю, и возвращение не состоялось.
В 1888 году Гарнак избирается (почти единогласно) богословским факультетом Берлинского университета и приглашается на должность профессора. Из-за его либеральных теологических взглядов (особенно в отношении важности и обоснованности исторических верований христианства) Верховный Собор евангелической церкви Пруссии опротестовал это избрание. Дело поступило на рассмотрение совета министров, который отклонил протест, как немотивированный. Это противостояние было преодолено благодаря вмешательству канцлера Отто фон Бисмарка, по совету которого император Вильгельм II утвердил избрание Гарнака профессором Берлинского университета. В Берлине профессорская деятельность Гарнака протекала без больших потрясений, если не считать волнений в ортодоксальных кругах, вызванных его взглядами на происхождение Апостольского Символа веры.
В зимний семестр 1899/1900 Г. прочел в Берлине для всех ф-тов цикл лекций, которые вскоре издал под названием «Сущность христианства».
В августе 1914 года Гарнак поставил подпись под заявлением девяноста трёх немецких интеллектуалов, поддерживающих военную политику кайзера Вильгельма. Более того, известно, что воззвание германского кайзера к народу составил Гарнак, как многие считали занимавший положение «придворного богослова».
В Берлине Гарнак вошёл в состав Академии наук и в 1905 году назначается директором Прусской королевской библиотеки, которую возглавлял до 1921 года. Благодаря его высоким дарованиям и кипучей энергии академией наук стали издаваться творения христианских писателей первых трёх веков (фактически и V века). Над этими изданиями работали лучшие учёные Европы. Гарнак ежегодно выпускал «Jahresbericht der Kirchenvw?ter-Commission». С этим монументальным предприятием было связано начатое Гарнаком и Гебхардтом ещё в 1882, а в 1907 продолженное в сотрудничестве с К. Шмидтом издание «Тексты и исследования по истории раннехристианской литературы» («Texte und Untersuchungen zur Geschichte der altchristlichen Literatur. Archiv f?r die Griechischen Christlichen Schriftsteller der ersten drei Jahrhunderte»). В этом 45-томном собрании помещались написанные авторитетными учёными монографии по всем вопросам христианской письменности первых трёх веков.
Гарнак был президентом Евангелическо-социального конгресса (1903—1912 гг.), а с 1910 года президентом основанного по его инициативе Общества содействия науке Кайзера Вильгельма (ныне Общество Макса Планка). Гарнак обеспечил поддержку этой организации промышленностью и правительством, основал исследовательские институты естествознания и медицины. Он не покидал своего поста в университете Берлина до 1921 года, когда ушёл на покой, награжденный титулом заслуженного профессора в отставке.
На протяжении всей своей жизни Гарнак изучал жизнь и творчество немецкого поэта эпохи романтизма Иоганна Вольфганга фон Гёте (1749—1832) и посвятил ему несколько основательных работ.
В своих трудах Гарнак довёл до кульминационного пункта толкование христианской религии как исторической «эволюции». По его мнению христианство во 2 в. переживает процесс обмирщения. С самого начала в христианстве боролось два начала: эллинистический спекулятивный гностицизм (синкретическое движение) и консервативное иудео-христианство (эту идею Гарнак заимствует от Фердинанда Баура). Гарнак доказывает, что еще к III веку у разрозненных и эсхатологических христианских общин не было полного собрания текстов Нового Завета (об этом свидетельствует усеченный канон Маркиона). Само же учреждение церковной епископальной иерархии Гарнак связывает с вызовом харизматического монтанизма и преодолением апологетами крайностей гностицизма (прежде всего дуализма). Именно в это время происходит догматизация и «католизация» христианства. Лишь начиная с Тертуллиана формируется учение о Троице, о применимости понятий субстанция и лицо по отношению к Богу.
Гарнак вслед за Шлейермахером и пиетистами считал, что вера в Бога первичнее догматов, посему для сохранения христианского учения в современном мире необходимо освободить его от догматических представлений о Боге и Христе, созданных для выживания религии в эллинистическом мире.
Гарнак отрицал существование чудес в Евангелиях на основании следующих аргументов. Во-первых, авторы Евангелий являлись носителями мифологической картины мира, посему они были склонны интерпретировать непонятное как чудо. Во-вторых, всем великим людям в древности приписывали совершение чудес. В третьих, сами законы природы созданы Богом, посему невозможно, чтобы Бог сам отменил свои решения
Если восточное христианство он называет греческим, а католическое — римским, то протестантизм он считает немецким явлением, полагая, что француз Кальвин все же был последователем немца Лютера. Сущность Реформации сводится к освобождению от внешнего (sola fides), верить в отпущение грехов, восприятию церкви как общества верующих и индивидуализм. Суть богослужения выражается в служению ближнему и славословии Богу. Эти реформы возвращают протестантские церкви к временам Евангелия, посему они в полной мере могут быть названы евангелическкими. Гарнак признавал, что история протестантизма после Реформации не была безоблачной, посему именно пиетизм хранил внутри протестантизма евангельский дух
Труды «Сущность христианства», «История догматов» и «Церковь и государство вплоть до установления государственной церкви» переизданы в новой орфографии в сборнике «Раннее христианство», Москва, издательство АСТ, ISBN 5-17-003288-9.