Родился в Бретани, в семье торговца. В 1879 родители разошлись, дети остались с матерью. Учился в Ренне, затем в лицее Генриха IV в Париже (среди его преподавателей был Анри Бергсон, а среди однокашников — будущий поэт Леон-Поль Фарг и будущий филолог Альбер Тибоде). Провалился на экзаменах в Эколь Нормаль, затем в Сорбонну, так никогда и не получил высшего образования.
Вошел в круг столичного издательства «Меркюр де Франс», познакомился с Марселем Швобом, Реми де Гурмоном, постоянно бывал в доме влиятельной писательницы Рашильд. Здесь в 1894 и была впервые прочитана гротескная кукольная драма «Король Убю». В 1896 ее поставил известный режиссер Орельен Люнье-По, на представлении разразился общественный скандал (его сравнивают с историческим скандалом на премьере драмы Виктора Гюго «Эрнани»). Жарри переводил стихи Кольриджа и Стивенсона, переделал комедию Х. Д. Граббе «Шутка, сатира, ирония». Пытался издавать журнал, увлекался велосипедным спортом. Исчерпал наследство, бедствовал, некоторое время жил у Таможенника Руссо. Его роман «Деяния и суждения доктора Фаустролля, патафизика» был отвергнут издательством «Меркюр де Франс» и другими издателями. Жарри, всегда отличавшийся резкостью в поведении, перессорился со всеми, голодал, болел, пьянствовал, употреблял наркотики (эфир). Был парализован, умер в больнице.
Творчество Жарри заново открыли Аполлинер и сюрреалисты. В 1926 Антонен Арто вместе с Роже Витраком и Робером Ароном создал «Театр Альфреда Жарри». Жарри стал культовой фигурой литературного и театрального авангарда Европы, США и Латинской Америки, в частности — своего рода символическим покровителем группы УЛИПО. В Лавале ему установлен памятник работы Осипа Цадкина. По фарсам о короле Убю написан балет Б. А. Циммермана (1966). В 1948 организован шутовской Коллеж патафизики, в 1979 — Общество друзей Альфреда Жарри. В 2007 были организованы мероприятия по случаю 100-летней годовщины смерти писателя.