Джилленхол активно участвовал в ряде социально-политических кампаний. По мнению критиков, является одним из самых многообещающих актёров поколения 25-летних.
В детстве Джилленхол часто появлялся в фильмах, так как вся его семья была занята в киноиндустрии. В 11 лет он дебютировал в комедии «Городские пижоны» (1991). Родители не разрешили играть ему в фильме «The Mighty Ducks» (1992), так как для этого ему необходимо было покинуть дом на два месяца. В более позднем возрасте родители разрешали ему принимать участие в некоторых съёмках. Несколько раз он появлялся в фильмах своего отца («Опасная женщина» (1993), «Убойный отдел» (1994), «Доморощенный» 1998), а также в малоизвестном детском приключенческом фильме «Джош и Сэм».
Закончив среднюю школу при Гарвардском университете в Лос-Анжелесе в 1998, он поступил в Колумбийский университет (штат Нью-Йорк), где также учились его мать и сестра. Джейк бросил университет после двух лет учёбы, чтобы вплотную заняться актёрской карьерой, однако сейчас имеет намерения закончить образование. Первая главная роль Джилленхола была в фильме «Октябрьское небо» (адаптация автобиографии инженера-ракетчика Гомера Гикама), в котором он сыграл школьника из Западной Вирджинии, стремящегося выиграть научную стипендию, чтобы избежать будущего в качестве шахтёра. Фильм собрал в прокате 32 млн долларов.
«Донни Дарко», второй известный фильм Джилленхола, не предполагал большого кассового успеха, однако после его выхода в 2001 стал культовым. По сюжету действие происходит в 1988, когда парень по имени Донни (герой Джейка) переживает несчастный случай, едва не стоивший ему жизни, и начинает видеть странные образы: кровавые картины, шестифутового кролика, который предсказал герою «конец света». Игра Джилленхола в картине была положительно оценена критиками.
В 2001 Джилленхол также снялся в романтической комедии «Парень из пузыря», сыграв роль подростка с неработающей иммунной системой, помещённого в герметичный пузырь из пластика, пытающегося вернуть любовь своей жизни до того, как она выйдет за другого замуж.
После успеха в Донни Дарко, следующая роль Джилленхола в фильме «Шоссе» была проигнорирована критиками и зрителями. Больший успех ожидал актёра в малобюджетном фильме «Хорошая девочка» с Дженнифер Энистон, премьера которого состоялась на кинофестивале Сандэнс в 2002, и в фильме «Обаятельная и привлекательная» с Катрин Кинер.
В 2002 году Джилленхол снялся с Дастином Хоффманом, Сьюзан Сарандон, Холли Хантер в фильме «Миля лунного света», где его герой пытается пережить нелепую смерть своей невесты, переехав в дом её родителей, но жизнь продолжается, он влюбляется в другую девушку и одновременно хочет примириться с прошлым. Режиссёр Брэд Сильберлинг снял автобиографическую историю — его девушка тоже умерла, когда он был подростком.
Джилленхол также участвовал в отборе актёров на роль Человека-паука в фильме «Человек-паук 2», когда возникли сомнения в здоровье Тоби Магуайра, однако вместо этого снялся в блокбастере «Послезавтра», сыграв с Дэннисом Куэйдом в роли его сына. Фильм собрал в американском прокате 186 млн долларов.
Театральный дебют Джейка состоялся на лондонской сцене в спектакле «Это наша юность» Кеннета Лонергана. Пьеса стала сенсацией на Бродвее. За эту роль Джилленхол был награждён London Evening Standard Theate Award в номинации «Лучший актёр-дебютант».
2005 стал плодотворным годом для Джилленхола, который снялся в успешных фильмах «Доказательство», «Морпехи» и «Горбатая гора». В «Доказательстве» Джилленхол играл с Гвинет Пэлтроу и Энтони Хопкинсом роль студента-математика, который пытается уговорить героиню Пэлтроу опубликовать доказательство революционной теоремы. В картине «Морпехи» Джилленхол снялся в роли агрессивного морского пехотинца с израненной положением военного душой в войне в Персидском заливе. В «Горбатой горе» Джилленхол и Хит Леджер играли молодых ковбоев, встретившихся на пастбищах в Вайоминге, чья связь переросла в гомосексуальные отношения, которые продолжались в течение 60-70 гг. Часто фильм преподносился короткой фразой «кино про ковбоев-геев». Фильм получил Золотого Льва, четыре награды BAFTA и три Оскара. Джилленхол был номинирован на «Оскар» за Лучшую мужскую роль второго плана, однако статуэтку получил Джордж Клуни за фильм «Сириана». Джилленхол также выиграл награду BAFTA за лучшую роль второго плана и был номинирован за лучшую роль второго плана и за лучший ансамбль Гильдии киноактёров США. Также за «Горбатую гору» он и Леджер получили награду MTV Movie Award за лучший поцелуй в 2006. Сразу после церемонии Оскара Джилленхол был приглашён в Американскую академию киноискусства в знак его профессионального признания.
После выпуска фильма «Горбатая гора» относительно сексуальной ориентации Джилленхола пошли многочисленные слухи. Вот, что сказал Джилленхол в интервью об этом:
Джилленхол в роли рассказчика участвовал в коротком анимационном фильме «The Man Who Walked Between the Towers». В январе 2007 в популярном американском телешоу «Субботним вечером в прямом эфире» (Saturday Night Live) Джилленхол в женском платье и парике исполнил хит «And I Am Telling You (I’m Not Going)» из мюзикла «Dreamgirls», посвятив её фанатам «Горбатой горы».
В 2007 Джилленхол снялся в фильме Дэвида Финчера «Зодиак», основанном на реальных событиях. Это история карикатуриста-оформителя газеты San Francisco Chronicle Роберта Грейсмита (героя Джилленхола), который в 1960-х годах участвовал в расследовании дела серийного убийцы по прозвищу «Зодиак». Джилленхол снялся с Мерил Стрип, Алоном Аркин и Риз Уизерспун в фильме «Версия» режиссёра Гэвина Худа, детективном в триллере-драме о тайных тюрьмах США, в которые попал арабский муж главной героини. Джилленхол также снялся в ремейке датской киноленты «Братья» и в ещё не названном фильме Дага Лаймана о гонке за колонизацию Луны. В 2009 он должен был сниматься с Джессикой Биль в фильме «Пригвождённая» в роли конгрессмена, однако проект не состоялся. В том же году актёр исполнил главную роль в фильме «Принц Персии: Пески времени».
Рассматриваясь по всему миру как секс-символ, Джилленхол был назван одним из «50 самых красивых людей в мире 2006» по версии журнала People. Он находится в списке самых желаемых холостяков (2004, 2005, 2006), а также в десятке самых сексуальных мужчин журнала. В ответ на подобные рейтинги тысячи геев и бисексуалов, посетителей сайта AfterEllen.com, проголосовали за «100 самых горячих мужчин». Первое место занял Джилленхол.
Сестра Джилленхола Мэгги замужем за актёром Питером Сарсгаардом, с которым Джилленхол снимался в фильмах «Морпехи» и «Версия». Племянница Джилленхола, Рамона Сарсгаард, родилась 3 октября 2006 года. В декабре 2006 Джейк и сестра спаслись во время пожара, который уничтожил известный ресторан в Калифорнии, где они были на каникулах. Джейми Ли Кёртис является его крёстной матерью. Сам Джилленхол является крёстным отцом Матильды Роуз Леджер (р. 28 октября 2005), дочери Хита Леджера и Мишель Уильямс, с которыми он играл в фильме «Горбатая гора». Его дядя Андерс Джилленхол — исполнительный редактор газеты «The Miami Herald».
Джилленхол встречался с певицей Дженни Льюис в 2001, а затем с актрисой Кирстен Данст. Пару познакомила сестра Мэгги, которая снималась с Данст в фильме «Улыбка Моны Лизы». Они начали встречаться в сентябре 2002 и объявили о прекращении отношений в июле 2004, но их общение продолжилось до декабря 2005.
В течение 2007 шла постоянная спекуляция средств массовой информации по поводу отношений между Джилленхолом и Риз Уизерспун, с которой он снимался в фильме «Версия». Однако пара опровергла слухи осенью 2007. Но после их совместной поездки в Рим и окончательного развода Уизерспун и Райана Филиппа в октябре 2007 Джилленхол и Уизерспун стали более открытыми в отношениях. Впоследствии их часто видели вместе. Пара рассталась в ноябре 2009 года. Пресс-службы Уизерспун и Джилленхола опровергли этот факт, заявив, что «они всё ещё вместе», однако несколько недель спустя статья в таблоиде «Us Weekly» подтвердила распад. В 2009 Джейк начал встречаться с актрисой и коллегой по фильму «Братья» Натали Портман.
С октября 2010 года встречался с кантри-певицей Тейлор Свифт, с которой расстался в декабре 2010. Их роман продлился всего пару месяцев.
Джилленхол является политически активным человеком. Он участвовал в ежегодной промо-акции Rock the Vote, вместе с сестрой Мэгги Джилленхол они посещали Университет Южной Калифорнии, чтобы призвать студентов голосовать на президентских выборах в США в 2004. Он также поддерживал кандидата от демократов Джона Керри. Джилленхол и его семья активно поддерживают Американский союз защиты гражданских свобод. Сторонник экологизма и переработки отходов, Джилленхол заявлял в интервью, что он каждый год тратит 400$ на посадку деревьев в лесу Мозамбика. После съёмок в фильме «Послезавтра» он полетел в Арктику, чтобы привлечь внимание общественности к проблеме изменения климата и сделать информацию об этом более доступной.
В свободное время Джилленхол увлекается столярными работами и приготовлением еды, а также старается каждый день медитировать. Снимался в одной из серий программы «Выжить любой ценой» на телеканале Discovery.