В 50-х Джей Джей Кейл начал выступать в клубах и барах, а в 17 лет основал группу «Johnny Cale and The Valentines». В 1964-м уехал в Лос-Анджелес, где работал звукоинженером и продолжал клубные выступления. В середине 60-х удвоил инициалы — J. J. — чтобы его не путали с Джоном Кейлом из Velvet Underground.
После выступлений в клубах, работы в студиях и выхода нескольких синглов Кейл начал сотрудничать с композитором Роджером Тиллисоном, плодом чего стал психоделический альбом «A Trip Down Sunset Strip». Этот несколько ироничный сборник вышел под псевдонимом Leather Coated Mindes. Именно во время тех сессий и была написана его первая знаменитая вещь «After Midnight». Эта песня стала популярной в 1970 году, когда ее исполнил Эрик Клэптон. В 1967 году Кейл возвращается в Тулсу.
Когда «After Midnight» оказалась в горячей двадцатке, знакомый продюсер Кейла, Оди Эшворт, настоял на том, чтобы Джей Джей записал собственный альбом. Альбом был записан и вышел в 1971 году под названием «Naturally». На этой вполне профессиональной, и возможно, лучшей пластинке Кейла были авторская версия «After Midnight», а также «Call Me The Breeze», «Magnolia» и «Crazy Mama». Последняя попала в американский Тор 30. Характерный вокал Кейла был подкреплён лирическим аккомпанементом Дэвида Бриггса (клавишные), Норберта Патнэма (бас) и Тима Драммонда (ударные) — ветеранов из Нэшвилла, которые некогда были связаны с группой Area Code 615. Этим альбомом музыкант начал специфический для себя стиль, за который часть критики обвинила Кейла в скудости музыкальных замыслов.
Альбомом «Really» был несколько суровее, чем предыдущий, и подтвердил сочинительский талант автора. В записи этой пластинки участвовали фанк-инструменталисты Берри Бакетт (клавишные), Дэвид Худ (бас) и Роджер Хоукинс (ударные). Следующие пластинки «Okie» и «Troubadour» презентовали очень сглаженную музыку. На последнем из этих альбомов присутствовала песня «Cocaine», которая также стала популярной в исполнении Эрика Клэптона, как и «I’ll Make Love То You Anytime» из альбома Кейла «Five». Интересную версию «Cocaine» записала и группа Nazareth на своем альбоме «The Fool Circle» (1981), где она представлена в концертной версии.
Записав в 1983 году восьмую пластинку, названную просто «8», Джей Джей Кейл на насколько лет отошел от музыки. Он объяснял это разочарованием в работе с крупными рекорд-лэйблами, а также тем, что отчислений за исполнение написанных им песен ему вполне хватает на жизнь:
В 1970-х годах Кейл начал собирать гитары и модифицировать их под собственные творческие задачи:
В 1993 году Кейл дал концерт, что он делал очень редко, на фолк-фестивале в Эдмонтоне, а через год пополнил свою дискографию альбомом «Closer To You». Записывая последнее время пластинки раз в три года, Кейл в 1996 году записал очередной альбом «Guitar Man», получивший хорошие рецензии. Стиль его песен — спокойный, мелодичный, ностальгический. В них он рассказывает простые истории, которые могут произойти с кем угодно.
В 2000-х Джей Джей Кейл неоднократно сотрудничал с Эриком Клэптоном по инициативе последнего. В 2004 году Клэптон организовал в Далласе гитарный фестиваль «Crossroads», где выступил и Кейл. Там зародилась идея совместного альбома. Альбом «The Road To Escondido» был записан в августе 2005 года в Калифорнии. Оба музыканта совместно продюсировали этот проект, пели и играли в нем. 11 из 14 композиций диска написал Кейл, одну — Клэптон («Three Little Girls»), одну — Джон Майер, а еще одним треком стала версия классического блюза «Sporting Life Blues». Весной 2008 года этот альбом получил премию «Грэмми» в категории «Лучший альбом в стиле Современный блюз».
2011-The Silvertone Years