Отец Абеля Христиан Фердинанд Абель был близко знаком с Иоганном Себастьяном Бахом, под руководством которого проходил обучение в лейпцигской школе Святого Фомы. Считается, что именно по рекомендации Баха 24-летний Абель в 1748 г. поступил в дрезденский придворный оркестр под руководством Иоганна Адольфа Хассе, где проработал 10 лет. В 1759 г. Абель переселился в Англию, где стал придворным композитором жены Георга III королевы Шарлотты. После приезда в Лондон в 1762 г. Иоганна Христиана Баха Абель и Бах-младший много работали вместе и в 1764 г. учредили совместный концертный проект, который стал первым в Англии циклом платных концертов по подписке.
В 1763 году совместно с графом Сен-Жерменом написал музыкальную комедию «The sammers tale» («Летняя сказка»).
Абель был широко известен как музыкант-виртуоз. Иоганн Вольфганг Гёте назвал его последним великим гамбистом. Характерно, что возродивший исполнительство на виоле да гамба Христиан Дёберайнер дебютировал в 1905 г. как гамбист исполнением сонаты Абеля. Композиторское наследие Абеля довольно обширно, хотя наибольшую известность одна из его симфоний получила несколько курьёзным образом: рукописная партитура её была найдена в бумагах Вольфганга Амадея Моцарта и опубликована под его именем как Симфония № 3 (K 18); судя по всему, юный Моцарт переписал её для себя в 1764 г. с учебными целями. Абелю принадлежит множество симфоний, сонат, концертов и увертюр. Он также охотно участвовал в сочинении шуточных опер-пастишей, являвшихся обычно плодом коллективного творчества, — в частности, музыка Абеля, наряду с музыкой Иоганна Христиана Баха, есть в трёхактной опере «Том Джонс» по повести Генри Филдинга, поставленной в Лондоне в 1769 г.