Закончил Ланкастерскую королевскую среднюю школу и Университет Манчестера, где учился на факультете психологии. После окончания университета начал работать на телевидении, а потом монтажером-фрилансером. В перерывах между работами начал писать свой первый роман «Кровь и железо» (англ. The Blade Itself) в 2002 году, который закончил в 2004. Роман был напечатан издательством Gollancz в 2006 году, после чего Аберкромби написал оставшиеся две части трилогии «Первый закон»: «Прежде чем их повесят» (англ. Before They Are Hanged) и Last Argument of Kings. Дважды его романы признавались «книгами года» посетителями популярного тематического ресурса SFF World. В 2008 году Джо участвовал в телевизионном проекте BBC World of Fantasy вместе с такими писателями как Майкл Муркок, Терри Пратчетт, Чайна Мьевиль. В настоящее время проживает в городе Бат, графства Сомерсет.
На русском языке издательством Эксмо, Домино выпущены книги трилогии «Первый Закон» в серии «Чёрная Фэнтези».