Происходил из весьма древнего и знатного марабутского (священнического) рода в Оране.
Он учился в Маскаре, в духовном училище Хетне, находившемся под руководством его отца, высоко уважаемого марабута Сиди-эль-Магиддина. Благодаря своим необыкновенным способностям, благочестию, учёности и искусству владеть оружием Абд аль-Кадир ещё в молодости приобрёл широкую известность. Чтобы избавиться от преследований подозрительного алжирского дея, он бежал в Египет, где ему впервые пришлось встретиться с европейской цивилизацией. Отсюда он совершил хадж в Мекку и вернулся на родину с почётным титулом эль-хаджи (паломника). В это время французы завоевали Алжир, изгнав турок, при этом, однако, восстали многие арабские племена.
В 1832 был избран племенами западного Алжира эмиром и создал независимое государство, формально признав себя вассалом и наместником марокканского султана Абд ар-Рахмана. Принял титул эмир аль-муминин («повелитель правоверных»).
В мае 1832 началась крайне упорная и кровопролитная война с французами, в которой Абд аль-Кадир неоднократно выходил победителем, но в итоге потерпел поражение: 22 декабря 1847 он сдался генералу Ламорисьеру и герцогу Омальскому и был отправлен во Францию.
Во Франции он жил под мягким, почётным надзором со своими родными, пока Наполеон III не освободил его, назначив пенсию. 21 декабря 1852 он переехал в Бурсу, а затем поселился в Дамаске, где летом 1860 вступился за подвергавшихся жестокому преследованию христиан. С тех пор его тихая, созерцательная жизнь прерывалась только предпринимаемыми им по временам странствованиями на богомолье. Он ещё раз совершил хадж в Мекку, посетил в 1867 Всемирную выставку в Париже и в ноябре 1869 присутствовал при открытии Суэцкого канала.
Абд аль-Кадир написал весьма интересное религиозно-философское сочинение, которое Гюстав Дюга (фр. Gustave Dugat) перевёл с арабского на французский под заглавием: «Rappel ? l’intelligent; avis ? l’indiff?rent» (Париж, 1858).