Диб родился в Тлемсене, западный Алжир, около границы с Марокко, в семье среднего класса спустившаяся в бедность. После потери отца, Диб в 15 лет начал писать стихи. В 18 лет он начал работать учителем в соседнем городе Уджда, Марокко. В 1920—1930-е годы работал ткачом, учителем, бухгалтером, переводчиком (для французских и британских военных), а также журналистом в «Alger R?publicain» и коммунистической газете «Libert?». В течение этого периода он также изучал литературу в Алжирском университете. В 1952, за два года до алжирской революции, он женился на француженке, присоединился к алжирской Коммунистической партии и посетил Францию. В том же самом году он издал свой первый роман «La Grande Maison» (Большой Дом).
В 1959 году он был выслан из Алжира французскими властями за поддержку независимости Алжира, а также в связи с успехом его романов (в которых описывалась не простая жизнь алжирцев под гнетом французов). Вместо переезда в Каир по примеру многих алжирских националистов ему помогли остаться во Франции. С 1967 он жил в La Celle-Saint-Cloud вблизи Парижа.
С 1976—1977 Диб работал преподавателем в Калифорнийском университете Лос-Анджелеса. Он также является профессором в Сорбонне в Париже. В последующие годы он часто посещал Финляндию где написал несколько своих поздних романов. Умер в La Celle-Saint-Cloud на 2 мая, 2003.
Его дебютный роман «La Grande Maison» является первой частью трилогии о крупной алжирской семье. Основной герой, Омар, является молодым мальчиком, выросшим в бедности в Алжире накануне Второй мировой войны. Вторая часть, «L’Incendie» изданная в том же самом году описывала жизнь Омара во время второй мировой войны. Заключительная часть трилогии, «Le M?tier ? tisser» описывает взрослую жизнь работяги Омара. Трилогия была частично автобиографична. Также работал профессором в Московском Государственном Университете.
С 1985—1994 он пишет полуавтобиографический роман о посещении уроженца Северной Африки северных стран, о взаимоотношении этого человека с северной женщиной и о посещении их совместного ребенка родины отца. Диб также помог перевести на французский язык несколько финских кни