Из еврейской франкоязычной семьи. Вместе с поэтом-сюрреалистом Жоржем Эненом организовал в Каире издательство La Part du sable. После Суэцкого кризиса 1956 года переселился в Париж, в 1967 году получил французское гражданство.
Похоронен на кладбище Пер-Лашез.
В центре всего написанного Жабесом — судьба еврейства от библейских времен до наших дней, трагедия изгнания и переживание Шоа, попытка найти язык для Катастрофы, которая не подается высказыванию и осмыслению. Развил своеобразную философию буквы и Книги, синтезируя традиции раввинизма и каббалы.
Был близок и переписывался с Максом Жакобом, Полем Элюаром, Филиппом Супо, Андре Жидом, Анри Мишо, Мишелем Лейрисом, Роже Каюа, Эммануэлем Левинасом, Паулем Целаном, Ивом Бонфуа, Жаком Дюпеном, Жаном Старобинским, Луиджи Ноно, Зораном Музичем, Антони Тапиесом, Оливье Дебре. Оказал большое влияние на Мориса Бланшо, Жака Деррида, его книги получили высокие отзывы Альбера Камю, Жюля Сюпервьеля, Рене Шара, Пола Остера и др.
Премия критиков (1970), Премия за искусство, литературу и науку Фонда французской иудаики (1982), премия Пазолини (1983), Большая национальная поэтическая премия (1987). Офицер Ордена Почётного легиона (1988), командор Ордена искусств и литературы (1988).