Родился 9 марта 1753 года в Страсбуре. В юности имел склонность к архитектуре и в 1761 году отправился в Париж, чтобы усовершенствоваться в этой науке под руководством знаменитого архитектора Шальгрена. Недостаточное состояние заставило его покинуть это поприще и возвратиться на родину.
Клебер оставался в полку Кауница до 1783 года, когда по желанию своих родных вышел в отставку, получил в Верхнем Эльзасе место инспектора над строениями и занимал эту должность до самой революции.
При образовании национальной гвардии Клебер вступил адъютантом в батальон, который он весьма скоро обучил военному делу.
Как только началась первая коалиционная война, Клебер отправился к Кюстину, стоявшему близ Майнца, и был назначен командиром 3-го Верхне-Рейнского батальона. Его сведения в архитектуре и военных науках сделали Клебера весьма полезным при укреплении Майнца и доставили ему чин полковника; во время осады Майнца прусскими войсками Клебер оказал во многих вылазках большую решимость и благоразумие, что побудило присутствующих там комиссаров Конвента произвести его в бригадные генералы. По сдаче Майнца 22 июля 1793 года Клебер был по неизвестной причине предан суду, но оправдался и был послан с бывшим Майнцскам гарнизоном в Вандею.
19 сентября он повёл авангард через Руссе в Торфу, но был, в то время, когда его войска грабили город, разбит вандейским генералом Шареттом. Отступление сделалось неизбежным. Для спасения армии должно было принести жертву; в теснинах, между Руссе и Гетинье, надеялись остановить преследователей, и тут-то Клебер сказал батальонному командиру Шевардену: «Возьми 300 гренадер, защищай эти теснины; тебя изрубят в куски, но ты спасёшь своих товарищей!». Шеварден с точностью выполнил это требование; армия была спасена: из 300 храбрецов ни один не остался в живых.
Когда генералов Канкло, Дюбайэ и Грушн отправили в отставку, то Клеберу было вверено на время командование всеми стоящими в Вандее войсками. Он разбил вандейцев при Шатальоне и передал армию 8 октября Лешелю. В сражении при Шолле 17 октября Клебер начальствовал правым крылом республиканских войск, 22 ноября участвовал в сражении при Антрене. Затем, 23 декабря, командуя дивизией овладел, городом Савенэ и несколько дней спустя торжественно вступил в Нант.
В начале 1794 года Клебер возвратился в Париж, командовал сначала дивизией в Северной армии и участвовал с ней в сражениях на Самбре. После того поступил под начало Журдана и сражался со славой и успехом при Флерюсе. По отступлении принца Кобургского Клебер двинулся против Монса и вскоре последовал за главнокомандующим к реке Маасу и предпринял осаду Маастрихта. Слава его еще более увеличилась скорым взятием этой крепости, и потому он должен был принять на себя осаду Майнца. Но вскоре ему было поручено начальство левым крылом армии Журдана, когда последний, в 1793 году, перешёл через Рейн близ Дюссельдорфа и Нойвида и двинулся к Майну.
Незадолго до Вюрцбургского сражения Клебер поехал в Париж, откуда, после некоторых объяснений с беспрерывно слабеющей Директорией, отправился к верхнему Рейну, чтобы узнать общее мнение своих соотечественников. Ему тогда же предложили место в Законодательном собрании, но государство было в таком бедственном положении, что никто не решался управлять им.
Во время переворота 18 фруктидора (5 сентября 1797 года) Клебер находился в Париже. Всегдашняя его откровенность привела к появлению у него множества врагов, даже Гош был в их числе, и Клебера едва не сослали в Кайенну.
Когда после Кампо-Формийского мира, Бонапарт готовился к походу в Египет, то обратил взор и на Клебера, который с радостью к нему присоединился, и 30 июня 1798 года прибыл в Александрию. Когда французы пошли к Каиру, а Клебер должен был остаться в Александрии, по случаю пулевого ранения, то распространился слух о новой революции в Париже и Клебер писал Наполеону Бонапарту: «Сделайте одолжение, уведомите меня, в чем дело. Я решился, генерал, следовать за вами повсюду; последую за вами и во Францию; я не хочу никому более повиноваться как вам одному».
Когда решён был поход в Сирию, тогда началась между Клебером и главнокомандующим маленькая размолвка, ибо Клебер, ссылаясь на свою болезнь, не хотел участвовать в походе. Однако главной причиной тому был Тальен, который, будучи главным агентом Бурбонов, не пренебрегал никакими средствами, чтобы вредить Бонапарту и старался рассорить его с Клебером, что ему впоследствии удалось. Бопапарт написал Клеберу весьма ласковое и лестное письмо и помирил его с собой.
Клебер, сражаясь под Яффой, при Сед-Ярре, близ горы Фабора и при Абукире со всегдашней храбростью, возбудил в Наполеоне Бонапарте такое к себе уважение, что он его назначил главнокомандующим над войсками в Египте, когда события в Европе и собственные замыслы сделали необходимым возвращение Наполеона во Францию.
По отъезде Бонапарта Тальен снова втерся в доверие к новому главнокомандующему и старался настроить его против Наполеона. Клебер на этот раз попал в расставленную ему сеть - он полагал, что Бонапарт с намерением оставил его в Египте на произвол судьбы, и потому хотел ускорить своё возвращение в Европу. Тальен, находившийся в тайных сношениях с британским генералом Смитом, предложил ему отправить в Европу прежде всего раненых, чтобы они поселили там своими рассказами ненависть и вражду к прежнему главнокомандующему. Тальен хотел самостоятельно провозить раневых в качестве гражданского комиссара, войти в сношения с правительственными учреждениями и заставить их действовать по своим замыслам.
В Египте ещё не знали, что Бонапарт уже избран в консулы, потому-то письмо Клебера к Директории не имело успеха.
Начатые только для вида переговоры с командором Смитом деятельно возобновились, но так как Тальен втайне действовал против них, они остались без успеха. После потери Эль-Ариша Клебер предложил очистить весь Египет, но Смит объявил, что его правительство не подтвердило договора и что адмирал Кейт имеет приказ противиться отъезду французов. Клебер приказал прибить письмо Смита, в котором он предлагал французам сдаться в плен, на всех углах Каира и подписал внизу следующие слова: «На такое недостойное требование, должно отвечать только победой».
Уже многие места были переданы туркам и великий визирь стоял с многочисленной армией в готовности придать еще больший вес требованиям адмирала Кейта; но Клебер после победы при Гелиополисе сделался снова повелителем всего Египта; глава мамелюков, Мурад-Бей стал его вассалом.
Тогда же Клебер узнал через полковника Латур-Мобура, тайно прибывшего из Франции в Египет, о событиях в Европе, и решился удержать за собой вновь завоёванную страну. Но слишком строгое и неблагоразумное управление привело к появлению у него множества новых и опасных врагов и было причиной его смерти. Для содержания своих войск Клебер стал взимать контрибуции, делать насильственные займы, налагать подать на коптов, на гаремы, и так далее. Это обратило на него общее неудовольствие местных жителей, и Клебер 14 июня 1800 года пал под кинжалом молодого фанатика.
Клебер был высокого роста и сильного телосложения, но его характер не был столь же твёрд, в счастье он был легкомыслен, и только одни бедствия и препятствия пробуждали его дарования как полководца. Против других Клебер был груб и несговорчив, повинуясь только голосу дружбы или убеждения.
В 1818 году останки Клебера по приказанию Людовика XVIII были перезахоронены в его родном городе, там же 14 июня 1840 года ему был установлен бронзовый памятник. Другая его статуя установлена в Лувре. Также имя Клебера выбито на Триумфальной арке в Париже.