Клеман изучал архитектуру в Школе изящных искусств, но заинтересовался анимационным кино и в 1936 году снял короткометражный фильм с Жаком Тати в главной роли. В предвоенные годы снимал рекламные ролики, принимал участие в движении Сопротивления.
Тема войны занимала ведущее место в творчестве Клемана, начиная с его первых полнометражных фильмов, отмеченных влиянием итальянского неореализма, — «Битва на рельсах» (1946, премия Каннского фестиваля) и «У стен Малапаги» (1949, премия «Оскар»). Вновь вернулся к ней Клеман в своем самом значительном произведении — проникновенном рассказе о военных буднях детей, «Запрещённые игры» (1952, «Золотой лев», премия «Оскар», премия «BAFTA»).
В 1956 году Клеман под названием «Жервеза» экранизировал роман Золя «Западня»; фильм был удостоен «Золотого льва» на Венецианском фестивале. Не менее благожелательную прессу получил его триллер «На ярком солнце» (1960), с которого началась звёздная карьера Алена Делона.
Однако самый амбициозный клемановский проект 1960-х гг. — эпическая фреска об освобождении Парижа, «Горит ли Париж?» (1966), — оставил равнодушными и зрителей, и критиков, несмотря на суперзвёздный актёрский состав и сценарий, над которым работали Гор Видал и Фрэнсис Форд Коппола.
Разочарованный кассовыми неудачами и отрицательными отзывами критиков, Клеман в 62 года завершил свою кинокарьеру и поселился в Ментоне на Лазурном Берегу. Его последними картинами были экранизации детективов Себастьяна Жапризо; из их числа «Пассажир дождя» (1969) был удостоен премии «Золотой глобус» как лучший иностранный фильм.