Родился в семье краснодеревщика, некоторое время работал страховым агентом.
Марсель Карне начал свою кинематографическую карьеру в 1928 году в качестве помощника оператора Ж. Периналя на съёмках фильма «Новые господа» Жака Фейдера. В 1930 году выступил ассистентом Рене Клера при съёмках первого шедевра европейского звукового кино — комедии «Под крышами Парижа». В 1933—1935 годах как ассистент Жака Фейдера участвует в создании трёх его картин.
В 1936 году снимает первый фильм «Женни».
В конце 1930-х началось многолетнее сотрудничество Карне со сценаристом и поэтом-сюрреалистом Жаком Превером. Творческий союз Карне и Превера определял образ французского кинематографа своего времени и положил начало так называемому «поэтическому реализму». Среди картин, созданных в сотрудничестве с Превером, такие крупные фильмы, как «Набережная туманов» (1938) с участием Жана Габена, Мишель Морган, Мишеля Симона и «День начинается» (1939), воплотившей свойственные предвоенной Франции чувства пессимизма и даже фатализма.
Ранние фильмы Карне, наряду с фильмами Ж. Гремийона, Ж. Дювивье и Ж.Ренуара сделали «звездой» Жана Габена. Кроме Габена, Карне часто снимает Арлетти, Жюля Берри, Пьера Брассёра.
В время Второй мировой войны Карне оказался в оккупированной немцами Франции, где мог снимать только костюмные драмы на исторические темы. Работая в узких рамках немецкой цензуры, Карне создаёт фильм «Вечерние посетители» (1942), с виду невинную средневековую сказку о двух влюблённых, противостоящих воле дьявола. Однако публика воспринимает этот фильм как зашифрованный призыв к сопротивлению оккупационному режиму.
Самым крупным шедевром Карне считается картина «Дети райка» (1945); в 1995 году в результате опроса 600 французских кинокритиков и специалистов он был назван «лучшим французским фильмом столетия». Главные роли в этой ленте о корифеях французской сцены сыграли Жан-Луи Барро, Пьер Брассёр и Арлетти. Некоторые критики усматривают и в этом фильме аллегорию Французского сопротивления.
Сразу после войны воодушевлённые успехом Карне и Превер снимают картину, которая становится на тот момент самой дорогой в истории французского кино — «Врата ночи» (1946). Однако фильм подвергся жестокой критике и принёс мизерные сборы, что стало причиной распада творческого союза Превера и Карне.
В 50-х годов фильмы Карне не пользуются таким успехом, как раньше. Уставшая от войны французская публика требовала романтики и юмора, а суровая реалистичность фильмов Карне не находила спроса. В этот период он снимает такие заслуживающие внимания картины, как «Джульетта, или Ключ к сновидениям» (1951) и «Тереза Ракен» (1953) по роману Эмиля Золя, но к концу десятилетия, уже на пороге «новой волны», на счету Карне был всего один успешный послевоенный фильм «Обманщики» (1958), остальные же пользовались лишь незначительным успехом, либо подвергались критике со стороны прессы и других кинематографистов. Возражения вызывали нарочитая постановочность фильмов Карне, его скрупулёзное следование сценарию — черты, которые коренным образом расходились с эстетикой «новой волны».
Свой последний фильм Карне снял в 1976 году, а в 1989 году стал первым деятелем кино и театра, удостоенным Императорской премии. В некоторых из его поздних фильмов присутствует тема гомосексуальности. Существует мнение, что Карне сам был гомосексуалистом, но не выставлял этого напоказ.
Умер Карне в 1996 году в Кламаре. Похоронен на кладбище Сен-Венсан на Монмартре.