Мидзогути родился в Токио в семье кровельщика. Семья имела средний достаток, пока его отец не попытался заняться продажей плащей для солдат во время Русско-японской войны. Война закончилась слишком быстро, чтобы инвестиции окупились; семья оказалась в удручающем положении. Старшую сестру Кэндзи пришлось отдать в чужую семью; через некоторое время приёмные родители продали её в гейши. Это событие глубоко повлияло на мировоззрение Мидзогути, предопределив главную тему его творчества — «несчастья женщин в мужском мире», в том числе их прозябание в домах терпимости. Он всю жизнь резко противостоял отцу, жестоко обращавшемуся с матерью и сестрой.
Мидзогути оставил школу в 13 лет, чтобы работать и изучать графику в институте Аохаси. Первой его работой был дизайн рекламы в Кобэ. В 1915 году умерла его мать, и старшая сестра, оставив отца дома, увезла двух младших братьев в Токио. В 1920 Мидзогути вошёл в мир киноиндустрии как актёр. Через три года он стал полноправным режиссёром на студии «Никкацу», поставив свой первый фильм «Воскрешение любви» во время забастовки рабочих.
Ранние работы Мидзогути созданы под сильным влиянием немецкого экспрессионизма, в их числе адаптации Юджина О’Нила и Льва Толстого. Мидзогути работал быстро, иногда снимая фильм за несколько недель. В 1920-х — 1930-х годах он снял более 50-ти фильмов, большинство которых ныне утеряно.
После Великого землетрясения Канто Мидзогути переехал в Киото, где располагалась студия «Никкацу», и работал там, пока скандал не вынудил его временно отойти от дел: Юрико Итидзё, девушка по вызову, с которой у него были отношения, напала на него и порезала бритвой спину.
На фильмах первой половины 1930-х сказалась склонность Мидзогути к социализму. Сам режиссёр в последние годы жизни говорил, что по-настоящему его карьера началась фильмами «Осакская элегия» и «Гионские сёстры», оба 1936 года. Постепенно Мидзогути завоёвывает репутацию режиссёра «нового реализма». Одной из основных тем его фильмов становится бесправная роль женщины в японском обществе.
Мидзогути, под впечатлением от судьбы сестры, снял несколько фильмов о мире гейш и проституток: «Гейша», «Район красных фонарей» и др.; героини его фильмов беззащитны перед жестокостью меркантильного мира.
Во время Второй мировой войны Мидзогути был вынужден идти на уступки военному правительству. Самая известная картина этого периода — эпическое произведение «Преданность в эпоху Гэнроку» (1941), в основу которого легла знаменитая легенда о 47 ронинах.
В начале 1950-х Мидзогути вместе со своим постоянным сценаристом Ёсиката Ёдой целиком переключился на дзидайгэки, заимствуя сюжеты из истории и фольклора. В этот период появились его самые известные работы: «Жизнь Охару, куртизанки» (1952), фильм, который сам режиссёр считал лучшей своей работой; «Сказки туманной луны после дождя» (1953), удостоенные «Серебряного льва» на Венецианском кинофестивале; и «Управляющий Сансё» (1954), один из любимых фильмов критиков французской новой волны.
Эти работы принесли режиссёру, который у себя на родине считался старомодным, мировое признание. Дело доходило до того, что в Европе его «сравнивали с Шекспиром и Бетховеном за мрачную мелодию неотвратимого рока… с Рембрандтом, Тицианом и даже Пикассо за изощрённую живописность чёрно-белого изображения». Мидзогути умер в расцвете творческих сил от лейкемии. В 1975 году Канэто Синдо снял полнометражный документальный фильм «Кэндзи Мидзогути — жизнь кинорежиссёра».