Мулиш родился в Харлеме и жил в Амстердаме с 1958 года, после смерти своего отца в 1957 году. Отец Мулиша происходил из Австро-Венгрии и переехал в Нидерланды после Первой мировой войны. Во время немецкой оккупации во Вторую мировую войну, он работал в немецком банке, который также хранил конфискованные сбережения евреев. Мать Мулиша была еврейкой. Мулиш и его мать избежали высылки в концентрационный лагерь благодаря сотрудничеству отца Мулиша с нацистами. Из-за этих необычных обстоятельств своей биографии, Мулиш утверждал, что он «и есть Вторая мировая война». Мулиш в основном был воспитан служанкой своих родителей Фридой Фалк.
Основной темой в его произведениях является Вторая мировая война. Поскольку подростковый период Мулиша прошёл во время войны, она оказала решающее влияние на его жизнь и работу. В 1963 году он написал документальный труд о деле Эйхмана: «Дело 40/61». Основными романами, посвящёнными Второй мировой войне, являются «Покушение», «Каменное ложе» и «Зигфрид». Кроме того, Мулиш часто включает в свои произведения античные мифы и легенды, происходящие из греческой мифологии (в «Элементах»), еврейского мистицизма (в «Открытии небес» и «Процедуре»), политики (Мулиш — социалист, когда-то защищавший Фиделя Кастро), а также «городских легенд». Он любит выставлять напоказ свои обширные знания.
В послевоенной литературе Нидерландов часто говорят о «большой тройке», подразумевая В. Ф. Херманса, Герарда Реве и Харри Мулиша. Мулиш в шутку стал называть себя после смерти Херманса и прогрессирующего слабоумия Реве «большой единицей»(нидерл. «de grote E?n»).
Мулиш приобрёл международную известность с выходом фильма «Покушение» (нидерл. «De Aanslag») в 1986 году, основанного на его одноимённой книге. Фильм получил призы «Оскар» и «Золотой Глобус», и был переведён на более чем двадцать языков. Роман «Открытие небес» («De ontdekking van de Hemel») был экранизирован Еруном Краббе в 2001 году (в главной роли Стивен Фрай). Среди всех полученных им наград самой важной является Нидерландская литературная премия («Prijs der Nederlandse Letteren»), полученная в 1995 году за совокупность литературных достижений.
Ряд стихотворений Мулиша положен на музыку Петером Схатом.
В последние годы Мулиш часто высказывался в поддержку нидерландской Партии защиты животных