Маллигэн начинал с фортепиано, а потом стал изучать кларнет и различные виды саксофонов. Вначале он заслужил репутацию отличного аранжировщика. В 1944 году Маллигэн писал аранжировки для радио-оркестра Джонни Уорингтона (Johnny Warrington’s radio band). В 1946 году он переехал в Нью-Йорк и присоединился в качестве штатного аранжировщика к Оркестру Джина Крупы (Gene Krupa’s Orchestra); его наиболее известной работой на тот период стала аранжировка композиции «Disc Jockey Jump». В период сотрудничества с Оркестром Джина Крупы он иногда играл на альт-саксофоне. Такая же ситуация была и в 1948 году, когда он участвовал в составе оркестра Клода Торнилла (Claude Thornhill).
Впервые Джерри Маллигэн, как баритонист, стал записываться в нонете Майлза Дэвиса «Birth of the Cool» (1948-50), но опять его аранжировки («Godchild», «Darn That Dream» и три его оригинала «Jeru», «Rocker», «Venus De Milo») стали более значительным событием, чем короткие соло на саксофоне. Большую часть 1949 года Маллигэн писал для оркестра Эллиота Лоуренса (Elliot Lawrence's orchestra) и анонимно участвовал в его саксофонной секции. Это продолжалось чуть ли не до 1951 года, пока он не стал уделять больше внимания работе с баритоном. Маллигэн записался со своим собственным нонетом на Prestige, продемонстрировав уже узнаваемый звук. После поездки в Лос-Анджелес, он написал некоторые аранжировки для оркестра Стэна Кентона (Stan Kenton), включая «Youngblood», «Swing House» и «Walking Shoes», работал в Lighthouse и затем получил ангажемент на регулярные выступления «Monday Night» в Haig. За это время Маллигэн понял, что ему нравится сверх-свобода при исполнении сольных импровизаций: без пианиста. Он импровизировал с трубачом Четом Бейкером (Chet Baker), и вскоре их магическое взаимопонимание было представлено в его квартете без пианиста. Группа быстро привлекла внимание в 1952-м и сделала Маллигэна и Бейкера звездами.
Наркотический удар выбил Маллигэна из колеи, квартет перестал существовать, но в 1954 году он вышел из тюрьмы и начал новое музыкальное партнерство с тромбонистом Бобом Брукмейером, которое стало весьма успешным. Затем к составу присоединились трубач Джон Эрдли (Jon Eardley) и тенор- саксофонист Зут Симс (Zoot Sims), и в 1958 году в группу был приглашен трубач Арт Фармер (Art Farmer). Будучи очень тонким исполнителем, относящимся с уважением к другим стилистам, Маллигэн отказался записываться с великими джазменами, которыми он восхищался. В 1958 году на Ньюпортском джазовом фестивале (Newport Jazz Fetival) он поочередно играл с баритонистом Харри Керни (Harry Carney) в исполнении «Prima Bara Dubla» в составе оркестра Дюка Эллингтона, и в течение 1957-60 годов записал отдельные альбомы с Телониусом Монком, Полом Дезмондом, Стэном Гетцем, Беном Вебстером и Джонни Ходжесом.
В 1958 году Маллигэн выступил на классическом фестивале «Sound of Jazz» и написал музыку к фильмам «I Want to Live» и «The Subterraneans». В течение 1960-64 гг. Маллигэн возглавлял свой оркестр «Concert Jazz Band», который давал ему возможность писать музыку, играть на саксофоне и иногда — на фортепиано. Оркестр на то время включал Боба Брукмейера, Симса, Кларка Терри и Мела Льюиса (Brookmeyer, Sims, Clark Terry, Mel Lewis). Маллигэн стал несколько менее активным после того, как биг-бэнд распался, но он продолжал интенсивно гастролировать с квартетом Дейва Брубека (Dave Brubeck Quartet) (1968-72 гг.), некоторое время играл на сопрано-саксофоне, возглавлял в середине 70-х секстет, который включал вибрафониста Дейва Сэмюэлса (Dave Samuels) и в 1968 году импровизировал совместно на записи со Скоттом Хэмилтоном (Scott Hamilton).
В конце 70-х Маллигэн, который всегда обожал сочинения Стравинского, Прокофьева и Бартока, играет с классическими симфоническими оркестрами, в 80-е появляется на европейских джазовых фестивалях в компании Лайонела Хэмптона, Ли Коница и Эллы Фицджеральд.
Незадого до смерти концертировал во Франции с 87-летним скрипачом Стефаном Грапелли.