Харви Корман родился в Чикаго в семье Сайрела Кормана, продавца с русскими и еврейскими корнями, и его супруги Эллен. В театральных постановках Корман начал играть ещё в детском саду, а в 12 лет стал профессиональным актёром, подписав контракт с местной радиостанцией. После развода родителей Харви жил с матерью, в школе начал заниматься в театральной мастерской. В годы Второй мировой войны он оставил колледж и записался флот. После войны он учился в Драматической школе Гудмана, а через четыре года переехал в Нью-Йорк.
В Нью-Йорке карьера Кормана не сложилась. Он пробовался в бродвейский и внебродвейский театры, но везде получал отказ. Харви был вынужден работать заправщиком, официантом и кассиром, при этом страдал от депрессии. Вместе с другом Корман поставил комедийный номер для ночного клуба, который сразу же провалился. Вернувшись в Чикаго, Харви всерьёз помышлял о самоубийстве, но сделал ещё одну попытку стать актёром и отправился в Голливуд.
В Лос-Анджелесе Корман не сразу сумел добиться признания. В течение трёх лет он совмещал работу продавца автомобилей, швейцара в местом театре с игрой на сцене этого самого театра и исполнением эпизодических ролей в телевизионных сериалах. Его исполнение роли Гамлета в постановке местного общественного театра было удостоено похвалы знаменитых актёров, Бетт Дэвис и Чарльза Лоутона. Однако в кино попасть Корману никак не удавалось, по его воспоминаниям в то время Голливуд нуждался в юных белокурых Адонисах, а не в стареющих и лысеющих евреях.
В 1964 году Корман попал в «Шоу Дэнни Кея», где стал регулярно выступать с комедийными номерами вплоть до закрытия шоу в 1967 году. Участие в этой телепрограмме принесло Харви известность и открыло двери в другие шоу, например, в мультсериал «Флинстоуны», где он озвучивал персонажа по имени Большой Газу. В 1967 году Корман перешёл работать в комедийном телепроект «Шоу Кэрол Барнетт», за участие в котором он четыре раза становился лауреатом премии «Эмми» и один раз премии «Золотой глобус». За десять лет участия в этом шоу Харви приобрёл репутацию мастера жанра скетч-комедии, снявшись в более чем тысяче номеров. В 1977 году Корман создал собственное шоу, которое пробыло в эфире лишь один сезон. Впоследствии Корман вместе с другим актёром «Шоу Кэрол Барнетт», Тимом Конуэем, гастролировал по США с показом лучших номеров программы.
Харви Корман снялся в четырёх фильмах Мела Брукса: «Сверкающие сёдла», «Страх высоты», «Всемирная история, часть первая» и «Дракула, мёртвый и довольный этим». Также он сыграл много эпизодических ролей в различных фильмах и телесериалах, озвучивал персонажей мультфильмов.
Корман скончался 29 мая 2008 года в Лос-Анджелесе в результате разрыва абдоминальной аневризмы аорты. Он похоронен кладбище Вудлоун в Санта-Монике.
В 1960 году Корман женился на Донне Элхарт, в этом браке у него родилась дочь. В 1982 году он женился на Деборе Фриц, которая родила ему двух дочерей и сына.