Гоз дебютировал в бродвейской постановке «Bajour», играв вместе с Читой Ривера и Нэнси Дюссо. Гоз исполнял роль Тевье-молочника в бродвейском мюзикле «Скрипач на крыше» в 1966—1968 годах, выступая и дублёром, и исполнителем главной роли. Он также появлялся в таких мюзиклах как «Two by Two», «Prisoner of Second Avenue» и «Шахматы». За своё исполнение в «Шахматах» роли агента КГБ Ивана Молокова он получил положительные отзывы и был выдвинут на Drama Desk Award в номинации «Лучший актер в мюзикле».
На протяжении последующих лет Гоз принимал участие в ряде теле- и кинопостановок. Он снимался в «Билле», телефильме 1981 года, и его продолжении 1983 года, сериалах «На пороге ночи» и «Умник». Позднее Гарри Гоз стал известен уже новой, подростковой публике, благодаря мультсериалу МорЛаб 2021, где он озвучивал чудаковатого капитана Хэззела «Хэнка» Мерфи. Этим актёр занимался до самой своей смерти от миеломной болезни в 2003 году в возрасте 71 года.
У Гарри Гоза было трое детей и десять внуков. Его сын, актер Майкл Гоз, озвучил персонажей сериала МорЛаб 2021 после смерти отца.