Родился 6 июля 1912 года в Обергоссене в семье почтового служащего. Посещал реальные школы в Бруке-на-Муре и Граце. В 1929 г. вступил в Академическое Спортивное общество Граца.
С 1933 по 1938 год изучал географию и занимался спортом в университете Граца. В октябре 1933 г. вступил в СА, что впоследствии признавал своей «глупой ошибкой» и «идеологическим заблуждением».
Харрер был отличным горнолыжником. Он был кандидатом на участие в Олимпиаде 1936 года. Однако, австрийская сборная бойкотировала эти Игры. Тем не менее, он выиграл соревнования по даунхиллу во время Всемирных Студенческих Игр.
Самым выдающимся альпинистским достижением Харрера стало первопрохождение Северной стены Эйгера в 1938 году. Благодаря нему он прославился как «лучший альпинист Европы».
1 апреля 1938 года вступил в ряды СС (№ 73.896), 1 мая 1938 года стал членом НСДАП. Был спортивным инструктором СС. В том же году женился на Шарлотте (Лотте) Вегенер, дочери геолога и метеоролога Альфреда Вегенера. В декабре 1939 года у них родился сын Ральф. В 1943 году они развелись, после того как Лотта прислала пленному Генриху бланк для развода с просьбой не препятствовать её новой любви.
В 1939 году Харрер отправился в Британскую Индию в качестве члена немецкой альпинистской экспедиции по восхождению на Нанга Парбат. Альпинистам не удалось дойти до вершины, однако, ими был проложен путь по Диамрской стене этой горы. По окончании экспедиции все её члены были взяты в плен английскими колониальными властями, в связи с началом Второй мировой Войны, и отправлены в лагерь для военнопленных в Индию.
29 апреля 1944 года Харреру и ещё троим пленным удалось бежать. Проделав огромный путь через Гималаи, Харрер и его друг Петер Ауфшнайтер (Peter Aufschnaiter) в феврале 1946 года пришли в Лхасу. Харреру суждено было пробыть в Тибете семь лет. Он много рассказывал Далай-ламе, которому в то время было 10 лет, о западных странах, которые тогда были диковинными для тибетцев. Этот факт используется современной китайской пропагандой как „доказательство“ связи тибетского руководства с нацистами, хотя сам Далай-лама позже говорил, что в то время он ничего не знал о нацистах.
После захвата Тибета китайскими войсками в 1950 году, Харрер вернулся в Австрию. Здесь он написал книгу «Семь лет в Тибете».
В последующие годы он принял участие в целом ряде этнографических и альпинистских экспедиций, совершил несколько первопрохождений на Аляске, в Африке и Океании.
В 1958 году Генрих Харрер занялся гольфом и стал чемпионом Австрии среди любителей. В возрасте восьмидесяти лет он продолжал активно заниматься горными лыжами.
Генрих Харрер умер 7 января 2006 года.
Книга Харрера «Семь лет в Тибете» была переведена на 53 языка. Она была экранизирована в (1997 г.), Жан-Жаком Анно (в роли Харрера снялся Брэд Питт). Всего из-под его пера вышли 23 книги.
На своей родине, в Хюттенберге, Харрер основал музей, в котором собрана богатая коллекция этнографических материалов из различных стран Азии и Африки, а также представлены фотографии и снаряжения самого Генриха Харрера.
За свои более чем 600 экспедиций Харрер неоднократно удостаивался различных наград.
Сразу после выхода на экраны фильма «Семь лет в Тибете» возникло много вопросов о нацистском прошлом Харрера. Харрер признал, что его членство в партии было «глупой ошибкой».
Генрих Харрер и действующий Далай-лама оставались близкими друзьями всю жизнь. В 2002 году Далай-лама отметил Харрера за те усилия, которые он приложил для того, чтобы обратить внимание мировой общественности на ситуацию в Тибете.