Закончил венскую Академию изобразительных искусств, посещал Иллинойсский технологический институт и Калифорнийский университет. Проработав несколько лет в США, Швеции и других странах, Холляйн вернулся на родину и в 1964 г. основал своё архитектурное бюро. Кроме того, он занимался преподаванием в Сент-Луисе, Дюссельдорфе и Вене, пробовал себя в качестве дизайнера, театрального художника и организатора выставок.
В 1960-е Холляйн присоединился к группе архитекторов-новаторов, самым известным из которых был Фриденсрайх Хундертвассер. Художники выступали против господствовавшего в послевоенном зодчестве функционализма, выпускали манифесты в защиту «чувственной красоты стихий», делали проекты утопически разместившихся на лоне девственной природы поселений. Одновременно Холляйна интересовали выживание в экстремальных условиях, моделирование временного жилья, дизайн мелких изделий, которые должны были сложиться в коллаж мира будущего.
Одним из первых заказов для Холляйна стал свечной магазин Ретти. Крошечное помещение, оформленное при помощи алюминия и зеркал, стало самым маленьким архитектурным произведением, удостоенным американской премии Рейнольдса. После этого он спроектировал ещё несколько лавок и бутиков.
Холляйн участвовал в проектировании Олимпийской деревни для Игр в Мюнхене. Он позаботился не только о проложенных вдоль улиц ярких трубах, но и об экранах проекторов, подогреве полов, подаче свежего воздуха. Отмечался разительный контраст между архитектурой деревни, символизировавшей коммуникацию между людьми, и трагическими событиями, произошедшими в ней.
Оставаясь верен постмодернизму, Холляйн называл архитектуру «контролем температуры тела», «защитным кожухом» и «кондиционированием психологического состояния».