В 1948 году окончил школу в Резекне и поступил в католическую семинарию в Риге. 29 марта 1951 года рукоположён в священники. Работал в приходах Риги. Преподавал в Духовной семинарии и был консультантом архиепископа Рижского и секретарём литургической комиссии.
С 1972 года — капеллан Его Святейшества. В 1979—1984 годах — генеральный викарий в курии Рижской епархии. В 1984 году, по требованию советских властей, оставил должность в курии и работал простым священником. 8 мая 1991 года назначен архиепископом Риги.
1 июня 1991 года рукоположён в архиепископы. 21 февраля 1998 года возведён в кардиналы in pectore. 21 февраля 2001 года объявлен на консистории. Кардинал-священник с титулом церкви S. Silvia. Участник конклава 2005 года.
В дополнение к латышскому языку, говорит на русском, польском, литовском, немецком и латинском языках.
19 июня 2010 года было объявлено об отставке кардинала Пуятса с поста архиепикопа Риги, и его преемником выдвинут Збигнев Станкевич — директор Рижского высшего института религиозных наук и духовной семинарии Рижской митрополии. До 21 августа 2010 года — дня интронизации Збигнева Станкевича, кардинала Пуятс оставался апостольским администратором Риги.
14 ноября 2010 года кардиналу Пуятсу исполнилось 80 лет и он потерял право участвовать в Конклавах.