Подростком участвовал в греческом движении Сопротивления. Активный участник борьбы против диктаторского режима «чёрных полковников» 1967—1974, близкий соратник Андреаса Папандреу. В 1985—1989 и 1993—1996 занимал пост министра иностранных дел Греции.
Занимался спортом: чемпион Греции по прыжкам с шестом, входил в состав национальной сборной по волейболу. С 1985 года занимает пост председателя Национальной спортивной ассоциации Греции.
В 2005 году Каролос Папульяс сменил Константина Стефанопулоса на посту президента страны. 3 февраля 2010 года парламент Греции переизбрал Каролоса Папульяса на второй президентский срок; за переизбрание проголосовали 266 депутатов из 298 присутствовавших.