А.Голуховский происходил из польского аристократического рода. Образование получил в Галиции. Вначале служил советником наместника Галиции, затем сам занимал этот пост. Первый наместник Галиции славянского происхождения. На этой должности А.Голуховский занимался усовершенствованием судебной системы, образования и социальной сферы — строил новые школы, больницы, прокладывал дороги и т. д.
22 августа 1859 года был назначен министром внутренних дел. Будучи министром, А.Голуховский занимался вопросом федерализации австрийской монархии, в результате чего был принят так называемый Октябрьский диплом (Oktoberdiplom). В связи с несогласием с принятой 26 февраля 1861 года централизаторской конституцией, А.Голуховский уходит в отставку.
А.Голуховский являлся наследственным членом верхней палаты австрийского парламента.