Родился около Куфы в семье цирюльника и в детстве занимался продажей гончарных изделий.
Рано проявившийся поэтический талант Абу-ль-Атахии встретил всеобщее признание, и большую часть жизни он провел в Багдаде в качестве придворного поэта-панегириста халифов аль-Махди, Харуна ар-Рашида, аль-Амина и аль-Мамуна. Трогательная несчастная любовь поэта к Утбе, вольноотпущеннице и приближенной жены халифа аль-Махди, принесла ему много горестей.
Абу-ль-Атахия был поэтом философско-аскетического мировоззрения, сложившегося как реакция на вольность нравов, царившую в Халифате. В его поэзии, обличавшей процветавшую в столице Халифата распущенность, содержалась хотя и косвенная, но достаточно острая критика придворных нравов.