Абд ал-Малик был широко образованным человеком. Он унаследовал престол в 685 году после смерти отца Марвана I. Новый халиф направил войска под командованием эмира Аль-Хаджадж ибн Юсуф ас-Сакафи на восстановление владычества Омейядов на всей территории исламского халифата, утерянного в в 683 году после смерти Йазида I. Аль-Хаджадж покорил правителя Басры и устремился в Хиджаз. В в Мекке был разгромлен и убит Ибн аз-Зубейр, в Ираке побеждены его сторонники, в Дамаске — ал-Ашдак. В 697 году было подавлено начавшееся в 692 году выступление хариджитов. Государственное единство халифата было восстановлено. Кроме того был завоёван ряд новых земель, особенно в Средней Азии и Северной Африке.
Во всех землях халифата был проведён ряд реформ, укрепивших власть арабов: вместо греческого и среднеперсидского в канцеляриях был повсеместно введён арабский язык, византийские и сасанидские монеты были заменены арабскими деньгами новой чеканки, была проведена налоговая и финансовая реформа.