В 1059 стал губернатором Хорасана. В 1060-61 годах был разбит и взят в плен правителем Грузии. Благодаря тому, что его сестра была женой армянского царя, тому удалось добиться освобождения Алп-Арслана, направив царю Грузии богатые дары. Впоследствии султан провёл ряд завоевательных походов: в Грузию (1064), Армению (1064), территории современного Азербайджана (1064), против Фатимидов (в Сирию и Палестину), в Северный Иран и Среднюю Азию (1065).
Под его командованием сельджуки начали натиск на Византийскую империю.
19 августа 1071 при Манцикерте (район озера Ван) одержал победу над византийским императором Романом IV Диогеном и взял его в плен, после чего присоединил Анатолию к владениям Сельджукского султаната. Государством при Алп-Арслане управлял везир Низам аль-Мульк.
Алп-Арслан был убит во время похода против половцев Мангышлака и на Бухару.