Из Ярославских дворян (внесен в Родослословную книгу 7 января 1791 года). Представитель старинного дворянского рода, ведущего свое начало от Александра Алябьева, выехавшего в XVI веке из Польши в Россию и получившего от великого князя Василия Ивановича поместье в Муромском уезде.
В 1761—1777 годах был на военной службе, начав службу кадетом в Преображенском полку. Полковник в отставке.
С 1777 года служил в Мануфактур-Коллегии.
В 1779 году — советник Вологодской казенной палаты, где ему было поручено также правление таможнями и учреждение пограничной таможенной цепи по всей Архангельской области.
С 1783 года — Пермский вице-губернатор. Статский советник. Упорядочил дела Казённой палаты, содействовал развитию горной промышленности, провел ряд мероприятий по улучшению судоходства по реке Чусовой.
С 1787 года — Тобольский губернатор. Благодаря его деятельности в Тобольске активно развивались промышленность, судоходство, была открыта первая в Сибири типография (1789), где стали печатать первые сибирские журналы. В 1794 году Алябьевым был построен в Тобольске первый в Сибири театр. Ему удалось без последствий собрать до 1 миллиона рублей недоимок, улучшить средства приказа общественного призрения, усилить благотворительную деятельность последнего и построить для него некоторые каменные здания. За эти дела он удостоился чина действительного статского советника и ордена Св. Владимира 2-й степени.
С 1796 года — губернатор Кавказской губернии. Кроме того на него были возложены особые поручения по губернии Астраханской, которая находилась в расстроенном состоянии, улучшил продовольственную часть, вследствие чего цена на муку в Астрахани сильно понизилась. Алябьева организовал снабжение провиантом русских войск, находившихся в Персии.
В 1798 году Алябьев назначен сенатором.
В 1798—1803 годах — президент Берг-коллегии, управляющий Монетным департаментом и Конторой разделения золота от серебра (1801), директор Горного Училища (1801—1803). Находясь на посту президента Берг-коллегии и директора ГУ много сделал для развития горного дела и горного образования. Принимал участие в упорядочении труда приписных крестьян на горных заводах, — выработке положения о «непременных работниках». По его предложению был построен на Каме Ижевский оружейный завод. При его директорстве дети горных чинов получили преимущества при определении в казенные воспитанники ГУ.
В 1803—1818 годах числился только сенатором. Был в командировке в Олонецкой губернии по проверке доносов, поданных на чиновником губернии.
В 1806 году отпустил своих вологодских крестьян «в вольные хлебопашцы».
В 1810 году ревизовал московские присутственные места.
В 1815 году вел расследование обнаруженных в Костромской гражданской палате беспорядков и упущений. Население Костромы в знак благодарности поднесло ему икону.
В 1815 году — землевладелец, помещик имел имения в Волоколамском и Бронницком уездах — 62 души, в Ярославской губернии 340 душ.
С 1818 года — главноуправляющий Межевой канцелярией, действительный тайный советник.
В Межевом Корпусе, как, впрочем, и везде, где служил Алябьев, он оставил по себе самое теплое воспоминание, выразившееся в желании чинов этого корпуса поставить на свои средства памятник над его могилою.
Жена, Новикова Анна Андреевна (?- май 1813, Казань), из дальних родственников просветителя Н. И. Новикова. Она была дочерью Андрея Ивановича Новикова и Авдотьи Ионовны Григоровой. Некоторые источники утверждают, что известный издатель Н. И. Новиков приходился ей родным дядей, однако это не так: он представлял другую родственную ветвь. У Анны Андреевны были братья Федор, Петр, Иван, Нил и сестра Наталья, вышедшая замуж за полковника Федора Григорьевича Стрекалова.
Дети: