Родился в семье Николая Николаевича Муравьёва (1768—1840), математика, генерал-майора, основателя училища для колонновожатых, и Александры Михайловны Мордвиновой (1768—1809). Его старшие братья — Михаил Муравьёв-Виленский (1796—1866), Николай Муравьёв-Карсский и Александр. Учился у Семёна Раича, в юности переводил «Энеиду» и Фенелонова «Телемака».
Состоял на военной службе. Сдав в апреле 1828 года экзамены при Московском университете, в августе того же года был определён в ведомство Коллегии иностранных дел. Во время русско-турецкой войны 1828—1829 годов в Шумле познакомился с Алексеем Хомяковым. В 1829—1830 годы, как паломник, посетил Египет (в частности, Александрию и Каир), Иерусалим, Кипр, Смирну, Константинополь. Изданное в 1832 году его «Путешествие ко Святым местам в 1830 г.» (рукопись просматривали В. А. Жуковский и митрополит Филарет (Дроздов)) принесло ему популярность в образованном обществе.
Состоял на должности обер-секретаря в Святейшем Синоде; летом 1836 года сыграл важную роль в смещении обер-прокурора Степана Нечаева (был заменён на графа Николая Протасова) и рассчитывал впоследствии получить должность обер-прокурора сам.
С 1842 года член общего присутствия в Азиатском департаменте МИДа. В начале 1850-х переехал в Москву, поселившись во флигеле Останскинского дворца у Дмитрия Николаевича Шереметева. Выйдя в отставку в 1866 году, поселился в Киеве, близ Андреевского собора. Погребён в подземном приделе собора.
Его хлопотами келлия афонского Ватопедского монастыря близ Кареи (первоначально была местом жительства на покое Вселенского Патриарха Афанасия Пателлария) в 1849 году была преобразована в самоуправляющийся скит с русскими насельниками; в 1867 году там был заложен собор во имя Андрея Первозванного (освящён в 1900 году).
Посетив в 1850 году пришедший в полное запустение бывший монастырь Новый Сион в Мирах (селение Демре округа Каш в Анатолийской Турции), где до 1087 года покоились мощи святителя Николая Чудотворца, инициировал работы по его восстановлению храма и возможному устройству там русского монастыря; впоследствии активное участие в проекте принимали граф Николай Игнатьев и Василий Хитрово.
Его сочинения стали первыми на русском языке книгами духовного содержания, получившими распространение в среде высшего общества. Исследовал и ввёл в научный оборот судебное дело Патриарха Никона.
Имел репутацию друга митрополита Московского Филарета (Дроздова), а также знатока и блюстителя богослужебного устава, чем вызван известный исторический анекдот о нём.
В 1855 году А. Н. Муравьёв, совершив паломничество по вологодским и белозерским святым местам, опубликовал книгу размышлений под названием «Русская Фиваида на Севере».,
После появления книги термин «Северная Фиваида» стал поэтическим названием северных русских земель, окружающих Вологду и Белозерск (как сравнение с древнеегипетской областью Фиваидой, известным местом поселения раннехристианских монахов-отшельников).
Андрею Муравьеву посвящена одна из витрин Музея Одной Улицы. Благодаря его усилиям с Андреевского спуска были выселены публичные дома. Помимо этого А. Муравьев занимался укреплением горы и обновлением Андреевской церкви; при нем Спуск приобрел тот облик, который сохранился и поныне. В музее представлены многочисленные труды писателя, а также его портреты и фотографии.