Родился 22 января 1862 года в селе Комарово Хотинского уезда Бессарабской губернии в семье молдавского священника.
Окончил Кишинёвскую духовную семинарию (1880), Киевскую духовную академию (1885) со степенью кандидата богословия. Будучи студентом, в 1885 году посетил Афон. Впечатления о своих поездках он изложил в «Дневнике студента — паломника на Афон», который был удостоен Макарьевской премии.
Магистр богословия (1895 год; тема диссертации: «Гавриил Банулеско-Бодони, экзарх Молдо-Влахийский (1808—1812 гг.) и митрополит Кишинёвский (1813—1821 гг.)».). Собирая материалы для диссертации, дважды выезжал за границу: в 1888 в Австро-Венгрию и в 1890 — в Румынию.
Доктор церковной истории (1904 год; тема диссертации: «Исследования и монография по истории Молдавской Церкви». Часть 1-я. «История Молдавской епархии и их святителей со времени основания государства и до наших дней»). Этот труд был отмечен королём Румынии, наградившим автора медалью Bene Merente 1-й степени, присуждавшейся за выдающиеся научные труды. Российская Академия Наук удостоила его за эту же диссертацию большой Уваровской премии.
В 1880—1881 годах преподавал в Единецком духовном училище.
С 1885 года — преподаватель древнегреческого языка, затем церковного пения и догматического богословия в Кишинёвской духовной семинарии. Одновременно состоял редактором «Кишинёвских Епархиальных Ведомостей», причём им лично было написано для этого издания около ста различных статей и заметок, преимущественно церковно-исторического содержания.
30 декабря 1895 года пострижен в монашество, с 31 декабря 1895 года — иеродиакон.
С 1 января 1896 года — иеромонах, инспектор Новгородской духовной семинарии, затем её ректор и настоятель монастыря св. Антония Римлянина в Новгороде с возведением в сан архимандрита.
С 10 января 1897 года — инспектор Московской духовной академии и исправляющий должность ординарного профессора по кафедре Библейской истории.
С 13 марта 1898 года — ректор Московской духовной академии (до 1903 года). Пользовался в академии большим авторитетом. Важным событием в истории МДА стала паломническая поездка, совершенная в 1900 году группой студентов и преподавателей во главе с владыкой Арсением в Палестину и страны Ближнего Востока. Итогом путешествия стала книга «В стране священных воспоминаний», редактированная и изданная им самим. В книге 60 фотографий, большую часть которых сделал епископ Арсений.
28 февраля 1899 года хиротонисан во епископа Волоколамского, третьего викария Московской митрополии, с оставлением в должности ректора академии.
С 1903 года — епископ Псковский и Порховский. Создал в епархии школу псаломщиков. Основал церковный музей, в котором хранились ценные рукописи, принадлежности богослужения и церковная утварь, древние монеты. Для научного исследования, сохранности и пополнения музейной коллекции был образован историко-археологический комитет, устав которого утвердил Св. Синод. Одной из главных задач комитета стала охрана памятников церковной старины.
С 1905 года — член Учебного комитета при Св. Синоде, в 1906—1907 годах — председатель этого комитета. Также с 1906 года — член Предсоборного Присутствия, председатель его пятого отдела: о реформе церковно-учебных заведений.
С 1907 года — архиепископ (31 января), член Государственного Совета от монашествующего духовенства.
С 5 ноября 1910 года — архиепископ Новгородский и Старорусский. Большое внимание уделял сохранению памятников церковной старины. Стал инициатором начала работ по реставрации собора Ферапонтова монастыря. Принял активное участие в XV Всероссийском археологическом съезде, который проходил в июле-августе 1911 года в Новгороде и выступил на нём с докладом «О современном состоянии собора Св. Софии в Новгороде». По его инициативе была осуществлена реставрация так называемого «Лихудовского» корпуса в Новгороде (там когда-то размещалось училище, в котором преподавали братья Лихуды). В отреставрированном здании разместилась открытая в 1911 году псаломщицкая школа. В 1912 году в Новгороде был торжественно открыт Арсеньевский епархиальный дом. В нём, кроме обширного зала для религиозно-нравственных чтений, разместились консистория, училищный и миссионерский советы, библиотека, иконно-книжная лавка, епархиальный церковно-исторический музей, редакция «Новгородских епархиальных ведомостей», гостиница для духовенства. В 1913 году в Новгороде по его инициативе открылось церковно-археологическое общество.
В 1912 году председательствовал на состоявшемся в Москве первом Всероссийском съезде практических деятелей в борьбе с алкоголизмом. Почётный член Казанской духовной академии.
Весной 1913 года принимал в Новгороде Патриарха Антиохийского Григория IV, возглавившего хиротонию нового викария архиепископа Арсения, епископа Тихвинского Алексия (Симанского). Представил к епископскому служению многолетнего миссионера архимандрита Варсонофия (Лебедева) и в январе 1917 года сам возглавил его хиротонию во епископа Кирилловского.
Был заместителем председателя Всероссийского Поместного Собора 1917—1918 годов, но, по свидетельству других участников, «фактически руководил почти всеми соборными заседаниями». В октябре 1917 года на Соборе был один из трех кандидатов в Патриархи (наряду с владыками Антонием и Тихоном), при голосовании был вторым после архиепископа Антония — однако по жребию церковь возглавил московский митрополит Тихон (Беллавин).
С 29 ноября 1917 года — митрополит. Поместный Собор избрал его членом Священного Синода и Высшего Церковного Совета.
Неоднократно подвергался арестам. В первый раз он был арестован в ноябре 1919 в Москве, второй — в Новгороде в 1920, после чего был предан суду и приговорён к трём годам лишения свободы условно и к ссылке в Архангельскую губернию (затем ссылка была отменена).
В 1922 году был в очередной раз арестован (в Москве, куда был вызван из Новгорода) и привлечён к суду вместе с Патриархом Тихоном по обвинению в сопротивлении изъятию церковных ценностей — несмотря на то, что призвал духовенство жертвовать в пользу голодающих «драгоценные церковные украшения, не имеющие богослужебного употребления». А после начала массового изъятия ценностей издал новое обращение:
В тюремном заключении находился с перерывами до 10 января 1924 года. Почти сразу же после освобождения был вновь арестован и заключён в Бутырскую тюрьму в Москве. Его принуждали перейти к «обновленцам», активно сотрудничавшим с большевиками. Сохранилось описание одной из таких попыток властей:
После тюремного заключения был выслан в Среднюю Азию.
В 1925—1926 годах находился в ссылке в Полторацке (Ашхабаде), а в 1926—1936 — в Ташкенте. Формально оставался новгородским архиереем, но епархией до 1933 управлял его ученик архиепископ Алексий (Симанский) — впоследствии Патриарх Алексий I.
С 1927 года — постоянный член Временного Патриаршего Синода при Заместителе Патриаршего местоблюстителя митрополите Сергии (Страгородском). Однако реально участия в деятельности этого органа практически не принимал, так как находился в ссылке в Ташкенте. Не подписывал он и т. н. Декларации митрополита Сергия как «еще не прибывший». Известна лишь одна фотография, на которой владыка Арсений изображён вместе с другими членами Синода.
С 11 августа 1933 года — митрополит Ташкентский и Туркестанский. В связи с закрытием всех храмов Ташкента совершал богослужения под открытым небом, у кладбищенской часовни иконы Богородицы «Всех скорбящих Радосте». На эти службы стекалось до двадцати тысяч верующих из города и окрестных селений, молящиеся заполняли всю обширную территорию кладбища. Один из ташкентских прихожан того времени Константин Вендланд (впоследствии — митрополит Иоанн) вспоминал: «Незабываемы эти трогательные Богослужения на лоне природы, голубая мантия митрополита, просвечивавшая сквозь листву деревьев, одушевление молящейся толпы, твердость духа архипастыря и верующих, подвергавшихся иногда серьёзным испытаниям от проливного дождя или крепких крещенских морозов. Незабываемы вдохновенные проповеди митрополита Арсения, приковывавшие к себе внимание народа».
Был духовным наставником архиепископа Луки (Войно-Ясенецкого) и умер на его руках в ташкентской больнице. Был похоронен на Боткинском кладбище Ташкента, около могилы митрополита Никандра (Феноменова).
Князь Жевахов, бывший в предреволюционные месяцы товарщем обер-прокурора Святейшего Синода, в своих воспоминаниях выделял его как члена Синода, который фактически обладал решающим голосом и всячески саботировал любые инициативы, исходящие от обер-прокуратуры:
Его называли «самым строгим архипастырем» Российской Церкви. Эта строгость проявлялась в неуклонной требовательности к выполнению заповедей Христовых духовенством и паствой; но — прежде всего — архипастырь был требователен к самому себе. Тщательно следил за соответствием уставу церковной службы. Выдающийся проповедник и оратор (в том числе в Государственном совете), духовный писатель. Проявлял себя не только мудрым и деятельным пастырем, но и знатоком отечественной истории, активным участником сбережения и изучения наследия предков.
Современник Арсения, историк Николай Порфиридов, отметил его так:
Вместе с тем, все знавшие владыку отмечали его «широкий ум, большое образование, могучую волю, честность и прямоту, решительный и непреклонный характер, строгость к подчинённым и себе».
Иерархические награды
Русская православная церковь за границей причислила владыку Арсения к лику святых. Его почитают в Новгородской и Ташкентской епархиях Московского Патриархата. В Новгороде по инициативе местной епархии и областных научных и культурных организаций с 1993 проходят Арсениевские чтения — их задача состоит в православном осмыслении важнейших проблем, стоящих перед церковью и обществом в наши дни с учетом исторического опыта государственно-церковных отношений прошлого столетия.