Родился в семье священника села Ивановского Нижегородской епархии; учился в Нижегородском духовном училище и Нижегородской духовной семинарии.
В 1852 году году окончил Казанскую духовную академию со степенью магистра богословия и определён учителем логики и психологии в Нижегородскую духовную семинарию, и преподавателем татарского языка.
15 августа 1856 года рукоположен во священника к нижегородской Покровской церкви (не сохранилась).
В 1860 году овдовел, оставшись с детьми; 15 января 1861 года принял монашеский постриг с именм Палладий в честь преподобного Палладия, пустынника Антиохийского; 18 февраля 1862 года возведён в сан архимандрита.
С 28 августа 1863 года — инспектор Санкт-Петербургской духовной семинарии; с 2 декабря 1864 года — ректор Санкт-Петербургской духовной семинарии.
18 декабря 1866 года митрополитом Санкт-Петербургским Исидором (Никольским) в соборе Александро-Невской лавры хиротонисан во епископа Ладожского, первого викария Санкт-Петербургской епархии.
С 15 июля 1869 года — епископ Вологодский и Устюжский.
С 13 июня 1873 года — епископ Тамбовский и Шацкий.
С 9 сентября 1876 года — епископ Рязанский и Зарайский.
12 апреля 1881 года был возведён в сан архиепископа.
С 21 августа 1882 года — архиепископ Казанский и Свияжский. В 1886 году основал Царевококшайский Богородично-Сергиевский женский черемисский монастырь.
С 29 сентября 1887 года — архиепископ Карталинский и Кахетинский, Экзарх Грузии.
В 1888 году пожалован бриллиантовым крестом для ношения на клобуке.
Высочайшим рескриптом от 18 октября 1892 года назначен «на кафедру царствующего града С.-Петербурга, с возведением в сан митрополита и в звание первенствующего члена Святейшего Синода». Прибыл в Санкт-Петербург 19 ноября того же года.
14 мая 1896 года, в день священного коронования императора Николая II и императрицы Александры Феодоровны, совершение которого в Успенском соборе Московского Кремля он возглавил, Высочайшим рескриптом пожалован бриллиантовым крестом для ношения на митре (равно как и сослужившие ему митрополиты Киевский Иоанникий (Руднев) и Московский Сергий (Ляпидевский)).
Скончался 5 декабря 1898 года, после болезни (слёг больной 1 октября того же года, в день Покрова). Заупокойные богослужения возглавлял архиепископ Финляндский Антоний (Вадковский).
Был похоронен в Исидоровской церкви Александро-Невской Лавры (закрыта в 1932 году). Поминальный обед был дан в лаврской трапезной от 2-х сыновей покойного. Один из его сыновей — Николай Раев — впоследствии стал последним обер-прокурором Святейшего Синода царского времени.
В 1932 году его останки были перенесены на Братское кладбище Лавры.