Родился в 1817 году в Орловской губернии в семье диакона.
27 августа 1841 года, по окончании курса Петербургской духовной академии, назначен учителем Волынской духовной семинарии.
15 августа 1845 года рукоположен во диакона, а 16 августа — во священника.
С 15 июля 1849 года — протоиерей.
23 августа 1852 года пострижен в монашество, 3 декабря того же года назначен ректором Волынской духовной семинарии и настоятелем Загаецкого святого Иоанна Милостивого монастыря Волынской епархии.
17 мая 1853 года возведён в сан архимандрита.
1 декабря 1857 года назначен ректором Рижской духовной семинарии.
Будучи ректором Рижской духовной семинарии, много потрудился на пользу Православия в Прибалтийском крае. Он редактировал журнал «Училище благочестия», календари на эстонском и латышском языках и участвовал в составлении латышско-русского словаря.
С 18 апреля 1866 года — член Петербургского комитета духовной цензуры.
7 марта 1871 года хиротонисан во епископа Березовского, викария Тобольской епархии.
С 25 мая 1874 года — епископ Тобольский и Сибирский.
С 11 января 1880 года — епископ Белгородский и Курский.
С 19 марта 1883 года — епископ Пермский.
Принимал участие в собрании преосвященных архиереев в Казани.
8 мая 1888 года, согласно прошению, уволен от управления епархией и назначен управляющим Белгородским Свято-Троицким монастырем Курской епархии.
Епископ Ефрем прекрасно разбирался во всех отраслях человеческого знания, был большим знатоком богословия и светской литературы, отличался выдающимися административными способностями.
Скончался 15 января 1891 года. Погребен под Троицким собором г. Белгорода.