В 1027 году царём Грузии стал Баграт IV. Некоторые феодалы, недовольные его государственной политикой, бежали из Южной Грузии в Византию. Предполагается, что Ефрем Малый был сыном одного из них, Ваче Каричисдзе. Ефрем учился в Константинополе и затем поступил в грузинский монастырь на Чёрную Гору около Антиохии. В дальнейшем он никогда не покидал Чёрной Горы, а около 1091 года был избран настоятелем Кастанского монастыря. Ефрем умер в 1101 году. В актах Руисско-Урбнисского собора 1103 года его поминают в числе покойных.
От Ефрема Малого осталось большое количество сочинений, охватывающих различные области церковной жизни. Так, он выполнил переводы с греческого на грузинский язык пяти сочинений Дионисия Ареопагита, «Аскетиконов» Василия Великого и Ефрема Сирина, комментариев «Псалтири» и «Посланий святых Апостолов»и другие. Ефрем создал собственную теорию перевода, которая в дальнейшем легла в основу средневековой грузинской переводческой литературы.
Ефрем создал также книгу «Сведения о крещении грузин, содержащиеся в разных письменных источниках», в которой обосновал апостольское происхождение Грузинской Церкви и её независимость. Создание книги было проучено Ефрему руководством его монастыря, чтобы убедить греческое духовенство в независимости Грузинской Церкви. Книга опирается на большое количество греческих источников.