Жил в VI веке, при императоре Юстине старшем. Проживал с младенчества в одном из палестинских монастырей в окрестностях Кесарии и, как сообщает Димитрий Ростовский, «прошел все степени постнических подвигов и соблюдал все правила, преподанные величайшими иноками».
Согласно его жития, в 53 года Зосиме, смущаемому мыслью «Найдется ли в пустыне человек, превзошедший меня?», явился ангел и сказал:
Повинуясь указанию ангела Зосима переселился в Иорданский монастырь, стоящий на краю пустыни. Там он стал единственным человеком видевшем и общавшимся с преподобной Марией Египетской в период её жизни в пустыне. Авва Зосима причастил преподобную Марию перед её смертью, а затем похоронил её.
После смерти Марии Египетской он рассказал о её жизни монахам монастыря, где он проживал. Позднее житие преподобной Марии было составлено Софронием Иерусалимским (греческая рукописная минея XIV века сообщает, что Зосима сам рассказал историю Марии святителю Софронию), который и описал там ряд фактов из жизни аввы Зосимы.
Иконописный подлинник даёт следующие указания относительно внешности преподобного Зосимы: «…подобием стар, и сед, брада аки Афанасия Великого подоле, ризы преподобническия». Относительно сюжетов жития Марии Египетской в которых изображается Зосима подлинник указывает: «…стоит Мария нагая, а Зосима дает мантию, зрит назад. В другом месте даёт Зосима причастие Святых Таин, стоят у реки Иордана, гора низка вохра над Иорданом, около их деревца, приличныя пустынным местам, изображена».
Единоличные изображения Зосимы являются редкими. Они известны по фрескам каппадокийских церквей (Богородицы Панагии, Ачикель-ага-килисеси, Баллы-килисе в Соганлы) где его изображения находятся, как правило, в зоне вимы, так и новгородских храмов (церковь Спаса Преображения на Ковалёве, церковь Спаса на Нередице).
С XVII века в русской иконописи появляются житийные иконы преподобной Марии где присутствуют клейма с изображением Зосимы (их число в ряде случаев достигает 5-8). Известны изображения Зосимы в книжной миниатюре (например, в Киевской Псалтире 1397 года сцены встречи Зосимы с Марией и ей причащение иллюстрируют псалом 118).