Родился в семье священника села Логиново Череповецкого уезда Новгородской губернии, учился в Новгородской семинарии, откуда в 1857 году поступил в Петербургскую Духовную академию, окончил её в 1861 году и был определен преподавателем логики и психологии в Олонецкой семинарии. В 1870 году его вызвали в Москву на службу в Румянцевский музей, где работал библиотекарем русского и славянского отделений. С переездом в Москву Барсов становится одним из наиболее ревностных деятелей московских ученых обществ; всего же теснее он примкнул к «Обществу истории и древностей российских», которое в 1881 году избрало его своим секретарем и редактором издаваемых им «Чтений». Литературная деятельность Барсова имеет своим предметом изучение древнерусской письменности и быта, по количеству своих трудов Барсов принадлежит к наиболее продуктивным писателям своего времени. Помимо отдельных сочинений, он сделал много разных сообщений, снабдил предисловиями много памятников старины и народного творчества. Полный список написанного им приведен у Венгерова (т. II) и в брошюре Цветаева «Записка о трудах Е.Барсова» (М., 1887).
Огромное количество сырых материалов, которыми Барсов обогатил отечественную науку, он черпал из своего собрания рукописей, на приобретение которых тратил все свои скромные средства. Собирая рукописи с любовью и большим знанием дела, Барсов, располагая одним только жалованьем библиотекаря, успел себе составить одну из наиболее значительных палеографических коллекций, богатство которой до сих пор не исчерпано. Особенно много у Барсова произведений старообрядческой литературы и рукописей по истории раскола.
Умер 2 апреля 1917 года в Москве.