Учился на историко-филологическом факультете Санкт-Петербургского университета. Основал известное учебное заведение «Гимназия и реальное училище Гуревича» (1869 г.) . Издатель журнала «Русская школа».
Жена Я.Г. Гуревича - Ильина Любовь Ивановна (ок. 1845 - 1922), Дочь Я. Г. Гуревича — литератор Любовь Яковлевна Гуревич, сыновья — педагог Яков Яковлевич Гуревич и врач, профессор Григорий Яковлевич Гуревич-Ильин (автор многократно переиздававшейся «Общей врачебной техники»). Правнук Я. Г. Гуревича — известный русский писатель, народный артист СССР Ираклий Луарсабович Андроников. Племянник жены — религиозный мыслитель Иван Александрович Ильин, племянница жены — писательница Наталья Юльевна Жуковская-Лисенко (1874—1940), дочь публициста Юлия Галактионовича Жуковского (1822—1907) и переводчицы Екатерины Ивановны Жуковской (урождённой Ильиной, 1841—1913).