В футбольной команде был крайним нападающим. В чемпионатах СССР провёл 50 матчей, забил 25 голов. Выступал за клубы: 1937—1939 — «Спартак» Москва; 1940—1942 — Клуб Советской Армии; 1943—1945 — «Локомотив» Москва; 1946 — «Пищевик» (Москва).
Также выступал за хоккейные клубы 1947—1949 — «Дзержинец» (Челябинск); 1949—1950 — «Локомотив» (Москва); 1950—1952 — «Электросталь» (Электросталь).
В 1955—1975 был первым главным тренером команды «Химик» (Воскресенск). Был одним из организаторов резкого подъёма команды от провинциального уровня до уровня призёров национального чемпионата. Стоял у истоков расцвета хоккея в Воскресенске, впоследствии породившем множество больших мастеров игры. Во главе «Химика» дважды выигрывал бронзовые медали чемпионата СССР (1964/65, 1969/70).
В 1969—1972 годах Эпштейн параллельно руководил сборной СССР среди юниоров. Под руководством Эпштейна юниорская сборная трижды завоевывала золото чемпионата Европы.
В 1975 году он ушёл из «Химика» на место старшего тренера команды «Сибирь» (Новосибирск), в 1978 году был начальником ХК «Спартак». Впоследствии тренировал сборную Израиля.
Среди воспитанников Эпштейна - Валерий Каменский, Валерий Зелепукин, Вячеслав Козлов, Сергей Березин, Игорь Ларионов и Юрий Ляпкин.
В 2001 году был включён в Международный еврейский спортивный зал славы.
В последние годы жизни Эпштейн страдал тяжелейшим заболеванием — болезнью Альцгеймера.
19 августа 2005 года утром тайком от всех ушёл с дачи в Наро-Фоминском районе и не вернулся. 26 августа истощённого Эпштейна обнаружили в заброшенном доме в Апрелевке и отвезли в больницу в Селятине, где спустя полсуток он умер. Его тело отправили в морг, где оно лишь 6 сентября было обнаружено его сыном среди неопознанных.