В 1902 году учился на юридическом факультете Варшавского университета. В 1903 присоединился к Бунду. В 1904 году арестован, а затем исключён из университета за участие в революционной демонстрации. Вскоре был освобожден, уехал в Германию, начал изучать политэкономию в Берлинском университете. В 1905 г. вернулся в Варшаву, сотрудничал в партийных периодических изданиях. В 1906—1908 гг. учился на юридическом факультете Петербургского университета, по окончании которого переехал в Варшаву. Принимал активное участие в работе Бунда. В 1909 г. вновь арестован, вскоре после освобождения уехал во Францию. Однако в 1910 г. Эрлих возвратился в Варшаву и занялся партийной работой.
В 1914 году после начала первой мировой войны переехал в Петроград. Сотрудничал в левой прессе, входил в состав редколлегий бундовских изданий: газеты «Ди Цайт» и еженедельника «Еврейские вести».
Во время революции 1917 года был членом исполкома Петроградского совета рабочих и солдатских депутатов. На первом Всероссийском съезде советов рабочих и солдатских депутатов 3-24 июня 1917 г. был избран членом Всероссийского Центрального Исполнительного комитета (ВЦИК). В октябре 1917 г. стал членом Временного совета Российской республики (Предпарламента).
В октябре 1918 года уехал в Варшаву. В 1920-30-х гг. был членом ЦК Бунда, одним из лидеров партии, редактором партийного органа — ежедневной газеты «Фольксцайтунг», возглавлял левое крыло партии.
С началом 2-й мировой войны в сентябре 1939 г. Эрлих бежал в советскую зону оккупации на восток Польши. 4 октября 1939 г. в Бресте Эрлих был арестован сотрудниками НКВД. В июле — августе 1941 г. Эрлих вместе с Виктором Альтером был обвинён в связях с польской контрразведкой и подпольными организациями Бунда и критике политики советско-германского сотрудничества и приговорён к смертной казни. Однако 27 августа 1941 г. Эрлиху и Альтеру было объявлено о замене смертной казни десятилетним заключением. В ходе допросов Лаврентий Берия предложил им возглавить еврейскую антифашистскую организацию и 12 сентября 1941 они были освобождены. Сразу после освобождения совместно с Виктором Альтером приступил к созданию ЕАК.
4 декабря 1941 г. Эрлих и Альтер были повторно арестованы в Куйбышеве. 23 декабря 1941 г. Военная коллегия Верховного суда СССР приговорила Эрлиха и Альтера к смертной казни на этот раз за связь с германской разведкой. Находясь в тюрьме Эрлих 14 мая 1942 г. покончил жизнь самоубийством. Позже в феврале 1943 г. Альтер был расстрелян. В США этот расстрел сравнивали с казнью Сакко и Ванцетти. Был женат на Софье Семеновне Дубновой.