В революционном движении принимал участие с гимназических лет. Вместе с Шарлем Раппопортом и Любовью Аксельрод руководил с 1883 г. революционным кружком. Стал марксистом, подвергался арестам в 1888 и 1889 гг. В 1890 г. эмигрировал в Швейцарию. Один из руководителей СДКПиЛ и редактор ее изданий. Сотрудничал с плехановской группой «Освобождение труда». В 1900 г. переехал в Берлин.
В ноябре 1905 г. вместе с Розой Люксембург и Юлианом Мархлевским прибыл в Варшаву и участвовал в революции в Королевстве Польском. В марте 1906 г. был арестован и приговорён к 8 годам каторги и пожизненной ссылке в Сибирь. В 1907 г. бежал из тюрьмы и вернулся в Берлин. На 5-м съезде РСДРП (Лондон, 1907 г.) был избран кандидатом в члены ЦК РСДРП. Во время Первой мировой войны формировал интернационалистское течение в Социал-демократической партии Германии. С 1916 г. один из организаторов и руководителей Союза Спартака и редактор его изданий. Один из основателей Коммунистической партии Германии. Был избран в ее ЦК.
После неудавшейся Ноябрьской революции и убийства в январе 1919 г. Розы Люксембург и Карла Либкнехта возглавил КПГ, но уже 9 марта 1919 г. был арестован и убит в тюрьме предварительного заключения выстрелом в затылок.