Родился в еврейской семье в городе Вилькомир. Самоучкой обучался грамоте. С 13 лет в обучении у портного. В конце 1897 года переехал в Ковно к брату.
В середине 1898 года вступил в революционный кружок и подпольный профсоюз (с этого года позднее ему был засчитан стаж в РСДРП). Позднее переехал в Вильно, исполнял обязанности секретаря и кассира профсоюза дамских портных. В 1899 и 1900 годах — один из организаторов празднования 1 мая в Вильно (оба раза мероприятие разгонялось полицией).
В 1900 году установил связь с редакцией газеты «Искра» и вскоре стал одним из первых её агентов в России. В течение нескольких лет занимался организацией сети нелегальной доставки газеты из-за границы.
В начале марта 1902 года арестован жандармами, заключён в Лукьяновскую тюрьму Киева. Здесь под руководством Иосифа Блюменфельда (будущего меньшевика), а также Н. Баумана и М. Литвинова Пятницкий изучал основы марксистской теории. 18 августа в числе 11 искровцев бежал из тюрьмы и выехал за границу. здесь он опять занялся налаживанием сети поставки нелегальной литературы в Россию с центром в Берлине. В его руках сосредоточились все конспиративные связи на границе и в самой России.
В октябре 1903 года на съезде Заграничной лиги русской революционной социал-демократии в Женеве после долгих колебаний Пятницкий встал на сторону большевиков.
После усиления давления со стороны полиции Германии и Швейцарии Пятницкий вернулся в Россию и поселился в Одессе. Будучи членом Одесского комитета РСДРП (секретарь — С. Гусев), участвовал в организации забастовки и демонстрации 12 октября 1905 года, закончившихся боями рабочих с полицией и казаками. 15 января 1906 года был арестован, но не опознан и через 6 месяцев отпущен, после чего уехал в Москву. Здесь стал руководителем конспиративно-технического аппарата Московского комитета. В 1908 году выехал за границу, участвовал в деятельности Заграничного бюро РСДРП.
Один из основателей Коминтерна. Руководитель Коминтерна в 1930-е.
В начале 1937 года выступил против репрессивной политики Сталина и предоставления Н. И. Ежову чрезвычайных полномочий. В том же году арестован. Следствие вёл А. И. Лангфанг. К подследственному применялись пытки. По приговору Военной коллегии Верховного Суда расстрелян 29 июля 1938 года. В 1956 году полностью реабилитирован.
Жена — Юлия Иосифовна Соколова-Пятницкая (1898—1940) — инженер, репрессирована в 1938, умерла в лагере, реабилитирована в 1956 г.
Сын — Игорь Иосифович Пятницкий (р.1921);
Сын — Владимир Иосифович Пятницкий (р.1925) — руководитель Петербургского общества «Мемориал», автор книг: «Осип Пятницкий и Коминтерн на весах истории»; «Заговор против Сталина»; «Казаки в Великой Отечественной войне 1941-1945 гг.»; «Разведшкола № 005. История партизанского движения»; «Голгофа. по материалам архивно-следственного дела № 603 на Соколову-Пятницкую Ю.И.».