Родился в семье портового грузчика. По окончании Горловского горного училища служил в шахтах Подмосковного и Донецкого угольных бассейнов. В 1897—1902 жил в Париже, где окончил горный институт и сблизился с революционной эмиграцией. В 1903 вступил в РСДРП, вёл пропагандистскую и агитационную работу в Мариуполе и Одессе. В 1902 опубликовал два стихотворения, вошедших в историю пролетарской поэзии и рабочего движения: «Песнь пролетариев» («Мы марсельезы гимн старинный…») и первый перевод на русский язык «Интернационала». Текст, опубликованный в журнале «Жизнь» (Лондон, 1902), представлял собой перевод 1-й, 2-й и 6-й строф текста Эжена Потье; в 1931 Коц перевёл остальные строфы (полный текст его перевода опубликован в 1937). В 1907 издательство «Наш голос» выпустило сборник стихотворений Коца «Песни пролетариев» за подписью «Д-н»; книга эта — один из первых в России сборников стихов пролетарского поэта — была немедленно конфискована. Продолжая формальные традиции революционно-демократической поэзии разночинцев, Коц в «Майской песне», «Клятве» и особенно в «Песни пролетариев» дал ранние образцы классовой пролетарской поэзии. Коц перевёл также пьесу О. Мирбо «Дурные пастыри» и издал несколько политических брошюр.
«Интернационал» в версии Коца в России стал общепризнанным партийным гимном революционной социал-демократии, с начала 1918 — гимном Советского государства, затем СССР. В связи с утверждением нового Государственного гимна Советского Союза в 1944 «Интернационал» стал официальным гимном Всесоюзной Коммунистической партии (большевиков), впоследствии КПСС.
Осенью 1941 Коц вместе с семьёй был эвакуирован в Молотовскую область; весной 1942 переехал в Свердловск, где и умер. Похоронен там же на Михайловском кладбище.
4 ноября 2008 года на могиле А. Коца был открыт памятник.