Родился в семье учителя и швеи. Отец умер, когда ему было два года. По окончании городского училища и технических курсов поступил в Московский учительский институт, но был оттуда исключён в 1902 г. за политическую деятельность — «за устройство демонстрации в память 40-летия со дня смерти Добролюбова». В 1901 г. вступает в РСДРП и становится профессиональным революционером. В 1903 г. сослан в Усть-Сысольск Вологодской губернии (ныне г. Сыктывкар), откуда успешно бежал за границу. В 1904 г. напечатан первый рассказ из жизни ссыльных. Во время Первой русской революции — председатель Костромского совета рабочих депутатов и руководитель боевой дружины. В 1906 г. был избран делегатом на IV съезд РСДРП. Некоторое время живет, работает и учится в Париже. В 1908 г. покидает ряды большевиков.
В 1914 г. вновь сослан в Нарымский край. Февральскую революцию встречает в побеге и выходит из подполья (с 1901 до 1917 г. на нелегальном положении).
В 1917—18 гг. секретарь ЦК Всероссийского союза рабочих-металлистов. Работает в управлении заводов Москвы, Харькова, Николаева, активно занимается профсоюзной и культурно-организаторской (во Всеукраинском совете искусств) работой. В 1920 г. становится создателем и руководителем Центрального института труда. В 1926 г. награжден орденом Красного Знамени «за исключительную энергию и преданность делу». Один из идеологов Пролеткульта. Жил в Москве в знаменитом «Доме писательского кооператива» (Камергерский переулок, 2).
8 сентября 1938 г. арестован НКВД и 15 апреля 1939 г. расстрелян.
Интересно, что А. К. Гастев находился в регулярной переписке с Генри Фордом.
Сын — Юрий Гастев, также политзаключенный сталинских времён, философ, математик, правозащитник.
Писал стихи в 1913—1919 годах, основная форма — стихотворения в прозе. В 1918 Пролеткультом был издан сборник стихов Гастева «Поэзия рабочего удара», выдержавшую до 1926 шесть переизданий. С 1920 писал только статьи.