Родился в большой старообрядческой мещанской семье и с детства познакомился с религиозными преследованиями. Рано оставшись без отца, Шляпников, в 1895 окончив три класса Муромского начального училища, стал выполнять неквалифицированную работу, чтобы помочь семье.
С 1898 работал на заводе. Участвовал в стачечном движении, в 1901 вступил в РСДРП, с 1903 стал большевиком.
С 1908 по апрель 1914 года работал на заводах Франции, Германии и Англии. Состоял в романтических отношениях с Александрой Коллонтай.
В 1914 г. жил и работал на заводах Петрограда под фамилией Жакоба Ноэ. В конце сентября 1914 г. был вынужден уехать из России.
В 1917 г. был членом Русского Бюро ЦК РКП(б) и одним из организаторов отрядов народной милиции.
Нарком труда в Первом составе Совета Народных Комиссаров Российской Советской Республики. В ноябре 1917 поддерживал точку зрения о необходимости создания «однородного социалистического правительства» из всех партий, входивших во ВЦИК, не получил поддержки, но не оставил своего поста, добавив к нему обязанности наркома торговли и промышленности.
Шляпников вместе со Сталиным, получив чрезвычайные полномочия, был направлен на юг России, чтобы, по словам Ленина, «выкачать оттуда хлеб» .
В 1918 был назначен членом РВС Южного фронта, председателем РВС Каспийско-Кавказского фронта, затем членом РВС 16-й армии Западного фронта.
В 1920 отозван для работы в ВЦСПС.
Шляпников выступал против Троцкого с его идеей о милитаризации трудовой жизни страны, принял активное участие в дискуссии о профсоюзах. Шляпников и Коллонтай возглавили группу «рабочей оппозиции», заявив, что задачей профсоюзов является организация управления народным хозяйством, лишив этой функции партию, — точка зрения, резко раскритикованная в ходе дискуссии и на Х съезде РКП(б) Лениным.
В 1923 Шляпников открыто выступил с критикой ЦК по вопросам экономического положения, внутрипартийной и рабочей демократии, после чего был отправлен на дипломатическую работу.
Недолго пробыв торгпредом во Франции, в 1925 вернулся в СССР. Под давлением Политбюро был вынужден заявить, что «никакой фракционной работы» вести более не будет.
До 1929 работал председателем правления акционерного общества «Металлоимпорт».
В 1923—1931 вышли в свет его воспоминания «Семнадцатый год»
В 1933 Шляпников был исключён из партии, в 1934 административно выслан в Карелию, в 1935 за принадлежность к «рабочей оппозиции» осуждён на 5 лет — наказание, заменённое ссылкой в Астрахань.
В 1936 вновь арестован и по приговору Военной коллегии Верховного Суда СССР расстрелян.
31 января 1963 года военная коллегия Верховного суда СССР реабилитировала Александра Гавриловича Шляпникова в судебном порядке по всем ранее предъявленным ему обвинениям за отсутствием в его действиях состава преступления. 21 декабря 1988 года, Комитет партийного контроля при ЦК КПСС восстановил Шляпникова в партии (посмертно).
Дочь — Ирина Александровна Шляпникова.