Потомственный дворянин из древнего рода Колюбакиных. Отец — Михаил Александрович, отставной лейтенант флота, землевладелец Весьегонского уезда Тверской губернии. Жена — Елена Александровна, урождённая Гирс. Дети — Нина (1892), Михаил (1894), Тамара (1898) и Елена (1899).
Окончил Второй кадетский корпус, Константиновское военное училище. С 1890 года служил в лейб-гвардии Измайловском полку, с 1893-го — поручик. В 1894 году сдавал экзамены в Военно-юридическую академию, но не был принят из-за сочинения, написанного в либеральном духе. В том же году был уволен в запас.
Вернулся в Весьегонский уезд, где некоторое время служил земским начальником, был гласным Тверского губернского земства. В 1897 году — член Новгородской губернской земской управы. С ноября 1897 года — председатель Устюженской уездной земской управы, реформировал налогообложение, организовал летние курсы для учителей. Был сторонником расширения прав органов местного самоуправления и реформы земского представительства: предлагал проводить земские выборы не по имущественному, а по территориальному принципу. В 1903 году избран председателем Новгородской губернской земской управы, но не утверждён в должности министром внутренних дел.
Был активным членом Союза освобождения и Союза земцев-конституционалистов. В 1905 году вновь избран председателем Новгородской губернской земской управы. В том же году стал одним из основателей Конституционно-демократической партии (Партии народной свободы). С 1905-го — член ЦК партии, с 1906-го также вошёл в состав её секретариата. Совершил ряд поездок по стране, в ходе которых создавались местные партийные отделения.
В феврале 1906 года был отстранён правительством от должности председателя губернской земской управы из-за обвинений в продаже революционной литературы, которые не подтвердились. Тогда был привлечён к уголовной ответственности за резкое выступление на митинге в Саратове в августе 1906 года. Пока шло следствие, был избран членом III Государственной Думы от Петербурга, входил в состав продовольственной комиссии и комиссии по исполнению государственной росписи. Депутатская деятельность Колюбакина прервалась в 1908-м, когда он был приговорён к 6 месяцам тюремного заключения за свою речь в Саратове (наказание отбывал в петербургской тюрьме «Кресты»). В 1909 году был официально признан выбывшим из состава Думы.
Продолжил работу в кадетской партии, с 1909 года — секретарь комитета партийной фракции в Думе, с 1910-го — председатель Петербургского городского комитета партии. Считался одним из видных представителей левого течения среди кадетов, сторонником сближении с социалистами. Участвовал в работе Вольного экономического общества.
Один из видных деятелей российского масонства. В 1907 году — член-основатель ложи «Полярная звезда» ВВФ, в Петербурге. В 1910 году был в числе основателей Верховного совета Великого востока народов России, с 1912 был его секретарём (с 1913 до отъезда на фронт — генеральным секретарём). В 1910 году — член-основатель ложи «Гальперна» в составе Великого Востока народов России. Был членом ложи «Роз», объединявшей масонов — членов Государственной думы и тоже входившей в состав Великого Востока народов России. Видел в масонстве возможность для объединения усилий различных оппозиционных политических сил.
В начале Первой мировой войны не подлежал мобилизации как политически неблагонадёжный. Подал прошение на Высочайшее имя о направлении в действующую армию, которое было удовлетворено (пока прошение рассматривалось, руководил отделом экономических мероприятий в комиссии Вольного экономического общества для помощи жертвам войны). С ноября 1914 года служил в чине штабс-капитана в одном из сибирских полков. 21 января 1915 поднял свою роту в атаку в ночном бою у местечка Воля Шидловска под Жирардувом близ Варшавы и погиб. Тело А.М. Колюбакина было найдено его дочерью Ниной, служившей в то время сестрой милосердия на Западном фронте на территории Польши, и доставлено в Россию. Был похоронен в семейном склепе села Пятницкое Весьегонского уезда Тверской губернии, неподалеку от своего родового имения - сельца Тюлькино.