Алексей Ганин родился в семье крестьянина в деревне Коншино Вологодского уезда Вологодской губернии (сейчас это территория Архангельского сельского поселения Сокольского района Вологодской области). Получил образование в двуклассном земском училище в селе Усть-Кубенское и городской гимназии в Вологде. Далее он учился в Вологодском фельдшерско-акушерском училище (1911—1914). Первые свои стихи Ганин опубликовал в вологодской газете «Эхо» (1913). В 1914 году поэт пошёл в армию и получил назначение в Николаевский военный госпиталь в Петербурге. В 1916 году он познакомился с Сергеем Есениным, служившим в госпитале Царского села. Летом 1917 г. вместе с Сергеем Есениным и Зинаидой Райх Ганин совершил поездку на родину в Вологду и в Соловки. Во время этой поездки произошло венчание Есенина с Райх. По архивным данным это произошло в церкви Кирика и Иулитты в деревне Толстиково неподалёку от Вологды. Ганин был свидетелем со стороны невесты, в которую сам был влюблён. Ей он посвятил написанное в Соловках стихотворение «Русалка», в котором признаётся в неразделённой любви к героине, выбравшей «разбойника кудрявых полей» — его друга Сергея Есенина.
В 1917 г. Ганин вместе с Николаем Клюевым, Сергеем Есениным и Орешиным публиковался в альманахе левоэсеровской ориентации «Скифы». В 1918 г. поэт познакомился с Александром Блоком. В том же году вступает в Красную Армию. Служит фельдшером. В 1920 г. публикуется в имажинистском сборнике «Конница бурь». В 1920-21 гг. Ганин издает в Вологде миниатюрным изданием поэму «Звёздный корабль».
В 1923 г. Ганин переехал в Москву, где участвовал в поэтических вечерах, посещал литературные кафе, жил у знакомых поэтов, а иногда ночевал на улице. У него практически никогда не было денег, тем не менее ему удалость выпустить 11 сборников, изготовленных литографическим способом. В 1924 году в Москве вышла его первая книга «Былинное поле». По своей направленности творчество Ганина было близко к творчеству новокрестьянских поэтов.
В первые годы после революции Ганин создал ряд произведений, направленных (в иносказательной форме) против большевиков как врагов России и в первую очередь крестьянства: «России» (1918), поэмы «Сарай» (1917), «Былинное поле» (1917-23). Сложным раздумьям о дальнейшем пути крестьянства в трудной и опасной для него исторической обстановке посвящает он своеобразный роман-притчу «Завтра» (1923).
В начале 1920-х годов он с группой единомышленников создал программу спасения России от «ига еврейского интернационала», где выдвинул идею «Великого Земского собора», воссоздания национального государства и очищения страны от «поработивших её захватчиков». Ганин написал антибольшевистские «Тезисы».
Осенью 1924 г. Алексея Ганина арестовали по обвинению в принадлежности к «Ордену русских фашистов».
Существует версия, согласно которой дело «Ордена русских фашистов» было сфабриковано по сценарию руководства ОГПУ.
2 ноября 1924 г. Ганин был арестован в Москве. Ему в карман пальто были подложены листки с «Тезисами манифеста русских националистов». Ганин был назван руководителем организации. «Тезисы» были сразу же переданы в руки Генриха Ягоды. По делу привлекли:
Все обвиняемые не только не состояли в выдуманном «Ордене», но и большинство их друг друга никогда в глаза не видели. В обвинительном заключении не был назван ни один факт нарушения закона или какого-либо преступления. В процессе расследования «дела» двое арестованных потеряли рассудок. Алексею Ганину провели судебно-психиатрическую экспертизу, признавшую его невменяемым, то есть не отвечающим в уголовном порядке ни за какое преступление. Попытка выдать текст тезисов за фрагмент задуманного романа (списав тем самым криминал на счёт отрицательного героя — «классового врага») не удалась.
Секретарь Президиума ВЦИК СССР А. С. Енукидзе 27 марта 1925 г. писал:
Дело было рассмотрено во внесудебном порядке. По приказу В. Менжинского, Г. Бокия и Я. Петерса были расстреляны: Ганин, братья Чекрыгины, Дворяшин, Галанов и Кротков. Глубоковскому и Александровичу-Потеряхину дали 10 лет заключения в Соловецком лагере. Судьба остальных неизвестна.
Алексей Ганин был расстрелян в подвалах Лубянки после жестоких пыток, которыми руководил начальник седьмого отдела СО ОГПУ Абрам Славотинский. Прах Ганина погребён на территории Яузской больницы.
Дело по обвинению Ганина было прекращено только 6 октября 1966 г. за отсутствием состава преступления. Ганин был реабилитирован посмертно.
Большую часть неопубликованных рукописей Алексея Ганина его родственникам сохранить не удалось. Бумаги, завернутые в рогожу и закопанные под домом, были навсегда утрачены после пожара. Но в 1970-е годы жизнь поэта стала предметом исследований ряда краеведов, прежде всего — ленинградца Н. Парфёнова, который и возродил интерес к Ганину. В 1991 году в Северо-Западном издательстве вышел первый посмертный сборник его стихов и прозы с предисловием Станислава Куняева. В 2003 году именем Алексея Ганина назвали улицу в Вологде. На его стихи написаны романсы, в Вологде проходят вечера его памяти.