Начинал карьеру в белгородском «Салюте», выступавшем тогда во Втором дивизионе. В 1995 году перешёл в московский «Локомотив», последующие три сезона провёл в дубле клуба, где был основным голкипером, в основном же составе он в те годы так и не вышел на поле. Сезон 1998 года провёл в качестве основного вратаря «Нефтехимика», бывшего одним из аутсайдеров Первого дивизиона. Затем вернулся в «Локомотив», где вновь играл за дубль, в 1999 году единожды вышел на поле за основной состав клуба, получил серебряную медаль того сезона.
В 2001 году перешёл в самарские «Крылья Советов», в первом сезоне в основном сидел на скамейке, затем стал основным вратарём и внёс существенный вклад в успешное выступление команды в Чемпионате России 2004 года, когда самарцы завоевали бронзовые медали чемпионата страны, что является лучшим их результатом в чемпионатах России; также в том сезоне команда дошла до финала Кубка России, где уступила 0:1 «Тереку» после позднего гола Федькова. Затем, после столь успешного сезона, у «Крыльев» начались финансовые проблемы, и им пришлось распродать значительную часть игроков, в число которых попал и Поляков, перешедший в московский «Локомотив». В составе «Локомотива» он стал двукратным бронзовым призёром чемпионата России, обладателем Кубка и Суперкубка России и Кубка Содружества. В первом его сезоне, в 2005 году, основным вратарём был Сергей Овчинников, Полякову же довелось выйти на поле лишь один раз. На следующий год Овчинников ушёл в московское «Динамо», и основным вратарём стал Поляков, действовавший тогда уверенно и надёжно. В сезоне 2007 года Поляков опять потерял место в составе, в воротах тогда стояли Якупович и Пелиццоли, Алексей же сыграл лишь три матча; по завершении этого сезона он хотел покинуть команду, но не смог найти новую и был вынужден остаться. В сезоне 2008 года Поляков ни разу не вышел на поле за «Локо». В конце лета 2008 года после того, как «Локомотив» пригласил к себе основного голкипера «Луча-Энергии» Марека Чеха, в стан владивостокского клуба был отдан в аренду Поляков, доигравший там остаток чемпионата; сначала он сидел на скамейке, но после того, как занявший место Чеха Драган Стойкич пропустил восемь мячей в матче с «Зенитом» и потерял место в составе, Алексей стал основным вратарём, проведя оставшиеся 6 игр провального для «тигров» сезона. В начале 2009 года Поляков подписал контракт с командой «Томь», где является резервным вратарём, основным же голкипером томичей является Парейко. 2 января 2010 года было сообщено, что руководство «Томи» предложило Алексею искать новый клуб, однако сезон 2010 провёл в Томске. После окончания сезона 2010 Поляков подписал контракт с клубом «Локомотив-2».
В Премьер-лиге провёл 103 игры, пропустил 126 мячей.
На конец сезона 2010 года