Александр Карповцев являлся воспитанником московского «Динамо», в основной команде он выступал с 1987 года. В составе динамовцев он стал чемпионом СССР (1990, 1991), СНГ (1992) и России (1993).
В мае 1993 г. выиграл титул чемпиона мира в составе сборной России, за что удостоился звания заслуженного мастера спорта.
Карповцев был задрафтован в 8-м раунде драфта НХЛ 1990 года под 158-м номером клубом «Квебек Нордикс». 7 сентября 1993 года он был обменян на Майка Хёрлбата в «Нью-Йорк Рейнджерс», и уехал за океан. В сезоне 1993/94 «Рейнджеры» выиграли Кубок Стэнли, а Карповцев, Алексей Ковалёв, Сергей Зубов и Сергей Немчинов стали первыми россиянами, завоевавшими этот трофей. Карповцев играл за клуб ещё четыре года, а 14 октября 1998 года вместе с правом выбора в четвёртом раунде драфта 1999 был обменян в «Торонто Мэйпл Лифс» на Мэтью Шнайдера.
Спустя два сезона Карповцев не смог договориться с клубом о сумме контракта, сыграл несколько матчей за «Динамо», и вместе с правом выбора в 4 раунде драфта 2001 был обменян в «Чикаго Блэкхокс» на Брайана Маккейба. Карповцев отыграл за ястребов почти 4 сезона, и обменян 9 марта 2004 года в «Нью-Йорк Айлендерс» на право выбора в 4 раунде драфта 2005. После завершения сезона начался локаут, и россиянин вернулся на родину. Чемпионат 2004/05 он начал в «Сибири», а вскоре перешёл в «Локомотив». Ещё в июле 2004 года Карповцев подписал контракт с «Флоридой», и осенью 2005 года присоединился к клубу. Однако сыграть за «Пантер» удалось всего 6 матчей, после чего Карповцев вернулся в «Сибирь». Он сыграл за новосибирцев 2 сезона, после чего в начале сезона 2007/2008 перешёл в «Авангард», но ещё до нового года завершил карьеру.
В концовке того же сезона Карповцев вошёл в тренерский штаб Кари Хейккиля из «Локомотива», а в следующем сезоне стал помощником Зинэтулы Билялетдинова в «Ак Барсе», с которым выиграл чемпионат 2008/09. В январе 2010 года Александр покинул казанцев и вернулся в «Локомотив».
Карповцев погиб вместе с другими членами команды 7 сентября 2011 года в авиакатастрофе самолета Як-42, произошедшей под Ярославлем. Похоронен на Покровском кладбище Москвы. 17 января 2012 года вдова Карповцева Диана родила сына.