Начал сниматься в восемнадцать лет, играя молодых ребят. В 1982 году окончил Государственный институт театрального искусства (ГИТИС) им. А. В. Луначарского (мастерская В. П. Остальского). Его распределяли и в Московский академический театр Сатиры, и в Театр на Малой Бронной, но начинающий актёр предпочел уехать в Ленинград. Как он сам признаётся: «в романтическом порыве поехал за девушкой», где занимался в мастерской В. П. Остальского. Был актёром Санкт-Петербургского Молодежного театра на Фонтанке и театра комедии имени Н. П. Акимова.
Его лучшими ролями считаются работы в фильмах «Наше призвание», «Светлая личность», «Самолет летит в Россию», «Курортный роман». Среди картин с его участием можно назвать «Найти и обезвредить», «Человек из черной `Волги`», «Мона Лиза», «Однажды в Одессе», «Возвращение броненосца», «Левая грудь Афродиты», телеоперетту «Цыганский барон». Известен актер также и как автор и исполнитель песен, романсов и баллад.
Создавал актёр пародии и в 90-е годы. Конечно же, не обошлось без пародии на Михаила Сергеевича Горбачева. Причём спародировать его Анкудинов решился прямо в Кремлевском Дворце съездов, перед четой Горбачевых, сидевших в первом ряду. Окончив петь песни, он вдруг объявил голосом Горбачева: «Михал Сергеич, обратите внимание, вот они, понимаете, плоды вашей перестройки: вы сидите в первом ряду, смотрите пародию на себя и сами, так сказать, смеетесь вместе с залом». Михаил Сергеевич оценил шутку. После концерта актеру прислали за кулисы букет цветов…
Помимо концертной деятельности Андрей Анкудинов работал ведущим на телевидении. В 1994 году он вёл передачу «Лучшие из лучших» на канале НТВ, в 1996-97 годах — программу «12 пополудни» на РТР, а в 1996—1997 — «Час совы» на СТС.
Ещё за несколько лет до того, как А. Масляков придумал КВН, ленинградские актёры сделали программу «Театральный марафон», в которой сходились молодёжные команды — театр на театр. В итоге всё это вылилось во всесоюзный конкурс.
Андрей Анкудинов вспоминает: «Это были большие игры в несколько заходов, длились по 9 часов! Играли „ночники“ (мода была такая и удобно). Капитанский конкурс продолжался 2-3 часа, и когда капитан выходил на капитана — это был отдельный спектакль! <…> Мы всегда готовились в последний момент. Когда актёры играют против актёров, очень многое, естественно, построено на импровизации. Это всегда было настолько здорово! С адреналинчиком в крови… И бесплатно!»
Тот, театральный КВН, продолжался вплоть до 1989 года, собирая огромное количество восторженных зрителей…