Родился 9 марта 1910 года в деревне Зиновидово ныне Ржевского района Тверской области в крестьянской семье. Русский. Член ВКП(б)/КПСС с 1941 года. Окончил сельскую школу. Работал на фабрике «Приводной ремень» в Москве.
В Красной Армии с 1932 года. В 1937 году окончил Саратовское пограничное училище. Участник Великой Отечественной войны с июня 1941 года.
Помощник начальника штаба 1-й пограничной комендатуры (25-й Кагульский пограничный отряд, Молдавский пограничный округ Войск НКВД) кандидат в члены ВКП(б) старший лейтенант Александр Константинов принял на себя в первый день войны, 22 июня 1941 года, руководство обороной пограничной заставы № 5 у города Кагул (Молдавия), вблизи села Стояновка.
Только в течение дня, возглавляемая отважным офицером-пограничником застава, отразила одиннадцать атак противника.
24 июня 1941 года старший лейтенант Константинов А. К. вместе с бойцами отбил у врага железнодорожный мост через реку Прут, лично уничтожив при этом два пулемётных расчёта противника.
Указом Президиума Верховного Совета СССР от 26 августа 1941 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистским захватчиками и проявленные при этом мужество и героизм старшему лейтенанту Константинову Александру Константиновичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 618).
В 1950 году герой-пограничник окончил Военный институт МВД, служил в пограничных войсках. С 1959 года полковник Константинов А. К. — в отставке. Жил в Одессе. Скончался 16 июня 1994 года. Похоронен в Одессе на Городском кладбище.
Награждён орденами Ленина, Красного Знамени, Отечественной войны 1-й и 2-й степени, 2 орденами Красной Звезды, медалями.
В честь Героя установлен памятник на одной из пограничных застав.