Родился 22 февраля 1897 в Екатеринославе. С пяти лет жил в Ростове-на-Дону, куда переехал с родителями. Поступив в Ростове в гимназию, окончил её в 1916 году. Артистическую карьеру начал в ростовском театре «Театральная мастерская».
Работал ударником в первом советском джазовом ансамбле — «Первом в РСФСР эксцентрическом оркестре джаз-банде Валентина Парнаха».
С 1924 года служил в театре Мейерхольда, театре Революции, театре имени Моссовета. Был великолепным рисовальщиком и создал большое количество актёрских портретов.
Фаина Раневская сказала об Александре Костомолоцком: «Если нас спросят, что такое бескорыстие — мы ответим: „Костомолоцкий“. А если нас спросят: „Как жил Костомолоцкий?“, — мы разведём руками. Если нас спросят: „Что такое беспредельная любовь к театру?“, — мы ответим: „Костомолоцкий“. Он жил одинокий, скромный, беспредельно любя театр и живопись».
Умер в 1971 году в Москве. Прах упокоен в 21-м колумбарии Донского кладбища Москвы