А. И. Дмитриев окончил Институт гражданских инженеров (1900) и архитектурное отделение Академии Художеств (1903). С 1900 по 1908 г. служил техником Главного управления неокладных сборов и казённой продажи питей, с 1908 по 1912 — старшим техником Городской управы, с 1912 до 1917 года был членом технико-строительной комиссии Министерства внутренних дел. В 1917 г. получил должность профессора ИГИ, в которой оставался до 1930 г. В 1938—1947 гг. — профессор Московского института коммунального строительства.
Кроме того, с 1905 года он был членом совета Женских строительных курсов В. Ф. Романовой, а с 1907 года — архитектором Адмиралтейского судостроительного завода. С 1904 года до 1937 гоконца жизни преподавал в Институте гражданских инженеров — ИГИ (с 1930 г. ЛИКС, с 1941 г. ЛИСИ, в настоящее время СПбГАСУ).
Преподавательскую деятельность в ИГИ А. И. Дмитриев начал вскоре после окончания Академии художеств, в 1904 году. Тогда же молодой архитектор получил ответственное задание — оформление интерьеров особняка Кшесинской, с которым он блестяще справился, к 1906 году оформив гостиную и большой зал особняка в стиле модерн. А через несколько лет Дмитриев создаёт самое известное своё архитектурное творение — здание городского Училищного дома имени Петра I на Петровской набережной Малой Невки, в котором в настоящее время располагается Нахимовское военно-морское училище.
В Ленинграде А. И. Дмитриев жил в доме № 35 по 2-й линии Васильевского острова.
Кроме того, А. И. Дмитриев — создатель промышленных комплексов с рабочими городками в Ревеле и Таганроге, в советское время — участник Свирьстроя, автор проектов зданий, производственных комплексов и мостов в Харькове, Краматорске, Донбассе, Тюмени, Уфе, Красноярске и других городах.