Владел по меньшей мере 16 живыми и классическими языками , по некоторым источникам, почти 60 языками .
Родился в 1871 году во Владимире-Волынском. Был потомком татарского муллы бежавшего на Украину из Крымского ханства во время гонений.
В 1892 году окончил Лазаревский институт восточных языков в Москве, а ещё через четыре года стал выпускником историко-филологического факультета Московского университета. Более двух лет он совершенствовал знание арабского языка в Ливане. Затем почти двадцать лет работал в Лазаревском институте восточных языков профессором кафедры словесности и истории мусульман.
А. Крымский участвовал в украинской национальной жизни конца XIX столетия, вёл переписку с известными деятелями украинской культуры — О. Огоновским, Б. Гринченко, И. Франко и др. В этот период своей деятельности Крымский полемизировал с А. Соболевским, который пропагандировал гипотезу М. Погодина о том, что древние киевляне были русскими, которые только в период монголо-татарского нашествия отошли на север.
В 1896—1898 годах находился в научной командировке в Сирии и Ливане.
После установления в 1917 году украинской государственности Крымский решил вернуться на родину. Участвовал в политической и научной жизни Украины (и при Центральной Раде, и при гетмане Скоропадском), поддерживал идею государственной независимости Украины.
С 1918 года является действительным членом Украинской Академии наук. С этого времени вплоть до 1941 года (с перерывами) он заведовал кафедрой Киевского госуниверситета.
В исторических исследованиях был непримиримым оппонентом М. С. Грушевского, считал его работы тенденциозными, основанными на недостоверных источниках.
Среди его заслуг следует упомянуть значительный вклад в изучение языка и культуры крымских татар.
В 1920—1930-е годы подвергался гонениям как «буржуазный националист», однако после присоединения Западной Украины в 1939 году был восстановлен во всех должностях, совершил ряд поездок на Западную Украину.
В 1941 году без предъявления обвинения арестован и сослан в Казахстан, где вскоре умер. В течение более чем полувека его семья не имела никакой информации о его судьбе.
Удостоен ордена Трудового Красного Знамени.
Будучи филателистом, получил известность как крупнейший специалист в области знаков почтовой оплаты, выпущенных Русским обществом пароходства и торговли (РОПиТ). Общество базировалось в Одессе и занималось до революции перевозкой грузов и почты между портами Чёрного и Средиземного морей.
Коллекция А. Е. Крымского пропала в годы Великой Отечественной войны, во время немецкой оккупации Крыма.