Родился в расположенной в степном Крыму деревне Джадра-Шейх-Эли в крестьянской семье. Крымский татарин. Окончил 7 классов. Работал трактористом в колхозе.
В Красной Армии с 1937 года. В 1939 году окончил пехотное училище в столице Грузии городе Тбилиси, в 1943 году — ускоренные курсы Военной академии имени М. В. Фрунзе. На фронте в Великую Отечественную войну с июля 1941 года. Член ВКП(б)/КПСС с 1942 года. Был заместителем командира стрелкового батальона. С 25 сентября 1942 года по 8 июня 1943 года — командир 1292-го стрелкового полка (113-я стрелковая дивизия, Западный фронт). За годы войны трижды ранен и контужен.
130-й гвардейский стрелковый полк под командованием Анатолия Абилова в период с 27 августа по 9 сентября 1944 года в боях по прорыву вражеской обороны на подступах к реке Нарев, при её форсировании в районе насёленного пункта Корневск, расположенного в 10-и километрах севернее польского города Сероцк, расширении и удержании плацдарма нанёс врагу значительный урон в живой силе и технике. Полк за девять дней прошёл с боями пятьдесят километров, освободил шестнадцать насёленных пунктов.
Командир полка Абдилов дважды (в 1944 и 1945 годах) представлялся к званию Героя Советского Союза, но награждения ни в годы войны, ни в первые послевоенные годы и десятилетия не состоялось…
После войны продолжал службу в армии. С 1947 года — в запасе. Жил в городе Жуковский. С 1964 года работал на Экспериментальном машиностроительном заводе Жуковского начальником штаба и заместителем директора завода по гражданской обороне.
Многие годы являлся членом Совета ветеранов комсомола города, членом президиума Совета ветеранов войны, труда, вооруженных сил и правоохранительных органов. Он был одним из инициаторов создания мемориального комплекса погибшим воинам на мемориальном кладбище «Быково», создании аллеи Героев у городского парка. Похоронен в Жуковском.
Указом Президента СССР от 5 мая 1990 года за умелое командование стрелковым полком, образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистским захватчиками и проявленные при этом мужество и героизм полковнику в отставке Абилову Анатолию Абиловичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 11603).
Награждён орденом Ленина, четырьмя орденами Красного Знамени, орденами Суворова 3-й степени, Кутузова 3-й степени, Отечественной войны 1-й степени, медалями, иностранным орденом и медалью.
Решением Совета депутатов города Жуковский от 4 мая 2005 года активному участнику Великой Отечественной войны, Герою Советского Союза, члену Совета ветеранов комсомола города, члену Президиума Совета ветеранов войны, труда, вооруженных сил и правоохранительных органов А. А. Абилову присвоено звание «Почётный гражданин города Жуковского».