Родился 15 декабря 1955 в Ленинграде, вскоре переехал с родителями в Москву. В 1972 году закончил школу № 57 г. Москвы, после чего поступил на Факультет управления и прикладной математики МФТИ, закончив его в 1980 году.
В 1980 году был одним из двух первых научных сотрудников, зачисленных приказом в штат ОВМ АН СССР. С 1982 года также работал ассистентом кафедры ММФП МФТИ (до 1986 года называлась кафедрой ФМПОС), где вёл занятия по технологиям программирования и курировал ряд групп. В частности, курировал базовую группу ОВМ АН СССР набора 1986 года.
До 1986 года работал в лаборатории физико-математических проблем окружающей среды, где занимался математическим моделированием. В конце 1986 года перешёл в лабораторию численных методов алгебры, где под руководством В. В. Воеводина с 1989 года занимался инструментальной системой «Навигатор» для управления базой знаний, предшественницей «Линеала». Работа, результаты которой были освещены в трёх статьях, двигалась к завершению, но закончена не была: в начале 1992 года А. Ю. Соколов скоропостижно заболел. После неудачной операции, проведённой в апреле, А. Ю. Соколов умер 26 сентября, не дожив до своего 37-летия.
Во время своей работы в ОВМ АН СССР А. Ю. Соколов проявил себя как мастер освоения современной техники и передачи такого опыта товарищам по работе. В частности, на институтской мини-ЭВМ HP-1000 производства Hewlett-Packard он, работая системным администратором, не только произвёл необходимые работы по её вводу в эксплуатацию, но и написал несколько графических библиотек для работы с различной периферией (графические дисплеи, плоттеры и матричные принтеры) из фортран-программ, а также стандартизированные описания к ним. Большинство пользователей, начиная работать, искренне полагали, что это пакет программ от «Hewlett-Packard». После появления в ОВМ АН СССР персональных компьютеров они были соединены А.Ю Соколовым сетью с HP-1000.
Под его руководством была разработана часть программы для углублённого изучения информатики в 59-й школе г. Москвы, когда ОВМ АН СССР начал с ней многолетнее сотрудничество.
В 1995 году, в связи с 40-летием Соколова, по предложению Г.И.Марчука институтом была учреждена Премия ИВМ РАН имени А.Ю.Соколова, как дань уважения его заслуг перед институтом.