Сын синолога Василия Павловича Васильева.
Окончил 5-ю Санкт-Петербургскую гимназию и курс физико-математического факультета Санкт-Петербургского университета, получил золотую медаль за сочинение «Теория отделения корней». В 1874 году защитил pro venia legendi диссертацию «Об отделении корней совокупных уравнений» и затем стал приват-доцентом Казанского университета, где с 1887 года состоял ординарным профессором. Слушал в Берлине лекции Карла Вейерштрасса и Леопольда Кронекера, в Париже — Шарля Эрмита.
Долго принимал деятельное участие в земской жизни Казанской губернии и Свияжского уезда, в частности содействовал развитию народной школы. Был депутатом Государственной думы I созыва, был выбран членом Государственного совета от Академии наук и университетов; выступал преимущественно по вопросам финансовым и народного образования. ыл одним из видных членов партии конституционных демократов, входя в её центральный комитет.
Васильев — один из основателей Казанского физико-математического общества. С 1890-х годов Васильев широко пропагандировал идеи Н. И. Лобачевского в области геометрии, принял участие в издании «Полного собрания сочинений по геометрии» Н. И. Лобачевского (1883—1886) и опубликовал ряд статей о Лобачевском, в частности его биографию (1914).
О жизни А. В. Васильева после 1917 года сведений мало — по-видимому, ему удалось избежать репрессий и он продолжал работать как математик. Известно, что А. В. Васильев был среди тех, кто подписывал письма протеста против изъятия церковных ценностей.
Известно, что в эти годы ему удалось издать ряд работ в том числе — новую расширенную книгу о Лобачевском. В 1927 году книга была отпечатана, однако тираж пролежал без движения на складе Госиздата два года и в 1929 г. был уничтожен. Вероятно, подобная судьба книги объясняется отношением к Васильеву как к «буржуазному» учёному, или же (предположительно) тем, что в конце 1920-х он всё же эмигрировал. Тем не менее, несмотря на уничтожение тиража, рукопись или отдельные экземпляры были известны историкам математики и упоминались в последующих работах. А в начале 1990-х был найден экземпляр вёрстки и в 1992 году книга была издана повторно..
Скончался А. В. Васильев, предположительно, во Франции (?), в начале октября 1929 года.
Был женат на Александре Павловне Максимович. Дети: Анна, Елена, Николай (1880—1940), Сергей (1881—?).