Андрей Гаврилов родился в артистической семье: отец — известный художник Владимир Гаврилов, чьи полотна хранятся во многих музеях мира. Мать, Ассанетта Егиссерян, ученица Генриха Нейгауза), стала его первым преподавателем. С детства отличался музыкальными способностями и очень ярким темпераментом, в 3 года сыграл по слуху «Реквием» Моцарта. В шестилетнем возрасте поступил в ЦМШ, которую окончил с золотой медалью. В ЦМШ его педагогом была Татьяна Евгеньевна Кестнер (ученица А. Б. Гольденвейзера), а в консерватории его учителем стал Лев Наумов, также ученик Г. Г. Нейгауза, который в дальнейшем неоднократно в своих мемуарах и интервью отмечал большой талант и глубокую музыкальность Гаврилова.
В 1974 Андрей Гаврилов получил первое место на международном конкурсе им. Чайковского, тем самым обратив на себя внимание всего музыкального мира. Вскоре случай свёл Андрея Гаврилова с одним из величайших пианистов XX века — Святославом Рихтером, и они вместе исполнили и записали сюиты Генделя. Дебютировал в Лондоне в 1976 году с оркестром Борнемут под управлением Пааво Белглунда. В 1978 году он совершил первый тур с оркестром Берлинской филармонии, состоящий из 30 концертов в крупнейших городах мира.
В декабре 1979 во время подготовки к турне с Гербертом фон Караяном, он, по инициативе КГБ, был внезапно лишён возможности передвижения. Ему был закрыт выезд из страны — у него изъяли билет на гастроли и заграничный паспорт, а также отключен телефон. Инициатива, как указывает сам Гаврилов, исходила от главы советского государства Л. И. Брежнева. Гаврилов был подвержен принудительному психиатрическому лечению и домашнему аресту, находился под постоянным наблюдением КГБ. В милиции ему показали подготовленную государственную информацию о его смерти в результате несчастного случая.
В 1985 году Гаврилову удалось с помощью подруги, дочери высокопоставленного советского чиновника, бежать из СССР в Англию, где он получил политическое убежище и британское гражданство. Политическая реабилитация в СССР наступила для Гаврилова после прихода к власти М. С. Горбачёва. По согласованию между Маргарет Тэтчер и Горбачёвым, Гаврилову было сохранено советское гражданство и выдан «свободный заграничный паспорт» СССР. Гаврилов стал, по его словам, первым советским артистом, «свободно выехавшим за рубеж».
В 1994—2001 годах Гаврилов пережил внутренний душевный кризис, он прекратил публичные выступления, какое-то время жил в Фиджи. В 2001 переехал в Швейцарию и вновь начал концертировать.
В октябре 2003 г. выступал с концертами в Москве. В 2009 и 2010 гг. совершил большое турне по городам России и СНГ.
Гаврилова часто называют протеже Рихтера, однако старший пианист очень не любил, когда Гаврилова называли его учеником, и всегда запальчиво возражал — «это я у него учусь». Их связывала долгая, близкая и очень нелёгкая дружба, в которой проявились многие разночтения в отношении к жизни, искусству и людям. Это привело к болезненному разрыву дружбы этих музыкантов.
В репертуаре пианиста — сочинения Д. Скарлатти, Баха, Генделя, Моцарта, Гайдна, Бетховена, Шуберта, Паганини (в транскрипции Листа), Листа, Мендельсона, Шумана, Шопена, Брамса, Франка, Грига, Балакирева, Чайковского, Скрябина, Рахманинова, Прокофьева, Стравинского, Сен-Санса, Равеля, Берга, Хиндемита, Бриттена, Шостаковича, Шнитке.
В августе 2011 года была издана автобиографическая книга Андрея Гаврилова «Чайник, Фира и Андрей» (Tchainik, Fira and Andrey. — Washington: South Eastern Publishers, 2011. — 288 p. — ISBN 978-1-936531-01-1), охватывающая период жизни пианиста от окончания ЦМШ (1973) до окончательного отъезда из СССР в 1985 году.