Родился 25 мая 1798 года в Ревеле (ныне Таллин) в семье известного русского музыкального деятеля Фёдора Петровича Львова. Двоюродный племянник Николая Александровича Львова. Получил в семье хорошее музыкальное воспитание. В семилетнем возрасте играл на скрипке в домашних концертах, обучался у многих педагогов, в том числе у Ф. Бёма, уроки композиции брал у И. Г. Миллера.
В 1818 году окончил институт путей сообщения, работал в аракчеевских военных поселениях инженером-путейцем, не оставляя занятий на скрипке.
С 1826 года — флигель-адъютант. В 1833 году получил известность как автор музыки нового русского национального гимна.
1835 — в доме Львова проходят еженедельные квартетные собрания, возглавляемый им струнный квартет получил широкую известность. Славились и симфонические концерты, устраивавшиеся Львовым, ставшие основой созданного им «Концертного общества» (1850).
В 1837—1861 годах Львов был директором Придворной певческой капеллы. В этот период повысился художественный уровень исполнения хора Капеллы (в 1837—1839 годах её капельмейстером был Глинка), при ней были учреждены в 1839 году инструментальные классы, издан употребляемый православной церковью полный круг песнопений (знаменного распева) в 4-голосной гармонизации (выполненной впервые под руководством Львова); в связи с этой работой Львов написал трактат «О свободном или несимметричном ритме».
Умер А. Ф. Львов 16 декабря 1870 года в имении Романь близ Ковны. Похоронен в Пажайслисском монастыре под Каунасом.
Львов — крупный представитель русского скрипичного искусства 1-й половины XIX в. Не имея возможности (из-за своего служебного положения) выступать в публичных концертах, он, музицируя в кружках, салонах, на благотворительных вечерах, прославился как замечательный виртуоз. Лишь во время путешествий за границей Львов выступал перед широкой аудиторией. Здесь у него завязались дружеские отношения с Ф. Мендельсоном, Дж. Мейербером, Г. Спонтини, Р. Шуманом, высоко ценившим исполнительское мастерство Львова — солиста и ансамблиста. Последователь классической школы, Львов изложил основные начала скрипичной игры в брошюре, к которым приложил собственные «24 каприса», не утерявших до сих пор художественно-педагогического значения.