В 1862 году начал учиться игре на гитаре у Хулиана Аркаса и параллельно, по настоянию отца — на фортепиано. Достигнув некоторых успехов, Таррега смог приобрести в 1869 году гитару работы мастера Антонио Торреса, а в 1874 — поступить в Мадридскую консерваторию в классы фортепиано и композиции (гитара в консерватории не преподавалась). В 1880 году окончил консерваторию и начал карьеру концертирующего гитариста, начало которой положил его сольный концерт в мадридском театре «Альгамбра», прошедший с огромным успехом. После концертов Тарреги в Лондоне, Париже, Лионе, где проходили юбилейные торжества памяти Педро Кальдерона, музыкальные критики назвали его «Сарасате гитары».
После женитьбы в 1882 году Таррега поселяется в Барселоне, где занимается педагогической, концертной и композиторской деятельностью. В его репертуаре были как собственные оригинальные сочинения, так и переложения музыки Мендельсона, Готтшалька, Тальберга и других композиторов. В Барселоне сформировались творческие союзы Тарреги с Энрике Гранадосом и Исааком Альбенисом, многие их сочинения он переложил для гитары впервые. На рубеже XIX—XX веков гитарист давал многочисленные концерты в Испании, но в 1906 году после инсульта у него наступил паралич правой половины тела, и несмотря на то, что он вернулся к концертной деятельности, полностью выздороветь ему так и не удалось. Таррега умер в 1909 году в Барселоне, похоронен в городе Кастельон-де-ла-Плана
Таррега — один из крупнейших гитаристов и гитарных композиторов конца XIX — начала XX века. Ему принадлежат 78 оригинальных произведений и около 120 переложений для гитары, наиболее известны «Воспоминание об Альгамбре», «Мавританский танец», «Арабское каприччио», «Вариации на тему Арагонской хоты», мазурки, прелюдии, этюды и др. Среди его учеников и последователей — Мигель Льобет, Эмилио Пухоль, Даниэль Фортеа и другие известные гитаристы. Высоко ценил мастерство Тарреги Андрес Сеговия, часто исполнявший его сочинения и использовавший в своей работе его педагогические методы.
Именно из его произведения Gran Vals фирма Nokia взяла свою «фирменную» мелодию для звонка сотового телефона.