Родился в семье парикмахера в Александровске (ныне Запорожье). Обучался игре на скрипке и фортепиано (с 7 лет), а с 12 лет поступил на фортепианное отделение музыкального техникума в Нижнем Новгороде. В тринадцать лет (1919) он получил первую премию за исполнение Одиннадцатой Рапсодии Ференца Листа.
В 1923 году переезжает в Москву, где становится заведующим музыкальным отделом Московской драматической студии имени А. С. Грибоедова.
В 1925?30 годах продолжил обучение в Московской консерватории (фортепианное отделение, класс профессора Ф. М. Блуменфельда), которую закончил с золотой медалью.
В 1945 году впервые в СССР в Большом Зале московской Консерватории прозвучала Rhapsody in Blue Джорджа Гершвина (солист — Цфасман)
В 1966 году стал одним из учредителей и членом Международной джазовой федерации при ЮНЕСКО (в одной делегации с Уиллисом Коновером (Willis Conover) и Алексеем Баташевым).
Скончался в Москве. Похоронен на Ваганьковском кладбище.
Первые пьесы пишет в 1924 году: «Эксцентрический танец», «Грустное настроение» и другие.
Дирижёр основанного им первого московского джазового оркестра «АМА-джаз» (1926?30). Через год этот оркестр впервые исполнил джазовую музыку на радио и первым записал её на грампластинку («Аллилуйя»).
Оркестр выступал в Саду «Эрмитаж», в ресторане «Казино» на Триумфальной площади, в фойе кинотеатров «Малая Дмитровка» (ныне Театр «Ленком»), «Первый Госкино» (ныне «Художественный»), «Динамо» (располагался под трибунами стадиона). Именно оркестр под управлением Цфасмана первым исполнил джазовую музыку по советскому радио в 1927 году. Осуществляются первые записи на грампластинки
В начале 1930-х годов Цфасман работал некоторое время тапёром в кино, затем — концертмейстером в балетной школе ГАБТа.
Тридцать лет в репертуаре выдающегося танцовщика Асафа Мессерера была специально для него написанная Цфасманом и поставленная Игорем Моисеевым хореографический номер «Футболист».
В 1932 году Цфасман организовал ансамбль «Московские ребята», известный как «джаз-оркестр Александра Цфасмана». Ансамбль выступал в ресторане «Савой», гастролировал по стране, в 1936 году принял участие в московских «Вечерах джаза».
Одновременно Александр Цфасман выступает в 1930-е годы и как пианист с сольными программами. Пианистический талант Цфасмана вызывал восхищение выдающихся музыкантов: А. Б. Гольденвейзера, К. Н. Игумнова, Г. Г. Нейгауза, Д. Д. Шостаковича
С 1939 по 1946 являлся художественным руководителем джаз-оркестра Всесоюзного радио.
В разное время с оркестром выступали известные певцы — Иван Козловский, Сергей Лемешев, Надежда Казанцева, Клавдия Шульженко, Марк Бернес, Владимир Бунчиков, Павел и Михаил Михайловы, Ефрем Флакс, Ружена Сикора. Здесь начинали и работали известнейшие музыканты: Михаил Фрумкин, Эмиль Гейгнер, Александр Ривчун, Валентин Берлинский, Игорь Гладков. Звезда известнейшего артистичного советского ударника Лаци Олаха взошла и сияла именно в оркестре Цфасмана.
В годы Великой Отечественной войны джаз-оркестр ВРК выступал с концертами на фронтах, а Александр Цфасман написал ряд песен на военные темы («Весёлый танкист», «Молодые моряки»). Цфасман был одним из первопроходцев стиля свинг в Советском Союзе.
С 1944 года (после открытия Второго фронта) в репертуаре оркестра звучало все больше произведений западных авторов («Лирический фокстрот» Д.Керна и др.), появились «фирменные» аранжировки в манере американских биг-бэндов, а в год Победы оркестр исполнил впервые в Москве «Рапсодию в блюзовых тонах» Дж. Гершвина (в Колонном зале Дома Союзов и Большом зале консерватории).
С 1946 год по 1952 — музыкальный руководитель театра «Эрмитаж». Одновременно пишет музыку к кинофильмам и театральным постановкам.
В декабре 1956 года в Колонном зале Дома Союзов состоялся юбилейный концерт (50-летие и 40-летие творческой деятельности) Александра Цфасмана.
В декабре 2002 года, в день рождения Маэстро, на афише Большого зала Московской Консерватории вновь было написано имя Цфасмана и впервые звучала его музыка в исполнении Саратовского джаз-оркестра «Ретро» (в рамках персонального абонемента Алексея Баташева)
14 декабря 2006 100-летие Цфасмана было отмечено в Колонном Зале Дома Союзов. К этой дате Саратовский джаз-оркестр Ретро восстановил более 30 подлинных партитур оркестра Цфасмана
Написал музыку к кинофильмам: