Учился в Лейпциге у Фридриха Грюцмахера, юношей играл в камерном ансамбле вместе с Йозефом Иоахимом, в 17 лет исполнял сольную партию в «Дон Кихоте» Рихарда Штрауса под управлением автора. 20-летним переселился в Париж, где познакомился с Пабло Казальсом, на долгие десятилетия став его ближайшим сподвижником.
Казальс и Алексанян независимо друг от друга пришли, как выяснилось, к весьма своеобразным аппликатурам и, в связи с этим, к неожиданным фразировкам. Свои взгляды на исполнительскую технику и музыкальную эстетику они решили отстаивать вместе. В 1921—1937 гг. Алексанян ассистирует Казальсу в его парижской преподавательской деятельности, положив в основу работы свой учебник «Теория и практика игры на виолончели» (фр. Trait? Th?orique et Pratique du Violoncelle; 1922); среди его учеников были Пьер Фурнье, Эмануэль Фейерман, Льерко Шпиллер, Герберт де Кастро. В 1929 г. вышло знаменитое издание сюит Баха под редакцией Алексаняна. Вместе с тем Алексанян продолжает концертировать — в частности, яркой страницей парижской музыкальной жизни стало в 1936 г. совместное выступление Алексаняна и Джордже Энеску в концерте Брамса для скрипки и виолончели с оркестром; одновременно Алексанян исполнил перед парижанами вторую виолончельную сонату Энеску.
С 1937 г. Алексанян жил в США и преподавал в консерватории Пибоди и Манхэттенской школе музыки; среди его учеников был, в частности, Дэвид Сойер.