Осетин, родился в селении Ольгинском Правобережного района (Северная Осетия) в крестьянской семье.
Образование среднее.
В Красной Армии с 1918 года. Участник Гражданской войны. Член РКП(б) с 1924 года. В 1924 году окончил военно-политическую школу, в 1932 году — Курсы усовершенствования политического состава, в 1941 году — Курсы усовершенствования командного состава (КУКС) при Военной академии имени М. В. Фрунзе.
Под псевдонимом «полковник Ксанти» участвовал в Гражданской войне 1936—1939 гг. в Испании. Военный советник штаба республиканской армии, советник Б. Дурутти и руководитель отрядов «герильеросов» (диверсантов, «14 корпус»). Затем участвовал в советско-финляндской войне 1939—1940 годов.
С 1941 года — на фронтах Великой Отечественной войны, Мамсуров был тем человеком, кто летом 41-го по приказу Сталина арестовал командующего Западным фронтом генерала армии Д.Г. Павлова. Командовал 2-й гвардейской кавалерийской дивизией (1-й гвардейский кавалерийский корпус, Первый Украинский фронт). Отличился в ходе Берлинской операции. С вводом в бой в середине апреля 1945 года на Дрезденском направлении дивизия умелыми действиями в тылу противника нанесла ему большой урон и освободила два гитлеровских концентрационных лагеря (около 16 тысяч человек). 20 мая 1945 года было присвоено звание Героя Советского Союза.
Военным Советом 1-го Украинского фронта он был назначен командиром батальона сводного полка фронта, с которым 24 июня 1945 года участвовал на параде Победы.
После войны продолжал службу в армии. В 1948 году окончил Военную академию Генштаба.
Командир 3-й отд. гвардейской Евпаторийской стрелковой бригады в Брянске (октябрь 1946 — март 1947), 27-й механизированной дивизии 38-й армии (1948—1951), 27-го стрелкового корпуса 13-й армии (1951—1955), командующий 38-й армией Прикарпатского ВО (июнь 1955 — июль 1957). Генерал-лейтенант (1953).
В 1956 г. лично участвовал в подавлении восстания в Венгрии и расстрелах повстанцев, по возвращении тяжело заболел. С октября 1957 по 1968 — Начальник Центра особого назначения, первый заместитель начальника ГРУ Генштаба Вооружённых Сил.
В 1957 г. донёс в ЦК КПСС об отданном министром обороны Жуковым втайне от партийных властей приказе создать неподалёку от Москвы часть специального назначения, что привело к отставке Жукова.
Похоронен в Москве на Новодевичьем кладбище.