Отец, Рагулин Павел Николаевич (1907—1991), — архитектор. Мать, Рагулина Софья Викторовна (1904—1990), — архитектор, дочь Глушкова Виктора Григорьевича (1883—1937), гидролога, члена-корреспондента Академии наук СССР, академика ВАСХНИЛ, участника подготовки плана ГОЭЛРО.
Братья — Рагулин Анатолий Павлович (1941 г.р.), — инструктор по спорту, вел занятия в отряде космонавтов, мастер спорта международного класса, заслуженный тренер СССР . Рагулин Михаил Павлович (1941 г.р.) — тренер по флорболу, мастер спорта.
Супруга — Рагулина Ольга Юрьевна (1949 г.р.), работает в Ассоциации ветеранов хоккея России. Сын, Рагулин Антон Александрович (1969 г.р.), — предприниматель. Внучки — Рагулина Виктория Антоновна (1997 г.р.) и Рагулина Екатерина Антоновна (2000 г.р.).
Игрок воскресенского «Химика» (1957-62) и московского ЦСКА (1962-73).
Трёхкратный олимпийский чемпион (1964, 1968, 1972), 10-кратный чемпион мира (1963-71, 1973), 9-кратный чемпион Европы (1963-70, 1973) и СССР (1963-66, 1968, 1970-73), лучший защитник чемпионата мира 1966, участник легендарной суперсерии СССР — Канада 1972 года.
Второй призер ЧМ 1972, третий призер ЧМ 1961. Серебряный призер чемпионатов СССР 1967, 1969.
В чемпионатах СССР Рагулин сыграл 427 матчей и забросил 63 шайбы. На чемпионатах мира, Европы и Олимпийских играх в составе сборной СССР провёл 102 матча, забросил 14 шайб.
Окончил Московский областной педагогический институт (1966), преподаватель.
По завершении карьеры стал тренером в детско-юношеской школе ЦСКА, позже работал тренером в новосибирском СКА. Последние годы участвовал в работе с ветеранами отечественного хоккея — президент региональной спортивной общественной организации «Ветераны хоккея». Работал в составе Совета при Президенте РФ по физической культуре и спорту.
Награжден орденом Трудового Красного Знамени, двумя орденами «Знак Почета», орденом Почета, орденом «За заслуги перед Отечеством» 3 степени, также награжден медалями.
Награжден Олимпийским орденом (2001). Лауреат Национальной спортивной премии «Слава» 2003 в номинации «Легенда».
В 1997 году в числе первых был введен в Зал славы ИИХФ. В 2004 году избран в Зал славы отечественного хоккея.
Скончался в ночь на 18 ноября 2004 в госпитале им. Бурденко. Похоронен в Москве на Ваганьковском кладбище.