Павел Алексеевич Ротмистров родился в деревне Сковорово ныне Селижаровского района Тверской области в многодетной крестьянской семье (имел 8 братьев и сестер). Русский. Окончил четырёхлетнюю сельскую школу. В 1916 году окончил высшее начальное училище. Работал на железной дороге в Пено, сплавщиком леса в верховьях Волги. В 1917 году приехал в Самару, где работал грузчиком.
В Советской Армии с апреля 1919 года (был зачислен в Самарский рабочий полк), участник Гражданской войны. Тогда же вступил в РКП(б). Участвовал в боях против войск адмирала А. В. Колчака, в ликвидации Мелекесского восстания, в советско-польской войне. Направлен для обучения на Самарские советские инженерные курсы. Воевал под Бугульмой в Самарском рабочем полку, затем в 42-м этапном батальоне 16-й армии Западного фронта. После Гражданской войны в 1921 году принимал участие в подавлении Кронштадтского восстания. Ротмистров в числе первых ворвался в крепость. В бою был ранен, но смог лично уничтожить пулеметную точку. В 1921 году за мужество, проявленное при штурме форта № 6 во время подавления Кронштадтского восстания, награждён орденом Красного Знамени.
Окончил 3-ю Смоленскую пехотную школу, служил в Рязани политруком в 149-м и в 51-м стрелковых полках. С 1924 года после окончания 1-й Военной объединённой школы им. ВЦИК командовал взводом, ротой. В марте-октябре 1928 года — командир батареи 11-го артиллерийского полка. Был заместителем командира батальона 34-го стрелкового полка в Ленинградском военном округе. В 1931 году окончил Военную академию имени М. В. Фрунзе. С 1931 года — служил начальником первой части штаба 36-й Забайкальской стрелковой дивизии (Чита). С марта 1936 года — начальник первого отделения штаба Отдельной Краснознамённой Дальневосточной армии. В июне 1937 г. Ротмистров назначен командиром 63-го Краснознаменного полка им. М. В. Фрунзе 21-й дважды Краснознаменной Приморской стрелковой дивизии им. С. С. Каменева.
В октябре 1937 года отозван с Дальнего Востока и назначен преподавателем тактики в Военной академии механизации и моторизации РККА им. И. В. Сталина. В 1939 году Ротмистров защитил кандидатскую диссертацию. В 1939 году по обвинению в связях с «врагами народа» был исключен из ВКП(б), но не стал дожидаться последующего ареста, а обжаловал решение партийного бюро академии. Через несколько месяцев решением Комиссии партийного контроля при ЦК ВКП(б) был восстановлен в партии, исключение из партии заменено на объявление строгого выговора. Через год П. А. Ротмистров защитил диссертацию по одной из проблем применения танков на войне и получил степень кандидата военных наук.
В начале 1940 года откомандировывался на фронт Советско-финской войны для получения боевого опыта применения танковых войск. Официально отправлен на фронт в должности командира резервной группы Северо-Западного фронта, но по личному желанию направлен в войска командиром танкового батальона в 35-й легкой танковой бригаде 7-й армии. Участвовал в боях при прорыве «линии Маннергейма» и под Выборгом. Вскоре становится начальником штаба этой бригады. За успешные боевые действия в советско-финской войне бригада была награждена орденом Красного Знамени, а подполковник Павел Алексеевич получил орден Красной Звезды.
В Великую Отечественную войну П. А. Ротмистров воевал на Западном, Северо-Западном, Калининском, Сталинградском, Воронежском, Степном, Юго-Западном, 2-м Украинском и 3-м Белорусском фронтах. Участник приграничного сражениях 1941 года.
3-й механизированный корпус дислоцировался в Литве, в районе городов Каунас и Алитус. На его вооружении стояли легкие танки со слабым вооружением. Уже на пятый день войны немцы окружили управление корпуса и штаб 2-й танковой дивизии которая входила в состав корпуса. Более двух месяцев Ротмистров с группой солдат и офицеров выходил из окружения по лесам Литвы, Белоруссии и Брянщины.
Из воспоминаний П. А. Ротмистрова:
В октябре 1941 года бригада в составе танкового полка и мотострелкового батальона за сутки совершила марш в 250 километров от Валдая до Думаново и 14 октября подошла к деревне Каликино под Калинином (ныне город Тверь). Сосредоточившись на Ленинградском шоссе на участке Медное — Калинин совместно с другими частями оперативной группы генерала Ватутина, бригада несколько дней вела бой с противником, занявшим Калинин и пытавшимся через Медное — Торжок выйти в тыл войскам Северо-Западного фронта.
16 октября противник нанес сильный удар из района железнодорожной станции Дорошиха на Николо-Малицу. Им удается быстро прорвать оборону 934-го стрелкового полка и к исходу дня выйти в район Медного. Ротмистрову было приказано выйти к Полустову (8 км северо-западнее Медного) и не допустить дальнейшего продвижения противника на Торжок. При выполнении этой задачи, после того как, часть танков и мотоциклов противника прорвались к Марьино и захватили переправу через р. Логовеж. Ротмистров решил отвести бригаду в район Лихославля.
Это был самый критический момент в Калининской оборонительной операции .
В боевом донесении на имя генерал-полковника И. С. Конева П. А. Ротмистров так обосновывал свое решение:
Генерал-полковник Конев в телеграмме на имя генерал-лейтенанта Ватутина потребовал:
Генерал-лейтенант Ватутин, оценив обстановку и положение остальных соединений оперативной группы, потребовал от Ротмистрова:
Затем в составе Калининского фронта бригада участвовала в зимнем контрнаступлении советских войск под Москвой, отличилась при освобождении города Клин. Потом вместе с войсками 30-й армии её вновь передали в состав Калининского фронта. С боями она дошла до Ржева. В январе 1942 года бригада за массовый героизм личного состава получила гвардейское знамя и стала именоваться 3-й гвардейской танковой бригадой, а ее командир полковник Ротмистров награжден орденом Ленина.
Армии было поручено нанести контрудар по наступающей на Воронеж танковой группировке противника. При выдвижении в район города Елец танковый корпус сразу атаковал 11-ю немецкую танковую дивизию и разгромил её. Но из-за неумелой и поспешной организации контрудар своей цели не достиг. Хорошо укомплектованные три танковых корпуса вводились в сражение с интервалом в два дня, что не позволило создать решительный перелом в боевой обстановке. В июле 1942 года Ротмистрову присвоено звание генерал-майора танковых войск.
С 25 августа 1942 года корпус воевал в составе 1-й гвардейской танковой армии на Сталинградском фронте. В сентябре корпус получил приказ совместно с 1-й гвардейской армией атаковать противника и прорваться к Сталинграду. Неподготовленный удар окончился катастрофой — за три дня боев из 180 танков в строю осталось 15. Остатки корпуса были выведены в резерв.
После того как Советская Армия окружила немецкие войска Паулюса в районе Сталинграда, 12 декабря 1942 года гитлеровское командование предприняло контрудар из Котельниковского района. В бой оно бросило танковые, пехотные и кавалерийские дивизии. Для разгрома этой группировки противника выдвигалась 2-я гвардейская армия. Ее усилили 7-м танковым корпусом. С 12-го по 30-е декабря 1942-го года корпус Ротмистрова принимал участие в разгроме Котельниковской группировки противника. Тяжелые и кровопролитные бои за овладение хорошо укрепленной железнодорожной станцией Котельниково и поселком Котельниковский длились двое суток. Корпус захватил имевший важное значение посёлок и станцию. На заключительном этапе операции, 28 декабря в 16.00, часть его сил — 87-я танковая и 7-я мотострелковые бригады сумели с ходу захватить находившийся в 1 км от поселка немецкий аэродром. Удар был столь стремителен, что противник не смог не только оказать серьёзное сопротивление, но и даже опомниться. На уже захваченный аэродром продолжали садиться немецкие самолёты, возвращавшиеся с заданий. За мужество и стойкость, проявленные личным составом корпуса в этих боях, 29-го декабря соединение было преобразовано в 3-й гвардейский танковый корпус и ему присвоено почетное наименование «Котельниковский».
В январе 1943 года корпус успешно участвовал совместно со 2-й гвардейской армией в разгроме группы войск генерал-фельдмаршала Э. Манштейна, пытавшейся деблокировать окружённую сталинградскую группировку противника, и освобождении города Ростов-на-Дону.
В ходе Курской битвы эта армия приняла участие в оборонительном сражении в полосе войск Воронежского фронта. 12 июля 1943 года армия под командованием Ротмистрова приняла участие в контрударе, известном в советской исторической науке как «крупнейшее танковое сражение под Прохоровкой». Фактически войска армии в полном составе безрезультатно атаковали позиции двух неполных немецких танковых дивизий, потеряв за день боя 53 % из своих 642-х танков и САУ. Только заступничество маршала А. М. Василевского спасло тогда Ротмистрова от гнева И. В. Сталина. В войска для расследования причин разгрома армии была спешно направлена комиссия во главе с Г. М. Маленковым. Спасло Ротмистрова только быстрое восстановление боеготовности армии и тот факт, что она была вновь брошена в бой до окончания работы комиссии, а в новых боях он сумел отличиться.
В сентябре 1943 года армия под командованием генерал-полковника Ротмистрова принимала участие в битве за Днепр, в Пятихатской, Знаменской операциях, освобождала города Пятихатки, Кривой Рог, Кировоград. В январе 1944 года армия участвовала в Кировоградской операции и Корсунь-Шевченковской операции, где 28 января в районе Звенигородка замкнула кольцо окружения вокруг вражеской группировки (10 дивизий и 1 бригада) и семь суток отбивала яростные атаки противника на внешнем кольце окружения, не допустив прорыва подкреплений к окруженным войскам. 17 февраля окруженная группировка немцев была полностью ликвидирована. За образцовое выполнение боевых заданий командования в феврале 1944 года Павлу Алексеевичу Ротмистрову присвоено воинское звание маршала бронетанковых войск. В марте 1944 года хорошо проявил себя также в Уманско-Ботошанской операции, за месяц боёв в условиях весенней распутицы пройдя с боями свыше 300 километров и форсировав с ходу реку Прут.
Затем армия была переброшена с 2-го Украинского на 3-й Белорусский фронт, где принимала участие в Белорусской наступательной операции. Наступление войск этого фронта началось 23 июня. Когда в полосе действия 5-й общевойсковой армии наметился успех, маршал бронетанковых войск Ротмистров немедленно ввел свои танки в прорыв для развития этого успеха на Богушевском направлении. На другой день армия вышла на Минскую автомагистраль, в 50 километрах западнее Орши. К исходу того же дня освобожден районный центр Толочин.
В ночь на 1 июля войска Ротмистрова во взаимодействии с 11-й гвардейской и 31-й армиями, преодолевая упорное сопротивление противника, ворвались в Борисов и к утру полностью освободили город от врага. На другой день, пройдя более 60 километров, передовые отряды армии завязали бои за северную и северо-восточную окраины Минска. После освобождения столицы Белоруссии танкисты Ротмистрова нанесли удар по группировке противника в районе литовской столицы Вильнюса. 13 июля вильнюсский гарнизон Вермахта был ликвидирован, и столица Литвы была взята. Успешно проявив себя при окружении противника в районе Минска, Ротмистров затем не смог прорваться с ходу (прорыв осуществлялся в течение двух дней) к Вильнюсу и, по требованию командующего фронтом И. Д. Черняховского, снят с должности командующего армией.
После Великой Отечественной войны Ротмистров был командующим бронетанковыми и механизированными войсками в Группе советских войск в Германии, а затем в такой же должности на Дальнем Востоке. С 1948 года — заместитель начальника кафедры Высшей военной академии имени К. Е. Ворошилова.
В 1953 году Ротмистров и сам окончил Высшую военную академию имени К. Е. Ворошилова, после чего стал в ней же начальником кафедры, вёл военно-педагогическую и военно-научную работу. Доктор военных наук (1956), профессор (1958). В 1958 — 1964 годах был начальником Военной Академии бронетанковых войск. В целях совершенствования учебного процесса активно поддерживал связь с войсками, для улучшения военно-научной работы часто организовывал творческие конференции, участвовал в разработке трудов по использованию танковых войск в бою, операции и войне в целом, а также перспективам их развития.
За заслуги перед Вооруженными Силами в деле разработки военной теории, воспитания и подготовки офицерских кадров, в 1962 году П. А. Ротмистрову присвоено воинское звание Главного маршала бронетанковых войск.
7 мая 1965 года Павлу Алексеевичу Ротмистрову было присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 10688) за умелое руководство войсками, личное мужество и отвагу, проявленные в боях с немецкими захватчиками.
С 1964 года Ротмистров был помощником Министра обороны СССР по высшим военно-учебным заведениям, с 1968 — в Группе генеральных инспекторов Министерства обороны СССР.
Павел Алексеевич поддерживал постоянную связь с земляками: приезжал в родные места, вел переписку с трудящимися, молодежью Верхневолжья. Он почетный гражданин города Калинина и поселка Селижарово.
Скончался маршал Ротмистров в Москве 6 апреля 1982 года.
С 1944 по 1982 год жил в центре Москве, в доме 8 на улице Горького. На доме установлена мемориальная доска.