Сын эстляндского дворянина немецкого происхождения Карла Густава Ренненкампфа (1813—1871) из рода Ренненкампфов.
Окончил Гельсингфорское пехотное юнкерское училище в 1871 году. Начал службу в 5-м уланском Литовском полку. В 1881 году окончил Николаевскую Академию Генерального Штаба по первому разряду. С 24 ноября 1882 по 25 августа 1884 года — обер-офицер для поручений при штабе 14-го армейского корпуса. С 25 сентября 1886 года состоял в распоряжении начальника штаба Варшавского военного округа, со 2 ноября 1886 года состоял для поручений при штабе Казанского военного округа, с 13 марта 1888 года — старший адъютант войскового штаба войска Донского. С 31 октября 1889 года — штаб-офицер для особых поручений при штабе 2-го армейского корпуса, с 26 марта 1890 года — начальник штаба Осовецкой крепости. Полковник (1890 год). В апреле — октябре 1892 года состоял при 41-м драгунском Ямбургском полку. С 26 марта 1891 года начальник штаба 14-й кавалерийской дивизии. С 12 декабря 1895 года командир 36-го драгунского Ахтырского полка. С 25 ноября 1899 года начальник штаба войск Забайкальской области.
В чине генерал-майора участвовал в подавлении боксерского восстания в Китае в 1900—1901 годах, за боевые отличия награждён орденом Св. Георгия 4-й и 3-й степеней.
15 сентября, оставив в Гирине одну сотню для охраны монетного двора и арсенала, генерал Ренненкампф прибыл в Дагушан. После трехдневного отдыха Ренненкампф с 1-й нерчинской и 4-й амурской сотнями при одном орудии 2-й Забайкальской казачьей батареи выступил из Дагушана для занятия городов Телина и Мукдена. 23 сентября отряд Ренненкампфа вошёл в Телин, где простоял до 10 октября, действуя против мелких групп повстанцев. В одной из стычек при занятии усадьбы Сунджатуна на генерала Ренненкампфа бросились три китайца с копьями. Генерала спас казак 6-й сотни Фёдор Антипьев, приняв удары на себя. За спасение командира амурец был награждён военным орденом 3-й степени.
Рейд конного отряда генерала Ренненкампфа стал одной из наиболее удачных и ярких военных операций русско-китайской войны. За три недели непрерывного движения отрядом были разбиты наиболее подготовленные войска Хэйлунцзянской провинции и рассеяны отряды повстанцев, что привело к прекращению организованного сопротивления противника.
В русско-японскую войну командовал Забайкальской казачьей дивизией (01.02.1904-21.08.1904). Подвергался критике за действия в северо-восточной части Кореи.
За боевые отличия произведён в Генерал-лейтенанты (30.06.1904).
Начальник Забайкальской казачьей дивизии (21.08.1904-31.08.1905).
Под Ляояном был тяжело ранен в ногу. В ходе Мукденского сражения возглавлял Цинхеченский отряд, на левом фланге Манчжурской армии (с 13.02.1905), командуя которым проявил большое упорство, что в совокупности с направленными подкреплениями позволило остановить наступление армии генерала Кавамуры.
Некоторые историки пишут о том, что после битвы при Мукдене произошёл личный конфликт между Ренненкампфом и генералом Самсоновым, причём дело дошло до обмена ударами, другие историки утверждают, что никаких столкновений между генералами произойти не могло.
Командир 7-го Сибирского армейского корпуса (09.11.1905-09.06.1906).
Командир 3-го Сибирского армейского корпуса (09.06.-27.12.1906).
Командир 3-го армейского корпуса (27.12.1906-20.01.1913).
В 1906 году командовал особым отрядом, с которым, следуя на поезде из Харбина (Маньчжурия), восстановил сообщение Маньчжурской армии с Западной Сибирью, прерванное революционным движением в Восточной Сибири («Читинская республика»), подавив революционные выступления в полосе железной дороги.
30 октября 1906 года на генерала Ренненкампфа было совершено покушение. Он шёл по улице вместе с адъютантом штабс-капитаном Бергом и ординарцем поручиком Гайзлером, в это время эсер Н. В. Коршун, сидевший на лавке, бросил им под ноги «разрывной снаряд», но устройство сработало наполовину: генерал, адъютант и ординарец были лишь оглушены взрывом.
Решительные действия Ренненкампфа по подавлению революционного движения восстановили его репутацию в правительстве и он, будучи с 6 декабря 1910 года генералом от кавалерии и с 1912 года генерал-адъютантом, получил назначение командующим войсками Виленского военного округа (20 января 1913 — 19 июля 1914).
В начальный период Первой мировой войны Ренненкампф получил командование 1-й армией Северо-Западного фронта во время Восточно-Прусской операции. 17 августа его войска перешли границу Восточной Пруссии, а уже через три дня нанесли тяжёлое поражение 8-й германской армии генерала М. фон Притвица в битве при Гумбиннене. Однако из-за неверной оценки действий противника командующим операцией генерала Жилинского и неумелым руководством 2-й армией её командующего, генерала Самсонова, победа под Гумбинненом не получила своего развития. После битвы при Гумбиннене Ренненкампф повел медленное наступление своей армии на Кёнигсберг, а не на соединение со 2-й армией. Это позволило немецким войскам выйти из-под удара и послужило одной из главных причин последующего поражения 2-й армии в битве при Танненберге (конец августа). В сентябре 1-я армия была отброшена немецкими войсками из Восточной Пруссии.
Во время Лодзинской операции из-за ошибок и нерешительности ком. Северо-Западным фронтом генерала Рузского войскам 1-й армии Ренненкампфа не удалось остановить прорывающуюся из окружения немецкую ударную группу Шеффера. Что вызвало конфликт между Ренненкампфом и Рузским. Был отстранен от командования армией. Уволен в отставку 6 октября 1915 года.
Проведенное расследование выявило преступные действия Ренненкампфа в начале Первой мировой войны, казнокрадство и служебные злоупотребления, однако благодаря поддержке со стороны императора и его окружения он не был отдан под суд (его «твёрдость» в ходе подавлений чрезвычайно импонировала Николаю II).
После Февральской революции был арестован и помещен в Петропавловскую крепость. Революционеры припомнили ему 1905 год. Находился под следствием Чрезвычайной следственной комиссии.
Освобожден после Октябрьской революции и уехал в Таганрог. При захвате города большевиками скрылся под именем греческого подданного Мандусакиса. Был раскрыт и получил предложение поступить на службу в Красную Армию. Ренненкампф отказался, был арестован, приговорен революционным трибуналом к расстрелу и по личному указанию В. А. Антонова-Овсеенко казнён в ночь на 1 апреля 1918 года — вывезен за город и расстрелян у Балтийской железнодорожной ветки (в 2 км от Русско-Балтийского завода, эвакуированного из Ревеля в Таганрог в 1916 году). Перед смертью подвергнут издевательствам и пыткам (в том числе ему выкололи глаза) .
Похоронен на старом кладбище Таганрога.
Коллекция предметов китайского искусства, созданная Ренненкампфом во время подавления Боксерского восстания, в настоящее время находится в краеведческом музее (англ. ) Таганрога.