Павел Иванович Мищенко родился 22 января 1853 года в русской крепости под названием Темир-Хан-Шура в Дагестане. Учился в 1-й Московской военной гимназии, окончил (в 1871 году) 1-е военное Павловское училище, Офицерскую артиллерийскую школу.
После окончания училища начал службу в 38-й артиллерийской бригаде прапорщиком. В 1873 году участвовал в Хивинском походе.
П. И. Мищенко участвовал в русско-турецкой войне 1877—1878 годов и Ахал-Текинской экспедиции 1880—1881 годов.
С 1899 года П. И. Мищенко продолжил службу на Дальнем востоке, занимая должность помощника начальника охранной стражи Восточно-Китайской железной дороги. В 1900—1901 он участвовал в боевых действиях во время «Китайского похода» (подавление «боксерского восстания»), зарекомендовав себя как опытный и смелый командир. После этого он был произведён в генерал-майоры (2 июня 1901). 22 декабря 1900 г. был награждён орденом св. Георгия 4-й степени
С 1903 года П. И. Мищенко занимал должность командира отдельной Забайкальской казачьей бригады. Во время русско-японской войны в мае и июне 1904 года отдельная Забайкальская казачья бригада, которой он командовал, сдерживала наступление японцев на Гайджоу и Сахотан, во время Ляоянского сражения прикрывала правый фланг русских войск во время отхода к Мукдену. 22 октября 1904 года Мищенко произведён в генерал-лейтенанты. Во время одного из боёв в декабре 1904 года он получил пулевое ранение в ногу (коленную чашечку). В сражении при Сандепу командовал конным отрядом. Под его командованием в январе 1905 года был совершен, так называемый, Набег на Инкоу - рейд конницы в глубокий тыл противника. С 17 февраля по 30 августа 1905 года он являлся начальником Урало-Забайкальской сводной казачьей дивизии.
С 9 ноября 1905 года по 5 мая 1906 года — командир сводного кавалерийского корпуса.
С 21 сентября 1906 года по 2 мая 1908 года — командир 2-го Кавказского армейского корпуса.
Со 2 мая 1908 года по 17 марта 1909 года Павел Иванович Мищенко исполнял должность Туркестанского генерал-губернатора и командовал войсками Туркестанского военного округа. В этот период он также являлся наказным войсковым атаманом Семиреченского казачьего войска.
22 сентября (по старому стилю) 1908 года во время маневров в горной местности в верховьях горной речки Геоми-су близ Ашхабада рядовой Василий Харин произвел несколько выстрелов боевыми патронами в наблюдавшего за ходом учений в составе группы офицеров командующего войсками ТуркВО П. И. Мищенко. В результате Мищенко получил ранения в ногу, и также был ранен состоявший в свите командующего его ординарец — хорунжий 1-го Кавказского казачьего полка Забей-Ворота.
С 1910 П. И. Мищенко становится генералом от артиллерии, а в период с февраля 1911 по сентябрь 1912 года исполняет обязанности войскового наказного атамана Войска Донского.
Во время Первой мировой войны командовал сначала частями 2-го Кавказского армейского корпуса (Кавказская гренадерская и 51-я пех. дивизии) и затем с марта 1915 года 31-м армейским корпусом на Юго-Западном фронте.
Согласно Залесскому, после Февральской революции в связи с процессами «демократизации» армии, выразившееся, например, в образовании советов солдатских депутатов в войсковых частях, и процессами очищения высшего командного состава русской армии от «монархических элементов» П. И. Мищенко был отстранен от поста командира корпуса и уволен от службы по болезни с мундиром и пенсией. В 1917 уехал на родину в Дагестан. После своей отставки он постоянно носил знаки различия. Когда в 1918 году во время обыска в его доме в Темир-Хан-Шуре представителями новой власти были отобраны его погоны и боевые награды, Павел Иванович Мищенко застрелился.
Во время Русско-японской войны российское командование разработало план войсковой операции с целью сорвать наступление противника. Для этого в японский тыл был направлен сборный кавалерийский отряд генерала Мищенко в надежде перерезать железнодорожное сообщение японцев на участке Ляохэ — Порт-Артур и помешать переброске их войск. Эта операция вошла в истрию под названием "Набег на Инкоу".
Отряд генерал-адъютанта П.И. Мищенко был сформирован из состава кавалерии всех трех армий и насчитывал около 75 сотен и эскадронов с 22 конными орудиями и 4 пулеметами. В состав отряда вошли Урало-Забайкальская казачья дивизия, Кавказская конная бригада (перед этим одна сотня ее Терско-Кубанского казачьего полка была расформирована из-за беспорядков), 4-я Донская казачья дивизия, Приморский драгунский полк, несколько конно-охотничьих команд сибирских стрелков, сборная сотня дивизиона разведчиков главнокомандующего, четыре полусотни конной пограничной стражи, конно-саперная команда. Артиллерия отряда состояла из двух забайкальских казачьих батарей, одной конной батареи и поршневой пешей полубатареи. Всего отряд насчитывал 7-мь с небольшим тысяч человек. Главной целью рейда было разрушение железной дороги, в том числе и железнодорожных мостов, на участке Ляоян – Ташичао – Дальний и тем самым затруднить переброску осадной 3-й японской армии из под Порт-Артура. Вступая по пути в частые перестрелки и непродолжительные стычки с японцами и хунхузами, 30 декабря 1904 года отряд генерала П.И. Мищенко беспрепятственно подошел к городу-порту Инкоу. По сведения лазутчиков, там «было сосредоточено запасов на 2, а то и на 20 млн. рублей». Для атаки, назначенной на вечер, выделялось 15 эскадронов и сотен, остальные находились в резерве. «Штурмовой колонне было послано приказание взорвать все что можно и уходить». Перед атакой русская конная артиллерия обстреляла Инкоу и подожгла многочисленные армейские склады, которые горели несколько суток. Однако пламя пожара осветило местность, и японцы повели по атакующей русской коннице прицельный огонь и отбили атаку. На помощь были выдвинуты эскадроны Нежинских драгун. Однако слабый, сборный отряд конницы, части которого не учились и не практиковались в наступлении спешенным боевым порядком, бросился в лоб на укрепившуюся и приготовившуюся к встрече пехоту и был отбит с большим уроном. Мищенко хотел повторить атаку в конном строю большими силами, но ему сообщили с линии дозоров, что на выручку гарнизона Инкоу спешит из близкого Ташичао большой японский отряд. Русской коннице пришлось отступить от горящего во многих местах города Инкоу и начать отход в расположение Маньчжурской армии. Маршал Ояма, обеспокоенный такой глубокой диверсией противника, начав маневрировать тыловыми войсками, пытался перехватить конный отряд генерала П.И. Мищенко. Во время отступления в деревне Синюпученза дивизия была окружена японскими войсками. В последнем сражении отличились 24-й и 26-й донские полки, заставившие противника отступить. 16 января конница вместе с остальными частями отряда вернулись в расположение русских войск.
Результаты набега русской конницы оказались скромными. За 8 дней отряд проделал путь в 270 километров. Во время рейда было разгромлено несколько японских воинских команд, уничтожено до 600 обозных арб с воинскими припасами, подожжены склады в портовом городе Инкоу, в ряде мест нарушена телефонная и телеграфная связь противника, пущено под откос два поезда, взято 19 пленных. За время набеговой операции отряд в боях потерял убитыми и ранеными 408 человек и 158 лошадей. Главную цель рейда конный отряд не выполнил: разрушенное во многих местах железнодорожное полотно японские ремонтные бригады восстановили всего за 6 часов. Армия генерал-полковника Ноги, которая после овладения Порт-Артуром находилась в приподнятом боевом настроении, была беспрепятственно перевезена по железной дороге из Квантуна на поля Маньчжурии.
Соратники Павла Ивановича считали этот рейд единственной неудачной операцией проведенной под его командованием. Однако не смотря на то, что Инкоу взять не удалось, Мищенко сумел избежать окружения и уберег сводный отряд от полного уничтожения.
Известный российский генерал Деникин характеризовал Мищенко следующим образом: