Член ВКП(б) с апреля 1928 года, член ЦК КПСС (1961—76), член Политбюро (Президиума) ЦК КПСС (1964—73, кандидат в 1963—64). Депутат Верховного Совета СССР (1958—74), член Президиума Верховного Совета СССР (1966—72).
Родился в семье крестьянина-бедняка, полного Георгиевского кавалера войны с турками Ефима Дмитриевича.
Окончил земскую четырёхлетнюю школу (1913—1917). Батрачил, работал почтальоном, с 1922 года рабочим на железной дороге. Полностью облысел после перенесённой малярии. В октябре 1923 года вступил в комсомол. С 1926 года на комсомольской работе. В 1927—28 годах учился в Изюмской окружной одногодичной совпартийной школе. В 1928 году секретарь Боровского районного комитета комсомола Харьковского округа. В 1929 году месяц на учёбе во Владикавказской горно-пулемётной школе, после направлен в Харьков на учёбу в трёхгодичную партийную школу имени Артёма. С 1930 года на учёбе сначала на рабочем, потом на металлургическом факультетах Харьковского института народного хозяйства (в том же году Харьковский инженерно-экономический институт), не окончил. В 1932 году без отрыва от учёбы работал редактором радиогазеты «Комсомолец Украины».
В 1932—1935 годах работал на Мариупольском металлургическом комбинате им. Ильича и одновременно учился на вечернем отделении факультета по горячей обработке металлов Мариупольского металлургического института (инженер-механик). В 1935—1936 годах работал в Харькове в Главморсудснабе.
В 1936—1937 годах служба в рядах Красной Армии курсантом 30-го отдельного учебного танкового батальона в Днепропетровске, по сроку выпуска аттестован старшим лейтенантом.
В 1937—1940 годах работал на Харьковском заводе «Серп и молот», с 1939 года главным инженером. В 1940 году главный технолог харьковского завода № 75.
С 1940 года на партийной работе: секретарь Харьковского горкома партии по оборонной промышленности в 1940—41 годах. С декабря 1941 года заведующий отделом оборонной промышленности Челябинского обкома партии. В 1942—43 годах инструктор Отдела оборонной промышленности Управления кадров ЦК ВКП(б). С августа 1943 года парторг ЦК ВКП(б) Саратовского завода № 306. С августа 1945 года заместитель по авиационной промышленности секретаря Саратовского обкома партии. С августа 1946 года парторг ЦК ВКП(б) Саратовского завода № 292. Некоторое время заочно учился в Высшей партийной школе при ЦК ВКП(б).
В 1948—1950 годах директор Ленинградского авиационного завода № 272.
В 1950—1954 годах директор Киевского завода № 473. В 1953 году одновременно некоторое время первый заместитель председателя Киевского горсовета.
В 1954 году второй секретарь Киевского горкома Компартии Украины. В 1954—1957 годах второй секретарь Киевского обкома КП Украины. После XX съезда КПСС в апреле-декабре 1956 года возглавлял Комиссию Верховного Совета СССР по реабилитации незаконно репрессированных граждан на территории Киевской и Винницкой областей.
С февраля 1957 года по 1962 год первый секретарь Киевского обкома партии. В августе 1962 года был избран секретарём ЦК КПУ по промышленности (выдвинут Н. С. Хрущёвым и Н. В. Подгорным), а в декабре 1962 г. — Председателем Бюро ЦК КПУ по промышленности и строительству.
2 июля 1963 года по прямому предложению Н. С. Хрущёва был избран первым секретарём ЦК КПУ. Под влиянием Н. В. Подгорного и Л. И. Брежнева активно участвовал в смещении Н. С. Хрущёва, на расширенном Президиуме ЦК КПСС в 1964 году первым выступил с критикой Н. С. Хрущёва.
Был инициатором ввода войск в Чехословакию в 1968 году. Проводил линию на замену чехословацкого руководства более лояльной к Москве группой руководителей.
19 мая 1972 года был снят с должности первого секретаря ЦК КПУ «в связи с переходом на должность заместителя председателя Совета Министров СССР».
Наиболее весомыми примерами вклада в культуру Украинской ССР при непосредственном участии П. Е. Шелеста являются: Историко-культурный заповедник на Хортице, Музея народной архитектуры и быта Украины в Пирогово, многотомной «Истории городов и сел Украинской ССР», дворец культуры «Україна».
В апреле 1973 года написал заявление об освобождении от работы в связи с уходом на пенсию, был выведен из Политбюро ЦК КПСС и ЦК КПСС. С мая 1973 г. персональный пенсионер союзного значения.
В 1974—1984 гг. работал начальником опытно-производственного конструкторского бюро на авиационном заводе в Подмосковье.
Последние годы прожил на Пресне, незадолго до августа 1991 года был избран членом партийной комиссии Краснопресненского РК КПСС.
Умер в Подмосковье, 13 июня 1996 года перезахоронен в Киеве на Байковом кладбище.
Первая жена Любовь Банна (умерла в 1942 году от рака), вторая жена (с 1942 года) Ираида Павловна Мозговая, сыновья старший Борис (1933 г. р.) и младший Виталий (1940 г. р.). П. Е. Шелест не является прадедушкой (или каким либо близким родственником) известной российской телеведущей Ольги Шелест, вопреки распространяемым ею слухам (источник: В. П. Шелест).
Герой Социалистического Труда (1968).
Награждён тремя орденами Ленина, орденом Отечественной войны 1-й степени, орденом Красной Звезды и другими наградами.