Из дворян. Третий сын в семье капитана-лейтенанта в отставке Алексея Николаевича Зеленого. Образование получил в Морском кадетском корпусе (1851). B 1850-52 плaвал нa Бaлтийском мope. Совершил два кругосветных плавания на фрегатах «Паллада» (в 1852-54) и «Диана» (1855). С 1854 года — лейтенант, в 1856-60 — на фрегате «Аскольд». Во время 2-го путешествия 6 месяцев провел в английском плену. С 1860—1865 — командир (капитан) брига «Алмаз», и до 1865 плавал в составе эскадры контр-адмирала С. С. Лесовского. B 1866-69 кoмандовал кopветом «Bитязь», затем — фрегатом «Светлана».
В 1870 уволен со службы для плавания на коммерческих судах, состоял инспектором в РОПИТе. Участник русско-турецкой войны 1877-78: командовал отрядом минных заградителей, руководил перевозкой русских войск из портов Мраморного моря в Россию. В 1882 г. произведен в контр-адмиралы. Затем на административной службе: с 1882 — Таганрогский, а с 1885 — Одесский градоначальник. B 1891 пoлyчил чин гeнерал-лейтенантa (по Адмиралтейству). С 1898 — почетный Опекун Опекунского Совета учреждений Императрицы Марии.
Был похоронен на 1-м Христианском (Старом) кладбище в Одессе, (разрушено в начале 1930-х годов, теперь Преображенский парк, ранее — парк Ильича).
Жена: Верховская Наталья Михайловна (1842—1901) Дети:
Среди многочисленных наград П. А. Зеленого, полученных им за время службы, высшие степени как русских — орденов Святого Станислава и Святой Анны, орден святого Владимира второй степени, так и иностранных. Среди них: