Родился в селе Людково Черниговской губернии (ныне в черте города Новозыбкова Брянской области) в семье крестьянина.
Балтийский матрос, большевик, в революционном движении с 1907. С 1911 на Балтийском флоте. Член РСДРП с 1912 года. Являлся одним из руководителей антивоенного выступления матросов на линкоре «Император Павел I» в 1915. После 6-месячного заключения отправлен на фронт, затем снова арестован за антивоенную пропаганду и освобождён Февральской революцией 1917. Был членом Гельсингфорсского совета, с апреля 1917 председатель «Центробалта» (Центрального комитета Балтийского флота). Принимал активное участие в подготовке флота к Октябрьскому вооружённому восстанию.
Во время Октябрьской революции командовал красными отрядами в Гатчине и Красном Селе, арестовывал генерала П. Н. Краснова. На II Всероссийском съезде Советов вошёл в состав Совета народных комиссаров в качестве члена Комитета по военным и морским делам. До марта 1918 — народный комиссар по морским делам. В годы гражданской войны и мирного строительства находился на командных должностях в Красной армии. В феврале 1918 командовал отрядом моряков под Нарвой, был разбит и сдал город, бежал в Самару, за что в мае 1918 отдан под суд, но оправдан. После этого исключён из партии.
Летом 1918 был направлен на подпольную работу на Украину. В августе 1918 года был арестован, но в октябре обменен на пленных немецких офицеров. С ноября 1918 года Дыбенко командир полка, бригады, группы войск, дивизии. Возглавил 1-ю Заднепровскую Украинскую Советскую дивизию, в которую влились многотысячные отряды самых известных на Украине партизанских атаманов — Никифора Григорьева и Нестора Махно. С весны 1919 года командующий Крымской армией и нарком по военным и морским делам Крымской советской республики. В 1919—1920 годах командовал соединениями под Царицыном и на Кавказе. Под общим командованием М. Н. Тухачевского, Дыбенко во главе Сводной дивизии был одним из руководителей подавления Кронштадтского восстания (1921). Участвовал в подавлении крестьянского восстания в Тамбовской губернии. 3.3—11.5.1920 начдив 1-й кавказской кавалерийской дивизии; 28.6—17.7.1920 начдив 2-й Ставропольской кавалерийская дивизии имени М. Ф. Блинова.
В 1922 году Дыбенко был восстановлен в РКП(б) с зачётом партстажа с 1912. Женился на А. М. Коллонтай.
Был членом РВС СССР, членом ЦИК СССР.
В 1937 году Дыбенко был избран депутатом Верховного Совета 1-го созыва. В 1936—1937 годах под руководством Дыбенко и начальника Ленинградского УНКВД Л. М. Заковского были проведены чистки в Ленинградском военном округе. Дыбенко входил в состав Специального судебного присутствия, осудившего группу высших советских военачальников по «Делу Тухачевского» в июне 1937 года.
В конце 1937 года Дыбенко был снят с должности командующего Ленинградским военным округом. А в начале января 1938 года Дыбенко был уволен из РККА и назначен наркомом лесной промышленности.
26 февраля 1938 года Дыбенко был арестован в Свердловске. На следствии подвергался жестоким избиениям и пыткам. Признал себя виновным в участии в антисоветском троцкистском военно-фашистском заговоре. 29 июля 1938 приговорён к смертной казни. Также Дыбенко обвинили в связях с М.Н. Тухачевским, которого он незадолго до этого отправил на расстрел. Дыбенко был расстрелян в день вынесения приговора, место захоронения — полигон «Коммунарка». Его жена В. А. Дыбенко-Седякина была расстреляна 26 августа 1938 года. Реабилитирован в 1956 году.
Станция метрополитена «Улица Дыбенко» в Санкт-Петербурге
Памятная доска в Гатчине
Почтовая марка СССР 1969 год, (ЦФА (ИТЦ) #3749; Скотт #3516C)
Почтовая марка СССР 1989 год