В 1904 году оборудовал броненосец «Орёл» первой в мире системой быстрого выравнивания крена. Под его руководством созданы первые отечественные транспортные суда, а также судостроительные заводы в Комсомольске-на-Амуре и в Северодвинске. Автор 90 публикаций по гидродинамике, броневой защите кораблей, организации судостроительного производства, а также воспоминаний «На „Орле“ в Цусиме».
Старший сын земского врача Полиевкта Ивановича Костенко и дочери помещика Кузнецова.
В 1908 году Костенко был командирован в Англию, как наблюдающий за постройкой броненосного крейсера «Рюрик». Костенко входил в «Центральное военно-организационное бюро» Партии социалистов-революционеров, ведшее революционную пропаганду в армии и пытавшееся организовать восстания. Согласно рассказу самого Костенко Вере Фигнер, благодаря многолетней пропаганде, ему удалось на «Рюрике» завести обширную организацию среди матросов. Во главе ее стоял комитет из 30 человек, а около него группировалось до 200 матросов. В 1908 году Костенко свёл приехавших в Лондон Савинкова, Азефа и Карповича с матросами крейсера Авдеевым, Поваренковым и Котовым для переговоров о покушении на царя при ожидавшемся посещении им крейсера.
В июле — октябре 1909 года находясь в командировке в Англии, Костенко обратил внимание конструктора «Титаника» Томаса Эндрюса на потенциальную опасность того, что водонепроницаемые переборки отсеков судна не доходят до главной палубы. Последний оставил совет В. П. Костенко без внимания, что впоследствии явилось одной из причин гибели судна..
23 марта 1910 года — за революционную деятельность арестован, заключен в Трубецкой бастион Петропавловской крепости, а в июле осужден на шесть лет каторги. 19 декабря 1911 года — по ходатайству А. Н. Крылова и И. К. Григоровича помилован Николаем II.
С 1 мая 1912 года — начальник судостроительной конторы, а затем главный инженер Общества Николаевских заводов и верфей «Наваль» (ныне Черноморский судостроительный завод).
После революции — на различных руководящих должностях на судостроительных предприятиях в Николаеве, Харькове, Ленинграде.
В 1928 — арестован, 1929 — направлен в Соловецкий лагерь особого назначения, затем привлечён к работе в особых бюро при ОГПУ в Харькове, а затем в Ленинграде. Освобождён в 1931.
В 1932—1941 — руководит строительством кораблестроительных предприятий на Дальнем Востоке.
В феврале 1941 года арестован, затем перевезён из Ленинграда в златоустовскую тюрьму, затем в Челябинск, где в июле 1942 года освобождён. Посмертно реабилитирован Военной Коллегией Верховного Суда СССР 16 ноября 1964 года.
Костенко умер в Ленинграде 14 января 1956 года, похоронен на Серафимовском кладбище.