Первое упоминание о нём находим в 877 году, когда он был при дворе короля Карла Лысого. В 889 году упоминается как сторонник короля Эда.
В 896 году Герберт становится графом Вермандуа, сменяя Теодориха Нибелунга, который, вероятно, был его дедушкой по материнской линии. В следующие годы он наследует ещё несколько графств (Суассон, Мо и Вексен), которыми управляли другие представители дома Нибелунгидов. На основе этих графств была образована военная марка для защиты от норманнов.
Имя супруги Герберта де Вермандуа достоверно неизвестно. Результаты исследования конца XX века позволяют предположить, что возможно его женой была Летгарда, дочь Адалельма, графа Труа. Трое детей: