Родился в Германии в семье винодела. Унаследовав от дяди баронский титул и крупное состояние, Гольбах обосновался в Париже и посвятил свою жизнь философии и науке. Его дом стал одним из виднейших во Франции салонов, который регулярно посещался просветительски настроенными философами и учеными. Салон Гольбаха также был основным местом встречи энциклопедистов. Его посещали Дидро, Д'Аламбер, Бюффон, Гельвеций, Руссо и др. Гостями Гольбаха также бывали английские ученые и философы Адам Смит, Дэвид Юм, Эдуард Гиббон и др.
Гольбах внес значительный вклад в Энциклопедию. Его перу принадлежат многие статьи по вопросам политики, религии, естествознанию и др.
Гольбах широко известен как автор многочисленных атеистических произведений, в которых он в простой и логичной форме, часто с юмором, критиковал как религию вообще, так и служителей культов. Эти книги, прежде всего, были направлены против христианства, в частности, против Римско-католической церкви. Первым антирелигиозным сочинением Гольбаха стало «Разоблаченное христианство» (1761), за ним последовали «Карманное богословие» (1766), «Священная зараза» (1768), «Письма к Евгении» (1768), «Галерея святых» (1770), «Здравый смысл» (1772) и др.
Основное и наиболее известное сочинение Гольбаха «Система природы, или О законах мира физического и мира духовного» вышло в свет в 1770 году. Книга представляет собой наиболее всестороннее обоснование материализма и атеизма той эпохи. Современники окрестили её «Библией материализма».
«Система природы» была осуждена парижским парламентом и приговорена к сожжению вместе с атеистическими произведениями Гольбаха, а Римско-католическая церковь включила их в «Индекс запрещенных книг». Но сам автор не подвергся преследованиям, так как авторство книг не было установлено. Сочинения Гольбаха издавались за пределами Франции под вымышленными именами и с указанием ложного места издания. Тщательно сохраняя анонимность, Гольбах сумел избежать преследований, тюремных заключений и возможной смерти.
Кроме произведений собственного сочинения, Гольбах издавал переведенные им на французский язык сочинения философов Лукреция, Томаса Гоббса, Джона Толанда, Энтони Коллинза, а также труды немецких и шведских ученых.