Бертольд был сыном Бертольда II, герцога Каринтии, который поддерживал Рудольфа Рейнфельденского против императора Генриха IV и претендовал на герцогство Швабия. И Бертольд и Рудольф были лишены своих титулов и имущества в 1077 году. Бертольд II умер в 1078 году и Бертольд II унаследовал претензии, в том числе, и на герцогство Швабия. В 1079 году Бертольд женился на Агнессе, дочери Рудольфа Рейнфельденского.
В следующие годы он был последовательным сторонником Бертольда I Рейфельденского, герцога Швабии, против короля. Он участвовал в конфликтах со ставленником императора герцогом Фридрихом Бюреном и епископами Базеля и Страсбурга. Но иногда сторонники папы и императора приходили к согласию: в 1087 году Бертольд и его противник, епископ Базеля, выступили свидетелями обмена земель. Бертольд с 1090 года расширял свою власть в Брейсгау так, чтобы территория Церингенов вышла из под контроля герцогов Швабии. В 1091 году вблизи Фрайбурга в Брейсгау он построил замок Церинген.
Ситуация накалилась вновь в 1090 году, когда умер Бертольд I Рейфельденский. Бертольд II Церинген претендовал на владения Рейнфельденского дома в Бургундии и на титул герцога Швабии. Поддержанный Вельфами и папством, он был избран герцогом в пику Фридриху в 1092 году. В том же самом году он был провозглашен противниками Генриха III герцогом Каринтии и маркграфом Вероны. Но Бертольд, как и его отец, никогда не обладал настоящей властью в Каринтии.
В 1093 году, на пасху, Бертольд и Вельф IV подписали «присягу мира» в Ульме. Сначала её действие распространялось лишь на Швабию, но вскоре было расширено на Баварию и оппозиционную императору южную Германию. Около 1098 года Бертольд и Фридрих достигли соглашения, по которому Фридрих признавался герцогом Швабии, но за Бертольдом был сохранен титул герцога и земли вокруг Цюриха. Этот шаг улучшил отношения между Церингенами и Генрихом IV. Бертольд с 1100 года был первым из Церингенов, кто носил титул «герцог Церинген»..
В 1105 году Бертольд поддержал сына Генриха IV Генриха V, восставшего против отца.
Муж (с 1177/1179) Агнессы, дочери Рудольфа Рейнфельденского