Конрад в качестве герцога Церингенского наследовал своему брату Бертольду III в 1122 году. К этому времени он уже был достаточно известен, поскольку вместе с братом вводил городское право во Фрайбурге.
В 1127 году Конрад активно вмешался в дела пфальцграфства Бургундии. Его сестра Агнесса была замужем за бургундским пфальцграфом Вильгельмом (Гийомом) II, а в 1127 году бургундские бароны убили их сына пфальцграфа Вильгельма (Гийома) III. Воспользовавшись этим Конрад предъявил свои права на пфальцграфство Бургундию как ближайший родственник убитого племянника. Здесь его интересы столкнулись с интересами Райнальда (Рено), двоюродного дяди Гийома по мужской линии. Вначале победу в конфликте праздновал Рено, графский титул достался именно ему. Но став графом, Рено III отказался признавать сюзеренитет императора Лотаря Суплинбургского. Конфликт разгорелся с новой силой. Лотарь, нуждавшийся в поддержке против своих соперников из династии Штауфенов (Гогенштауфенов), поддержал права Конрада. Он назначил его наместником Бургундии, присвоив ему титул «ректора».
Но после смерти в 1138 году Лотаря, отношение Конрада к Штауфенам резко изменилось. На выборах 1138 года он поддержал кандидатуру франконского герцога Конрада Гогенштауфена. В знак благодарности избранный германским королём Конрад III объявил о конфискации владений Рено III и передаче их Конраду фон Церингену. В военных действиях победу одержал Конрад. Он пленил Рено и доставил его императору. В результате Рено III хоть и сохранил свой титул, но лишился части своих владений, а также вынужден был согласиться на жёсткий контроль за пфальцграфством со стороны императора. Осуществлять такой контроль стал Конрад фон Церинген, сохранивший титул «ректор Бургундии».
Конрад умер в 1152 году и был похоронен в фамильном склепе Церингенов в монастыре Святого Петера.
Конрад был женат на Клеменции, дочери графа Жоффруа Намюрского и Эрмезинды Люксембургской, графини де Лонгви, дочери Конрада I, графа Люксембурга. В этом браке родились: