В 1034 году, умер отец Оттона — пфальцграф Эццо. Так как старший брат Людольф умер в 1031 году, пфальцграфом стал Оттон. В 1045 году император Генрих III предложил Оттону стать герцогом Швабии. В ответ Оттон передавал пфальцграфство своему кузену Генриху. Кроме того, территории Кайзерсверт (Kaiserswerth) и Дуйсбург были переданы короне. В 1047 году, готовя войска против вторжения Балдуина V графа Фландрии Оттон неожиданно умер в своем замке Томбург. Он похоронен в аббатстве Браувейлер. В 1048 году преемником Оттона II в герцогстве Швабия императором был назначен Оттон III маркграф Швейнфурта.
Оттон женился на дочери Гуго VI, графа Эгисхейм и сестры папы Льва IX. Дети:
1 Рихенза (Richenza) (ок. 1020 — 1082), жена с 1040 года Германа, графа Верле, а с 1050 года Оттона Нордгейма, герцога Баварии.
также некоторые исследователи среди потомства Оттона называют еще одну дочь:
2 Хильдегарда — вышла замуж за Фридриха фон Бюрен, они были родителями Фридриха I.