Старший сын герцога Клевского Иоганна II и Матильды Гессенской. Его предком был Иоанн Бесстрашный. Принадлежал к дому графов Марка.
В 1509 году Иоганн женился на Марии Юлих-Бергской (1491—1543), дочери и наследнице Вильгельма, герцога Юлих-Бергского. Бракосочетание прошло в замке Бург. У них было четверо детей:
После смерти зятя стал регентом при жене, к нему перешёл титул герцога Юлих-Бергского. После смерти отца он получил титулы герцога Клевского и графа Маркского. Он образовал династическую унию унаследованных герцогств, сформировав герцогство Юлих-Клеве-Берг, и стал важным игроком европейской политики.