После окончания Первой мировой войны остался в рейхсвере. В 1937 году принял командование 4-й танковой бригадой.
Во время Польской компании командовал танковой дивизией носящей его имя, в состав которой входили также соединения полка СС «Дойчланд», артиллерийский полк, разведывательный и связной батальоны.
С 1 октября 1939 года по 5 января 1941 года — командир 6-й танковой дивизии в составе 41-го моторизованного корпуса Георг-Ганса Рейнгардта. Участник Французской кампании. Особенно отличился при форсировании Мааса, когда полностью уничтожил 102-ю французскую дивизию. 16 мая 1940 года неожиданным ударом уничтожил следующую на железнодорожных платформах 2-ю бронетанковую дивизию. 3 июня 1940 года награждён рыцарским крестом.
С 6 января 1941 по 31 января 1942 года — командир 48-го танкового корпуса. Вместе с корпусом воевал на советско-германском фронте в составе 1-й танковой группы генерала Эвальда фон Клейста. Принял участие в окружении советской группировки у Киева.
10 августа 1942 года награждён дубовыми листьями к рыцарскому кресту.
17 февраля 1943 года сменил генерала горнострелковых войск Ланца на посту командующего армейской группировкой (нем. Armeeabteilung Lanz), действовавшей в районе Харькова. C 21 февраля 1943 эта группировка стала официально называться Армейской группировкой Кемпфа (нем. Armeeabteilung Kempf). Командуя этой группировкой, провёл успешную операцию под Харьковом.
Армейская группировка Кемпфа приняла активное участие в операции «Цитадель», а затем в оборонительных боях после провала наступления. 16 августа 1943 года, после сдачи Харькова, Кемпф был смещён со своего поста, остатки армейской группировки через несколько дней вошли в состав 8-й армии.
Неудачные военные действия на Южном фасе тяжело отразились на карьере Кепмфа. Он оставался в командном резерве до весны 1944, а потом назначался только на периферийные участки Восточного фронта.
С 6 октября по 4 декабря 1944 года командовал войсками в Вогезах (Франция).
После перенесённого сердечного приступа с декабря 1944 года в отставке.
Умер 6 января 1964 в Бад-Гарцбурге.