Родился в окрестностях Берлина в семье директора королевской музыки, органиста церкви св. Николая. Его дедушка также был органистом, а брат Георг стал директором духовной музыки в Эрлангенском Университете.
Всю жизнь концертировал в различных частях мира. Так, с 1936 по 1979 годы он 10 раз посетил Японию, за что небольшой японский остров назвали Кэмпу-Сан в его честь. Свой последний концерт он дал в Париже в 1981 году.
Имел пятерых детей.
Умер в Позитано, Италия в возрасте 95 лет.
Вильгельм Кемпф прилежно записывался в течение шестидесяти лет. До сих пор не потеряли свое значение его пластинки, где звучит музыка Бетховена, Шумана, Брамса, Шуберта, Моцарта, Баха, Листа, Шопена. Вильгельм Кемпф впервые осуществил полную запись сонат Франца Шуберта, и тем самым способствовал их популярности. Сонаты Бетховена он последний раз переписал в 1964—1965 годах в связи с внедрением техники стерео. Подобное же произошло и с его записями концертов Бетховена: ради стерео-эффекта он перезаписал их с Фердинандом Ляйтнером.
Камерная музыка представлена в репертуаре Кемпфа совместно с Иегуди Менухиным, Пьером Форрье, Вольфгангом Шнайдерханом, Паулем Груммером и др. Для своих коллег Кемпф был образцом чувства ритма.
Рассказывают, что когда Кемпф был в Финляндии, композитор Ян Сибелиус попросил его сыграть 29-ю сонату Бетховена "Hammerklavier". Когда же Кемпф закончил, Сибелиус обратился к нему со словами: «Нет, вы играли это не как пианист, Вы играли… как человек».