Сын священника. С 1914 года служит в армии. Участник Первой мировой войны, во время которой командовал пехотным батальоном.
Начало Второй мировой войны встретил на должности начальника штаба 22-го армейского корпуса.
Во время кампаний против Франции (1940 год), Югославии и Греции (1941 год), СССР (1941—1942 года) — начальник штаба 1-й танковой армии и Группы армий «А».
В 1942 году несколько месяцев служил во Франции, в августе участвуя в отражении союзного десанта в Битве за Дьепп.
24 сентября того же года назначен Гитлером начальником генерального штаба сухопутных войск (ОКХ), заменив на этом посту Франца Гальдера. Безуспешно пытался спасти остатки окруженной в Сталинграде 6-й армии, однако его усилия не увенчались успехом из-за разногласий с Гитлером.
Участвовал в разработке планов операции Цитадель, окончившейся поражением немецких войск на Курской дуге.
Оставался на должности начальника штаба ОКХ до июля 1944 года, когда был снят с должности из-за очередных разногласий с Гитлером.