Поступил на военную службу в апреле 1905 года, фанен-юнкером (кандидат в офицеры), в пехотный полк. С августа 1906 — лейтенант.
В начале войны — в штабе пехотного полка, с ноября 1914 года — старший лейтенант. В августе 1915 года тяжело ранен. С ноября 1915 года — командир пехотной роты. С марта 1916 года — капитан. В июне — сентябре 1916 года — командир батальона. С октября 1916 года — на различных штабных должностях. В октябре 1918 года — вновь тяжело ранен (в госпитале до января 1919 года). За время войны награждён Железными крестами обеих степеней и ещё пятью орденами.
После войны продолжил службу в рейхсвере. К началу Второй мировой войны дослужился до звания генерал-майор.
Участвовал в Польской кампании. Во Французской кампании — командир 19-й пехотной дивизии. В ноябре 1940 года дивизия переформирована в танковую, фон Кнобельсдорф произведён в звание генерал-лейтенант.
С 22 июня 1941 года участвовал в германо-советской войне, бои в Белоруссии, в районе Смоленска, под Москвой. В сентябре 1941 фон Кнобельсдорф награждён Рыцарским крестом. В начале января 1942 года генерал-лейтенант фон Кнобельсдорф тяжело заболел, эвакуирован в госпиталь в Германии.
В мае 1942 года — командующий 10-м армейским корпусом (в районе Старой Руссы), в июле 1942 года — командующий 2-м армейским корпусом (в районе Демянска), в июле-октябре 1942 года — корпусом «Кнобельсдорф». С августа 1942 года в звании генерал танковых войск. С октября 1942 года — командующий 24-м танковым корпусом (под Сталинградом), с декабря 1942 года — командующий 48-м танковым корпусом. В феврале 1943 года награждён Золотым немецким крестом.
С октября 1943 — вновь тяжело болен, зачислен в командный резерв. В ноябре 1943 за бои в районе Белгорода награждён Дубовыми листьями к Рыцарскому кресту.
С февраля 1944 года — командующий 40-м танковым корпусом (на Украине). В сентябре 1944 — награждён Мечами (№ 100) к Рыцарскому кресту с Дубовыми листьями.
В октябре-ноябре 1944 года — командующий 1-й армией (на Западном фронте). С декабря 1944 года — в командном резерве. В начале апреля 1945 — взят в американский плен.
Отпущен из плена в 1947 году.