В сентябре 1911 года поступил на военную службу, фанен-юнкером (кандидат в офицеры), в пехотный полк. С февраля 1913 года — лейтенант.
Воевал на Восточном и Западном фронтах. С июня 1916 года — старший лейтенант. Дважды ранен. Награждён Железными крестами обеих степеней.
Продолжил службу в рейхсвере. В конце 1918 — начале 1919 — воевал против поляков на восточной границе Германии. Затем служил на различных штабных и командных должностях. С марта 1937 года — полковник. К началу Второй мировой войны — начальник штаба 19-го армейского корпуса.
Участвовал в Польской и Французской кампаниях. С 1 июня 1940 года — начальник штаба танковой группы «Гудериан». С августа 1940 — генерал-майор. С октября 1940 — командир 18-й танковой дивизии.
С 22 июня 1941 года участвовал в германо-советской войне. Бои в Белоруссии, затем в районе Смоленска. В июле 1941 года награждён Рыцарским крестом. Бои под Тулой. С февраля 1942 года — генерал-лейтенант.
В марте 1942 года отправлен в Африку, командующим Немецким Африканским корпусом. С июля 1942 года в звании генерал танковых войск. 31 августа 1942 года тяжело ранен, эвакуирован в Германию.
С ноября 1942 года — командующий немецкими войсками в Тунисе.
С февраля 1943 года генерал танковых войск Неринг переведён на Восточный фронт, командующим 24-м танковым корпусом. Бои на реке Миус, затем на Днепре, затем в районе Винницы. В феврале 1944 года Неринг награждён Дубовыми лисьтями к Рыцарскому кресту. Бои в районе Каменец-Подольского, затем в Прикарпатьи. В январе 1945 года награждён Мечами (№ 124) к Рыцарскому кресту с Дубовыми листьями.
С марта 1945 года — командующий 1-й танковой армией. После капитуляции Германии 8 мая 1945 года взят в американский плен.