Родился 1 апреля 1774 года в Брауншвейге, происходил из баварского дворянского рода, директора Потсдамской инженерной академии Бонавентуры фон Рауха.
Образование получил в Инженерной академии, которой руководил его отец, и выпущен 6 апреля 1790 года в инженерные войска. В 1794 году работал на возводимых укреплениях в Померании, затем на силезско-австрийской границе.
В конце 1790-х годов Раух состоял адъютантом при начальнике прусских инженерных войск генерал-лейтенанте Левине фон Гойсау. 14 января 1802 года Раух был произведён в интендант-лейтенанты Генерального штаба. 12 декабря 1803 года произведён в капитаны и далее получил чин майора (22 октября 1805 года) и назначен генерал-квартирмейстером. На этом посту Раух накануне войны с Францией в 1806—1807 годах крайне неудачно провёл мобилизацию. Снятый с должности Раух был направлен в действующую в Восточной Пруссии армию и состоял при русских войсках и под началом генерала Каменского сражался под Пиллау, а затем совершил десантную высадку под Данцигом. После этой операции Раух был назначен помощником Кёнигсбергского губернатора генерала Рюхеля.
После заключения мира в Тильзите Раух вновь был переведён в Берлин, где состоял при Шарнхорсте для поручений по военно-инженерной части. 12 февраля 1809 года назначен директором 2-го отделения Военного департамента. 14 августа 1812 года произведён в полковники.
При разрыве с Францией и вступлении Пруссии в Шестую коалицию Раух был назначен начальником штаба корпуса Йорка, отличился в сражении при Кенигсварте. 7 июля 1813 года произведён в генерал-майоры и назначен начальником штаба корпуса Блюхера.
3 июня 1814 года Раух был назначен начальником прусских инженерных войск и инспектором крепостей.
30 марта 1829 года Раух был произведён в генералы от инфантерии, 21 ноября 1831 года назначен членом Государственного совета Пруссии, 18 января 1833 года награждён орденом Чёрного орла.
В 1822 году российский император Александр I пригласил Рауха совершить инспекционную поездку по западным крепостям Российской империи, аналогичную поездку Раух совершил и в 1833 году по просьбе императора Николая I. 11 мая 1829 года Раух был награждён орденом св. Александра Невского, а за вторую командировку в Россию ему 27 ноября 1834 года были вручены алмазные знаки к этому ордену.
30 июля 1837 года Раух сменил генерала Вицлебена на дожности военного министра Пруссии.
28 февраля 1841 года Раух из-за обострившейся болезни вышел в отставку и скончаля 2 апреля того же года в Берлине.