В апреле 1936 года поступил на флот. 1 июля 1936 года произведен в фенрихи, 1 апреля 1938 года — в лейтенанты. Служил на лёгком крейсере «Карлсуэ» и линейном корабле «Гнейзенау».
В октябре 1939 года переведен в подводный флот. Свой первый поход совершил в качестве 1-го вахтенного офицера на подлодке U-103, которой командовал Виктор Шютце.
С 31 марта по 30 апреля 1941 года командовал подлодкой U-143 (Тип II-B).
1 декабря 1941 года назначен командиром подлодки U-107, на которой совершил 7 походов (проведя в море в общей сложности 348 суток).
26 марта 1943 года награжден Рыцарским крестом Железного креста.
6 июня 1943 года сдал командование и был переведен в ОКМ. В начале февраля 1944 года служил офицером по боевой подготовке 22-й и 27-й флотилий подводных лодок. В самом конце войны служил в штабе группы ВМС «Север».
Всего за время военных действий Гелхаус потопил 19 судов общим водоизмещением 100 373 брт. и повредил 1 судно водоизмещением 10 068 брт.
В мае 1945 года интернирован союзниками. В августе 1945 года освобожден.