Посещал Гёттингенский и Гейдельбергский университеты, занимался при лейденских коллекциях под наблюдением Темминка.
В 1827 г. опубликовал сочинение «Набросок истории развития и природной системы европейского животного мира» (нем. «Skizze zur Entwickelungsgeschichte und nat?rliches System der europ?ischen Thierwelt»), в котором описывал историю животного мира как развитие от низших форм к высшим (от амфибий к птицам и далее к хищникам).
Позднее, однако, Кауп считал эту свою работу юношеской ошибкой и резко выступал против дарвинизма. Наибольшее значение имеют труды Каупа по палеонтологии.