Рано начал заниматься естественными науками, сначала под руководством своего отца, а затем в Берлинском университете. С 1819 г. Розе занимался в Стокгольме у Берцелиуса, затем, после получения в Кильском университете учёной степени доктора, вернулся в Берлин, где и продолжал заниматься химией.
С 1823 г. — адъюнкт-профессор, с 1835 ординарный профессор в Берлине. Розе известен, как основатель новой аналитической химии, а также многими работами, опубликованными в «Анналах» Поггендорфа, между прочим, над влиянием массы действующих веществ на ход химического превращения. Ему же принадлежит открытие (в 1844 г.) элемента ниобия.
Почти на все европейские языки переведено его сочинения «Ausf?hrliches Lehrbuch der analytischen Chemie» (Брауншвейг, 1851).