Служил в артиллерии; в 1859—1862 издавал под своей редакцией журнал для девиц «Рассвет», ставший отголоском прогрессивных стремлений 1860-х и имевший целью развить молодое женское поколение, расширив его умственный кругозор. В «Рассвете» начали свою деятельность известные литературные критики Д. И. Писарев, Н. К. Михайловский, А. М. Скабичевский. Сам Кремпин участвовал в библиографическом обзоре журналов и написал статью: «Державин» (1859, № 10).