Константин Иванович Арсеньев родился в Костромской губернии в семье сельского православного священника.
В 1799—1806 годах учился в семинарии, затем отправился в Петербург. После окончания Педагогического института в 1810 году Константин Иванович Арсеньев остался в нём в качестве преподавателя латинского языка и географии.
В 1819 году Константин Иванович Арсеньев был назначен адъюнкт-профессором по кафедре географии и статистики, однако через два года был уволен оттуда из-за либеральных взглядов. Благодаря заступничеству великого князя Николая Павловича, Николай Иванович Арсеньев смог продолжить преподавательскую карьеру в Главном Инженерном и Артиллерийском училищах.
В 1824—1828 годах Констанин Иванович Арсеньев был редактором Комиссии составления законов, а затем (до 1837 года) стал преподавателем истории и статистики для цесаревича Александра Николаевича. После завершения обучения будущего императора, Константин Иванович Арсеньев занялся научной и административной работой — заведал статистическим комитетом, был членом Совета Министерства внутренних дел. В 1845 году он был в числе основателей Русского географического общества.
Константин Арсеньев вышел в отставку в 1853 году.
29 ноября (11 декабря) 1865 года умер в Петрозаводске в возрасте 76 лет.
Сын учёного, Константин Константинович (1837—1919) стал известным в России юристом и общественным деятелем.
Константин Арсеньев является одним из создателей российской системы статистики, на основе статистических данных им было предложено несколько сеток экономического районирования, отражавших уровень развития сельского хозяйства в тех или иных регионах России (в том числе в зависимости от доли свободного труда по отношению к крепостному). Его опыт в этой области был использован многими географами 2-й половины XIX — начала XX века. Написанный Арсеньевым учебник «Краткая всеобщая география» оставался основным учебным пособием по этой дисциплине на протяжении тридцати лет.
Исторические работы Арсеньева, посвящённые началу XVIII века, были написаны с использованием ранее закрытых архивных материалов, к которым он, благодаря близости к императорской семье, имел доступ.