Константин Иванович Арсеньев родился 12 октября 1789 года в селе Мироханово Чухломского уезда Костромской губернии в семье сельского православного священника.

После обучения в семинарии Арсеньев отправился в Петербург. Окончив Педагогический институт в 1810 году, он остался в нём в качестве преподавателя латинского языка и географии.

В ноябре 1812 года приехал в Петрозаводск вместе с другими преподавателями и студентами Педагогического института, эвакуированными из столицы в связи с Отечественной войной 1812 года. Занимался историей Олонецких горных заводов.

В 1819 году Константин Иванович Арсеньев был назначен адъюнкт-профессором по кафедре географии и статистики, однако через два года был уволен оттуда из-за либеральных взглядов. Благодаря заступничеству великого князя Николая Павловича (будущего императора Николая I), Арсеньев смог продолжить преподавательскую карьеру в Главном Инженерном и Михайловском артиллерийском училищах.

В 1824–1828 годах Арсеньев был редактором Комиссии по составлению законов, а затем стал преподавателем истории, географии и статистики для цесаревича Александра Николаевича. После завершения обучения будущего императора, Константин Иванович Арсеньев занялся научной и административной работой. В 1835–1853 годах он заведовал статистическим комитетом Министерства внутренних дел, являлся членом Совета Министерства внутренних дел. Также он состоял на должности Тайного советника.

В 1845 году он был в числе основателей Русского географического общества.

Константин Арсеньев вышел в отставку в 1853 году. В июне 1864 года тяжело больным перевезён в Петрозаводск — к старшему сыну, занимавшему должность Олонецкого губернатора и жил у него вплоть до кончины 29 ноября 1865 года. Похоронен в Петрозаводске, в Крестовоздвиженском соборе.

В историю Константин Арсеньев вошёл как один из создателей российской системы статистики. На основе статистических данных им было предложено несколько сеток экономического районирования, отражавших уровень развития сельского хозяйства в тех или иных регионах России (в том числе в зависимости от доли свободного труда по отношению к крепостному). Его опыт в этой области был использован многими географами 2-й половины XIX — начала XX века.

Написанный Арсеньевым учебник «Краткая всеобщая география» оставался основным учебным пособием по этой дисциплине на протяжении тридцати лет и выдержал 20 переизданий.