Константин Иванович Арсеньев родился в селе Мироханово Костромской губернии в семье православного священника. В 1799 и 1806 годах он обучался в семинарии, после чего отправился в Петербург. В 1810 году окончил Педагогический институт и остался там преподавать латинский язык и географию.

В ноябре 1812 года Арсеньев прибыл в Петрозаводск вместе с преподавателями и студентами института, эвакуированными из столицы из-за Отечественной войны. Там он изучал историю Олонецких горных заводов.

В 1820 году Арсеньев стал членом петербургской ложи «Избранного Михаила». В 1819 году его назначили адъюнкт-профессором кафедры географии и статистики Санкт-Петербургского университета, но через два года его уволили из-за либеральных взглядов. Рунич, рассмотрев лекции Арсеньева, нашел в них «вредные места» и приостановил их чтение. Арсеньеву грозили серьезные последствия, но его спасло покровительство великого князя Николая Павловича. Он продолжил преподавать в Главном Инженерном и Михайловском артиллерийском училищах и посвятил свою «Историю народов и республик Древней Греции» императору.

В 1824 и 1828 годах Арсеньев был редактором Комиссии по составлению законов. С 1828 по 1837 годы он преподавал статистику, географию и историю будущему царю Александру II, сопровождал его в поездке по России и ходатайствовал за А. И. Герцена. В это время Арсеньев также управлял статистическим комитетом Министерства внутренних дел и опубликовал работу «Статистические очерки России». Он был тайным советником и преподавал в Реформатском училище.

В 1845 году Арсеньев стал одним из основателей Русского географического общества. В 1853 году он вышел в отставку. В июне 1864 года, будучи тяжело больным, переехал в Петрозаводск к старшему сыну Ю. К. Арсеньеву, который был Олонецким губернатором, и жил у него до своей смерти 29 ноября 1865 года. Похоронен в Петрозаводске в Крестовоздвиженском соборе.