Костромские краеведы долгое время полагали, что кремль существовал на его нынешнем месте ещё в период удельного княжества. Однако археологические исследования показали, что город изначально располагался в устье реки Сула вверх по течению Волги. Деревянные укрепления города часто подвергались пожарам и нападениям новгородских ушкуйников. После разрушения в 1416 году кремль был перенесён на более возвышенное место. Вероятно, тогда же городской собор сменил название с Феодоровского на Успенский.

Первое каменное сооружение кремля и всего города, Успенский собор, появилось в начале правления Ивана Грозного. В XVII веке, благодаря особому почтению Романовых к Феодоровской иконе Богоматери, собор был расширен, добавлен Феодоровский придел. Согласно росписи кремля 1678 года, он был окружён деревянной стеной с множеством башен: Чудовой, Тайничной, Наугольной, Водяной, Вознесенской, Богословской, Ильинской, Воскресенской, Спасской и Пречистенской. Ближе к Волге находился Здвиженский монастырь с шатровым храмом. В старинных описях упоминаются также Троицкая церковь и церковь Похвалы Богородицы.

Пожар 1773 года уничтожил Здвиженский монастырь и шатровую колокольню собора. Успенский собор был восстановлен, а на месте монастыря по проекту С. А. Воротилова построили тёплый Богоявленский собор в стиле позднего барокко с архиерейской усыпальницей. Строительство в кремле продолжалось до 1791 года. Тогда же был устроен новый вход в виде Триумфальных ворот, и возведена 64-метровая колокольня, ставшая архитектурной доминантой дореволюционной Костромы. Фортификационные сооружения Старого и Нового города разбирались, рвы засыпались в XVIII и XIX веках. До наших дней сохранились лишь остатки восточного вала Старого города и склоны верхней террасы. В 1922 году кремлёвские храмы передали обновленцам, в 1929 году закрыли, а в 1934 году снесли. На месте храмового комплекса в историческом центре Костромы разбили парк, центром которого стал памятник В. И. Ленину. Он был установлен на пьедестал, подготовленный в 1913 году для памятника в честь 300-летия династии Романовых. Памятник до сих пор доминирует в этой части города.

Сейчас на территории бывшего Костромского кремля расположен Центральный парк культуры и отдыха, популярное место для прогулок жителей и гостей города. В 2016 году началось восстановление разрушенных соборов, завершение работ планируется к концу 2020 года.