Simultáneamente con la construcción de la catedral de Znamensky, según el proyecto del arquitecto G.V. Gavrilov, se erigió junto a ella una casa arzobispal de dos pisos. En su composición se incluyó un fragmento de un antiguo edificio del siglo XVII, que pertenecía al archimandrita del monasterio masculino de la Virgen de Znamensky. Esto lo confirma la antigua habitación con bóvedas en el primer piso.

En la nueva casa, además de las habitaciones para el arzobispo, había cuartos para los cantores, la comunidad monástica y el personal. A mediados del siglo XIX, todo el piso superior del hermoso edificio de piedra con columnas de estilo imperio y un pórtico en la fachada oeste estaba ocupado por las habitaciones del arzobispo, mientras que la planta baja se destinó al gobernador del monasterio, la administración monástica y la oficina del Prelado.

Entre 1850 y 1853 se construyó una amplia adición entre la catedral y la casa arzobispal. En el segundo piso, en una gran sala, se ubicó la iglesia doméstica de la Cruz en honor a los tres santos: Basilio el Grande, Gregorio el Teólogo y Juan Crisóstomo. En el primer piso de la adición se organizaron celdas. A finales del siglo XIX, este edificio fue visitado por el conocido líder eclesiástico Juan de Kronstadt.

En 1927, aquí se trasladó el actual museo regional de historia local después de numerosos traslados. Fue fundado como un museo histórico-arqueológico y de artesanías en memoria de la visita a Kursk del emperador Nicolás II en 1902. El museo se inauguró solemnemente el 18 de enero de 1905 para los ciudadanos y visitantes.

El desarrollo del museo fue promovido por el destacado arqueólogo ruso e historiador del derecho, profesor de las universidades de Varsovia y Moscú D. Ya. Samokvasov. Cada verano realizaba excavaciones en la provincia de Kursk y donó parte de su colección arqueológica al museo. El emperador Nicolás II asignó diez mil rublos para el equipamiento del museo. Entre los mecenas estaban el conde S. D. Sheremetev, los príncipes P. N. Volkonsky, A. V. Baryatinsky, N. V. Golitsyn, el profesor D. Ya. Durnovo y otros.

Después de la Revolución de Octubre, los fondos del museo aumentaron significativamente gracias a la expropiación de colecciones del palacio de los príncipes Baryatinsky en Ivanovo y otras mansiones. El museo recibió muebles, pinturas, porcelana, cristal, productos de bronce y plata, colecciones numismáticas. En 1928, el museo de historia local tenía diez departamentos.

Antes de la llegada de las tropas alemanas a Kursk, los objetos más valiosos fueron evacuados a Sarapul, y las colecciones arqueológicas y la porcelana fueron enterradas en el sótano del museo. En noviembre de 1941, las autoridades de ocupación abrieron el museo a los visitantes.

Durante la guerra, el edificio sufrió daños parciales por bombardeos, se destruyeron el laboratorio fotográfico y el taller de carpintería, pero desde el 1 de marzo de 1943, el museo reanudó su actividad.

En la década de 1980, 34 salas del museo de historia local eran visitadas anualmente por más de cien mil personas. Actualmente, en la exposición del museo se presentan tres secciones: naturaleza, historia del período pre-revolucionario e historia de la sociedad soviética.