En 1870, la diócesis adquirió una casa en la calle Bogoyavlenskaya para la residencia de invierno de los arzobispos de Kaluga. Esta casa fue construida por la familia Torubaev en la mitad del siglo XVIII. En 1875, se erigió una escuela de cantores junto a la casa arzobispal con un templo dedicado a la Icono de Kaluga de la Madre de Dios. El iconostasio para el templo fue creado por el iconógrafo de Kaluga N. L. Panov. Desde 1918, en el primer piso de la casa arzobispal se ubicó el Consejo Diocesano, que reemplazó a la consistoría espiritual abolida.

En 1922, el obispo Teofan (Tuliakov), que residía aquí, fue trasladado a un anexo donde anteriormente se encontraba la escuela de cantores. En el edificio de la casa arzobispal se estableció el hogar infantil n.º 4. En una reunión del presidium del Comité Ejecutivo del Gobierno de Kaluga, se discutió la propuesta de la administración provincial de educación pública sobre el desalojo del arzobispo y del consejo de la iglesia del anexo del hogar infantil n.º 4. Esto se debió a que la iglesia y el anexo tenían una entrada común con el hogar infantil, lo que creaba inconvenientes y afectaba negativamente a los niños. Como resultado, se tomó la decisión de desalojar al arzobispo y al consejo de la iglesia del anexo y cerrar el templo doméstico. Desde 1925 hasta 1955, en la casa arzobispal funcionó una clínica ocular. Después de la guerra, también se estableció aquí la Escuela Médica de la Región de Kaluga. El 1 de septiembre de 1944, se inauguró la Escuela Musical de Kaluga en el edificio de la escuela de cantores y en el templo. Ambas escuelas continúan ocupando estos edificios hasta el día de hoy. El templo en honor a la Icono de Kaluga de la Madre de Dios en la casa arzobispal también está en funcionamiento.