La catedral de Smolensk fue erigida en este lugar en circunstancias inusuales. A principios del siglo XVIII, aquí se encontraban las puertas orientales de la fortaleza de Belgorod, adornadas con la Icono de Smolensk de la Madre de Dios, como era habitual en esa época. En octubre de 1703, el vigilante Mefodiy Ivanov notó que de la icono emanaba fuego, que encendió una vela frente a él.

En memoria del milagro, pronto se construyó una capilla, y dos años después fue reemplazada por una iglesia de madera de Smolensk. En 1727, se inició la construcción de un templo de piedra de dos pisos, que fue completamente consagrado en 1763. Era un edificio barroco con un volumen principal tradicional del barroco en forma de "octágono sobre cuadrado". El templo tenía un volumen principal masivo y alargado de dos pisos, al que se unía un ábside ovalado de dos pisos. Al oeste, se añadió al templo un pequeño refectorio de dos pisos y un campanario de cuatro niveles. Esta composición es característica de la arquitectura de templos de la Ucrania de Sloboda a finales del siglo XVII, aunque se introdujeron rasgos originales en el monumento de Belgorod.

En el siglo XIX, el templo fue sometido a reconstrucciones. Los planos de mediados del siglo XIX y las fotografías de principios del siglo XX muestran una variante arquitectónica tardía de la iglesia, que ocultó las formas y decoraciones originales. En 1859, el templo fue significativamente reconstruido debido a las escaleras deterioradas que conducían al edificio principal. En su lugar, se añadió al oeste un nuevo espacio para la escalera, y la fachada del edificio se modificó en un estilo más sobrio, ocultando bajo el yeso las huellas de la decoración original.

En 1862, se llevó a cabo la reconstrucción más significativa de la iglesia de Smolensk según el proyecto aprobado. Se erigió una adición en el lado oeste con un techo sobre la escalera al segundo piso. El octágono luminoso, apoyado en un arco con arcos de soporte, adquirió la forma de una rotonda, y se instalaron resonadores de sonido en los arcos.

En la década de 1920, el templo fue saqueado. Aunque se utilizaron diversos almacenes, la vida de oración continuó. Sin embargo, el 26 de junio de 1936 se tomó la decisión de cerrar muchas iglesias de la ciudad, incluida la iglesia de Smolensk.

La iglesia, que era un adorno de Belgorod antes de la revolución, estuvo dos veces al borde de la destrucción durante la época soviética. En 1943, como resultado de un bombardeo, perdió su campanario y se convirtió en ruinas. Se intentó volar el templo en 1958 y 1974, pero resistió. En 1958, el templo soportó una explosión, y en 1974, fue salvado por la escuela cercana, que quedó en estado de emergencia tras la explosión, lo que detuvo más destrucciones.

El edificio fue cercado, y detrás se formó un vertedero. En la década de 1980, comenzó la restauración con planes de establecer allí una sala de órgano. Se retiraron 763 camiones de basura. Los últimos cuarenta camiones fueron retirados en junio de 1996, un mes antes de la consagración. El 11 de junio, el templo fue consagrado por el Obispo de Belgorod y Starooskol, Ioann. Antes de eso, en el Jueves Santo de 1995, en el recién reconstruido campanario sonaron por primera vez las campanas. En 1997, se renovaron las cúpulas y cruces de la iglesia de Smolensk.