La cathédrale de Smolensk a été érigée à cet endroit dans des circonstances inhabituelles. Au début du XVIIIe siècle, il y avait ici les portes orientales de la forteresse de Belgorod, ornées de l'icône de Smolensk de la Mère de Dieu, comme c'était la coutume à l'époque. En octobre 1703, le gardien Méthode Ivanov remarqua qu'un feu émanait de l'icône, allumant une bougie devant lui.

En mémoire du miracle, une chapelle fut bientôt construite, et deux ans plus tard, elle fut remplacée par une église en bois de Smolensk. En 1727, la construction d'un temple en pierre à deux étages commença ici, qui fut entièrement consacré en 1763. C'était un bâtiment baroque avec un volume principal traditionnel du baroque en forme de "huit sur un carré". Le temple avait un volume principal massif et allongé à deux étages, auquel était adjointe une abside ovale à deux étages. À l'ouest, une petite salle à manger à deux étages et un clocher à quatre niveaux furent ajoutés au temple. Cette composition est caractéristique de l'architecture des temples de la Sloboda ukrainienne à la fin du XVIIe siècle, bien que des traits originaux aient été intégrés au monument de Belgorod.

Au XIXe siècle, le temple subit des reconstructions. Les plans du milieu du XIXe siècle et les photographies du début du XXe siècle montrent une version architecturale tardive de l'église, ayant caché les formes et la décoration initiales. En 1859, le temple fut considérablement reconstruit en raison des escaliers délabrés menant au bâtiment principal. À la place, un nouveau local pour l'escalier fut ajouté à l'ouest, et la façade du bâtiment fut modifiée dans un style plus sobre, cachant sous un enduit les traces de la décoration initiale.

En 1862, la plus significative des reconstructions de l'église de Smolensk eut lieu selon un projet approuvé. Une annexe fut construite du côté ouest avec un plafond au-dessus de l'escalier menant au deuxième étage. Le huit lumineux, reposant sur une voûte avec des arcs de soutien, prit la forme d'une rotonde, et des résonateurs de son furent installés dans les voûtes.

Dans les années 1920, le temple fut pillé. Bien qu'il abritât divers entrepôts, la vie de prière continua. Cependant, le 26 juin 1936, une décision fut prise de fermer de nombreuses églises de la ville, y compris le temple de Smolensk.

L'église, qui était un ornement de Belgorod avant la révolution, fut deux fois au bord de la destruction pendant l'ère soviétique. En 1943, à la suite d'un bombardement, elle perdit son clocher et se transforma en ruines. Des tentatives de faire exploser le temple furent entreprises en 1958 et 1974, mais il résista. En 1958, le temple survécut à une explosion, et en 1974, il fut sauvé par l'école voisine, qui, après l'explosion, se retrouva dans un état d'urgence, ce qui stoppa les destructions ultérieures.

Le bâtiment fut entouré d'une clôture, derrière laquelle se forma une décharge. Dans les années 1980, une restauration commença avec des plans d'y aménager une salle d'orgue. 763 camions de déchets furent évacués. Les quarante derniers camions furent évacués en juin 1996, un mois avant la consécration. Le 11 juin, le temple fut consacré par l'Evêque de Belgorod et de Starooskol Ioann. Avant cela, le Jeudi Saint 1995, les cloches sonnèrent pour la première fois dans le clocher nouvellement reconstruit. En 1997, les dômes et les croix de l'église de Smolensk furent rénovés.