Am 28. Juni 1888 weihte der Kathedralkanoniker Pisarzewski zusammen mit der städtischen Geistlichkeit die steinerne Kapelle, die die Einwohner 1884 neben der Kathedrale zu Ehren des martyrischen Todes von Kaiser Alexander II. erbaut hatten.

Es gibt auch eine andere Version, nach der diese Kapelle, wie die Kapelle Alexander Newski in Jaroslawl, zu Ehren der wunderbaren Rettung der Familie Alexander III. bei dem Zugunglück am 17. Oktober 1888 geweiht wurde und dem himmlischen Schutzpatron des Zaren, Alexander Newski, gewidmet ist.