Im Jahr 1890 wurde auf dem Gelände des Krankenhauskomplexes ein zweigeschossiges Backsteingebäude errichtet, das sich heute an der Moskauer Straße befindet und mit der Fassade nach Süden ausgerichtet ist. Der zentrale Teil des Gebäudes, gekrönt von einer breiten Kuppel, war mit zwei großen zweigeschossigen Flügeln verbunden. Hier befand sich das Hospiz für unheilbar Kranke, die an Krebs und Sarkom litten.

Das Hospiz wurde mit Mitteln von L.V. Wysheslawzew erbaut, der lange Zeit die guberniale Landverwaltung leitete. Aus seinen Spenden wurden 80.000 Rubel für den Bau des Hospizes für hundert Personen und 120.000 Rubel für dessen Unterhalt verwendet. Die Stadt stellte das Land für den Bau zur Verfügung. Das Erdgeschoss des Gebäudes war für die männliche Abteilung vorgesehen, das obere für die weibliche. Der linke Flügel wurde für zahlende Patienten genutzt, der rechte für alle älteren Menschen. Geräumige und bequeme Zimmer lagen auf der sonnigen Seite, während die Flure auf der Nordseite waren. Auf jede Person kamen mindestens 6 Kubikmeter Luft.

Im Hospiz wurden die Lebens-, Behandlungs- und Seelsorgebedingungen sorgfältig durchdacht. Für die Kranken wurde eine Bibliothek eingerichtet sowie zwei Gärten für Spaziergänge. Um das seelische Gleichgewicht zu fördern, gründete A.V. Wysheslawzew die Elisabethkirche.

Zu Ehren von L.V. Wysheslawzew, dem Kurator des Hospizes, und A.V. Wysheslawzew, dem Gründer der Kirche, wurden in den Räumen zwei „ewige Betten“ eröffnet. Im Elisabeth-Hospiz verbrachte der bekannte Arzt S.K. Olenin seine letzten Jahre.