Las capillas dedicadas a Procopio Ustiuzhski e Iván Ustiuzhski fueron construidas en 1817 y 1820. Se encuentran en el lugar donde, según la tradición, en 1303, en el puente a la entrada del monasterio, falleció el loco de Ustiug, Procopio, amigo del fundador del monasterio, Cipriano. En el Cronista P. Yurinski se menciona que la primera capilla de Procopio fue establecida ya en 1493.