Каменная церковь, посвященная всем святым, была возведена в 1817 году и освящена годом позже, в 1818-м. Средства на строительство выделил купец Алексей Федорович Очкин за два года до своей кончины; его семья владела несколькими домами на Московской улице. Церковь находилась в дубовой роще, где с 1765 года располагалось кладбище, закрытое в 1903 году.

Со временем рядом с церковью возник жилой поселок, получивший название Графовка, ныне известный как «Манчжурия».

Поэт Михаил Иванисов описывал это место так:

Дубовый лес, разделенный на три рощи, выстроился в ряд вдоль луга. Среди одной из рощ, рядом с кладбищем, возвышается храм, посвященный всем святым, предлагая уединение для богослужений и приют для странников, ищущих покоя от житейских бурь.

Напротив, на песчаной поляне у изгиба светлых вод, стоит сахарный завод, напоминающий миниатюрный город с минаретами и садами, словно воплощение фантастических мечтаний. По обе стороны видны две водяные мельницы с тридцатью двумя крупчатыми мукомольными установками.

Однако не эти здания привлекают внимание, а особенные красоты, отражающиеся в светлых водах. В полночной тишине, когда все вокруг замирает, окрестности оглушает дикий шум вод в дубравах, создавая величественные гармонические аккорды, словно хор духов, убаюкивающий природу и дарующий сладкие сны.

Церковь была закрыта в 1931 году и позже разрушена. Остатки ее фундамента до сих пор можно найти у реки Суры, рядом с железнодорожным мостом в районе улицы Маяковского, ранее называвшейся Всехсвятской.