Кладбищенская церковь Всех Святых, предназначенная для отпевания монахов и паломников, была построена в 1832-1834 годах в классическом стиле. Церковь вместе с кладбищем окружала арочная каменная ограда.

Особенность этой церкви заключается в том, что ее купол является единственным местом, где сохранилась живопись монастырских времен. Роспись выполнена в классической манере и выдержана в монохромной серо-голубой гамме.

Исследования показали, что роспись принадлежит арзамасской школе академика А. В. Ступина. Специалисты не находят аналогов этой росписи по сюжету и композиции ни в России, ни за ее пределами. На ней изображен эпизод Апокалипсиса, где Агнец открывает книгу за семью печатями перед сидящим на престоле Вседержителем.

В советские годы здание храма использовалось как ресторан, а затем как хозяйственный магазин. В 1992 году храм был возвращен православной общине.

23 февраля 1993 года храм был вновь освящен Митрополитом Нижегородским и Арзамасским Николаем Кутеповым.

6 февраля 2013 года, в день памяти святой блаженной Ксении Петербургской, прихожане отметили двадцатилетие со дня освящения первого храма в Сарове во имя Всех Святых.