В 1835 году, благодаря усилиям прихожан, была построена каменная церковь с каменной колокольней, крытой железом. Площадь храма составляла 252 кв. м. Прихожанами церкви, находившейся в версте от уездного города Суджи, были жители слободы Гончарной, где к 1890 году проживало 697 мужчин и 703 женщины, а к 1898 году, 720 мужчин и 680 женщин. В 1903 году к приходу, кроме слободы Гончарной, относились хутор Поплюевский и хутор Бардаковский. В этих населённых пунктах насчитывалось 147 крестьянских и 13 некрестьянских дворов. По клировой ведомости 1916 года прихожанами считались только жители слободы Гончарной: 780 мужчин и 667 женщин, включая 15 мужчин и 18 женщин духовенства, 104 военных, 76 мужчин и 55 женщин мещан, а также 585 мужчин и 494 женщины крестьян. В слободе было 174 дома. Ближайшими к Христорождественскому храму были Троицкая церковь в Судже и Ильинская церковь в слободе Заолешенки.

Церковь в слободе Гончарной располагала 1200 кв. саженей усадебной земли вместе с погостом и 33 десятинами пахотной земли, из которых 15 десятин были неудобными для обработки. В 1890 году при церкви открылась начальная народная школа, а в 1916 году упоминается церковно-приходская школа в отдельном здании с помещением для сторожа, где обучалось 30 мальчиков. С 1916 года заведующим и законоучителем школы был священник Алексей Петрович Виноградский, который также преподавал в Гончаровских земских училищах.

Согласно «Описи церковного имущества» 1920 года, здание церкви имело крестообразную форму, длину 35 аршин и ширину 25 аршин. При церкви находилась каменная колокольня с пятью колоколами, самый большой из которых весил 101 пуд. Вокруг церкви была каменная ограда с двумя железными воротами и калиткой. В ограде располагалась каменная сторожка, где зимой обогревались прихожане. В храме было три престола: центральный в честь Рождества Христова, справа, Рождества Пресвятой Богородицы, слева, Казанской Божией Матери. Все престолы и жертвенники были деревянными. Внутреннее убранство церкви включало масляную окраску, альфрейную роспись и живописные изображения. Иконостасы были трёхъярусными, деревянными, с позолоченной резьбой. В храме находилось 51 икона, из которых 2 были в серебряных ризах, 3 в металлических, 7 в фольговых и 39 живописных. Также имелось 75 переносных икон, 10 из которых в металлических ризах.

Согласно декрету ВЦИК от 23 февраля 1922 года, из церкви было изъято 18 фунтов 33 золотника серебра. В 1924 году религиозное общество Христорождественской церкви было перерегистрировано. В 1940 году церковь была закрыта, но богослужения возобновились в годы Великой Отечественной войны. В 1944 году было зарегистрировано религиозное объединение с 700 верующими. В 1945 году церковной общине передали сторожку, где ранее размещалась школа. В 1948 году церковь была включена в список памятников архитектуры, но в 1949 году снята с учёта. В 1951 году здание использовали как склад.

В 1960-х годах обсуждалось объединение приходов, но решение не было принято. В 1963 году церковь планировали закрыть, но она оставалась действующей до 1970 года. В 1975 году её включили в список недействующих храмов. В 1990 году зарегистрирован устав религиозного объединения, а в 1999 году, религиозная организация. В 1998 году ансамбль церкви был признан памятником культовой архитектуры регионального значения.