Первая деревянная Ильинская церковь была возведена до 1705 года. В этом же году в храм был назначен священник Антоний Словинский, который с 1721 года стал протоиереем Сумского собора. Согласно переписи 1732 года, при Ильинском храме служили два священника и действовала школа.

В 1791 году в результате пожара церковь в Сумах сгорела. В 1792 году на месте сгоревшей была построена новая деревянная церковь, которая также сгорела в августе 1839 года. В июле 1836 года был заложен каменный храм по благословению архиепископа Мелетия. Однако строительство остановилось из-за разорения города и прихожан пожаром, и надежды на его завершение не было, так как приход состоял в основном из бедных казённых крестьян. В 1844 году купец Степан Игнатьевич Тихонов стал попечителем храма и с усердием начал завершать его строительство. В 1845 году был освящён придельный престол святого Митрофана, а в 1851 году, главный храм. Тихонов вложил до 1500 рублей серебром в строительство. Из прежнего храма удалось спасти Евангелие в серебряном окладе и четыре местные иконы: Спасителя, Божией Матери, Иоанна Предтечи и Пророка Илии, в серебряных ризах весом 39 фунтов, пожертвованных в 1786 году секретарём Иваном Емельяновичем Стрельченком.

По данным 1904 года, у церкви не было усадебной, пахотной и сенокосной земли, но имелось 13 десятин 595 сажен хворостяного леса. Прихожан было 3403 мужчины и 3499 женщины. Действовали церковно-приходская школа и земское училище. В 4 верстах находились хутора Гаек и Косовщина, в 5 верстах, Кононенково и Бульбовщина, в 7 верстах, Россоховатый. По штату причта положено два священника, диакон и два псаломщика.

Ильинская церковь выполнена в стиле классицизма. Это кирпичный, оштукатуренный храм прямоугольной формы с срезанными северо-восточными и юго-восточными углами и пристроенной колокольней с западной стороны. Настенные росписи представлены четырьмя трапециевидными композициями с изображением Евангелистов на парусах.