Точные сведения об Ильинской церкви датируются не ранее 1626 года. Она упоминается как "церковь за кузницами", поскольку в XVII и XVIII веках рядом находился кузнечный ряд. Согласно описи 1626 года, церковь была расположена "за острогом, в старом остроге" и была деревянной, клетцкого типа. Рядом с ней стояли крепостные ворота, башня которых еще существовала в начале XVIII века.

Во время пожара 1622 года храм, вероятно, сгорел, и, по преданию, из него удалось спасти только храмовую икону святого Илии Пророка, икону мученика Конона и две иконы Богоматери Толгская и Боголюбская.

В первой четверти XVIII века был надстроен деревянный этаж. Колокольня была возведена во второй половине XVIII века. По описи 1685 года, Ильинский храм строился из камня и, вероятно, был завершен к 1687 году. Он был одноэтажным, а верхний деревянный этаж, по преданию, добавили в первой четверти XVIII века. Колокольня была построена во второй половине XVIII века. Во время знаменитого пожара 1754 года, известного как "Одигитриевский", Ильинская церковь сгорела первой, так как пожар начался "близ церкви Илии Пророка, у старого кузнечного ряда, недалеко от красных рядов и питейного двора к Ильинской церкви, у черепичного заводчика Кушинникова, в Жорином переулке".

Церковь пострадала от пожара 1754 года и была капитально перестроена к 1759 году на средства купца Карасева в двухэтажную одноглавую церковь с трехчастной апсидой, полуоткрытой северной галереей, небольшой трапезной, двухъярусной четырехгранной колокольней и Казанским престолом на верхнем этаже. Второй придел, во имя иконы "Взыскание Погибших", был обустроен на нижнем этаже в 1861 году стараниями семьи Чистоклетовых.

Длина церкви с колокольней составляла 14 саженей, ширина 4 сажени и 1 аршин. Вдоль северной стены храма тянулась открытая с боков галерея, крыша которой поддерживалась четырьмя колоннами с капителями ионического стиля; колонны соединялись внизу тремя арками, под средней из которых располагалась часовня. Храм имел форму четырехгранного квадрата с тремя окнами на каждой стороне; крыша была выполнена в виде круглого шатра с круглым барабаном и грушевидной главой, украшенной звездами. Алтарь был трехабсидным, слабо выраженными абсидами.

Колокольня была четырехгранной, двухъярусной, выполненной в "итальянском" стиле. Над сквозными пролетами второго яруса находились кокошники, в центре которых были круглые сквозные окна, голосники, украшенные образами, написанными на жести. Над крышей колокольни возвышался удлиненный трибун с главой.

Стены храма в галерее были расписаны сценами из жизни святых; одна из картин изображала крестный ход вокруг Московского кремля. С восточной стороны храма в 1847 году была устроена каменная ограда с деревянными решетками.

Церковь была закрыта в 1930-х годах и переоборудована в общежитие. Во время войны она была повреждена снарядом, а в 1950-х годах разобрана. На месте храма было построено трехэтажное здание ателье, которое в настоящее время занято банком.