На рубеже XV и XVI веков на этом месте появился первоначальный деревянный храм. Название «Обыденный» связано с тем, что церковь была построена за один день, вероятно, из готовых срубов. По другой версии, храм воздвигли «по обету» после окончания сильной засухи. После этого природного катаклизма храм вошел в историю в период Смуты: 24 августа 1612 года келарь Троице-Сергиева монастыря Авраамий Палицын провел здесь молебен о победе над поляками, на котором присутствовал князь Дмитрий Пожарский. Штаб Второго ополчения, отражавшего натиск гетмана Хоткевича, находился неподалеку.

Деревянный храм несколько раз обновляли, а в 1702 году его заменили каменной постройкой, средства на которую пожертвовал думный дьяк Гавриил Деревнин. Внутри храма мраморные плиты напоминают о нем и его брате Василии. Церковь была построена в соответствии с архитектурной модой того времени: вытянутая по вертикали конструкция «восьмерик на четверике». Грани обоих объемов украшены колонками коринфского ордера с маленькими капителями, а окна остаются строго аскетичными, без наличников. Восьмерик увенчан одной граненой главой с крестом. В северной стене храма сохранились несколько надгробных таблиц, свидетельствующих о существовавшем здесь приходском кладбище. В интерьере сохранился центральный иконостас с образами XVII века, включая образ Спаса Нерукотворного 1675 года, образ Казанской Божией Матери, созданный Симоном Ушаковым, храмовую икону святого Илии Пророка с 20 клеймами жития и другие.

Изначально трапезная церкви была однобокой, с приделом Симеона Богоприимца и Анны Пророчицы. В 1819 году ее заменили каменной трапезной, где появился второй престол во имя апостолов Петра и Павла. Окончательный облик Ильинского храма сформировался в 1866-1868 годах, когда трапезную перестроили и расширили, а с запада по проекту А.С. Каминского возвели новую колокольню с четырехгранным шатром в неорусском стиле. Работы велись на пожертвования церковного старосты, купца В.Д. Коншина. Также известной благотворительницей была соседка А.Д. Третьякова, мать создателя галереи. В 1882 году при храме построили здание в стиле барокко для школы и богадельни.

После революции церковь пострадала во время кампании по изъятию церковных ценностей, утратив часть убранства и драгоценной утвари, но богослужения продолжались. Из храма Воскресения в Сокольниках сюда перенесли икону Божией Матери «Нечаянная радость», которая до революции находилась в церкви Благовещения в Кремле. Долгое время здесь хранился посох последней настоятельницы соседнего Зачатьевского монастыря, который вернули в обитель после возрождения монашеской жизни. Существует легенда, что власти планировали закрыть церковь 22 июня 1941 года, но этому помешало начало Великой Отечественной войны.

В то время, когда храмы повсеместно закрывались, службы в церкви Илии Пророка продолжались. Именно здесь устроили заочное отпевание писателя М.А. Булгакова после его смерти, по желанию его сестер. Сам писатель перед смертью просил о кремации, и его просьбу выполнила супруга Елена Сергеевна Булгакова, похоронив прах на Новодевичьем кладбище.