В XVII веке Зацепская площадь была одним из главных мест для таможенного контроля. По преданию, чтобы организовать движение телег и избежать давки, вдоль улицы натянули цепь, и купцы с товарами ожидали своей очереди «за цепью». Существует и другая версия происхождения названия: телеги могли «зацепить» для проверки. На въезде в город традиционно строили церковь, и на Зацепе она была посвящена святым Флору и Лавру.

В конце XVI века, вскоре после возведения стен Земляного города, новой границы Москвы, сюда переехали ямщики с Полянки, основавшие Коломенскую-Ямскую слободу. Это название до 1922 года носила часть Дубининской улицы. Ямщики построили первую деревянную церковь в честь святых Флора и Лавра, покровителей скота, особенно лошадей. Во время Смуты церковь сгорела, и в 1628 году новый храм был освящён в честь святых Петра и Павла, с приделом Флора и Лавра. В 1738 году здание снова сгорело, и на его месте построили каменную церковь. Посвящение изменилось: главный престол стал во имя иконы Божией Матери «Всех скорбящих Радость», с приделами Флоролаврским и Петропавловским. Окончательный облик храма сложился в XIX веке: в 1835 году построены трапезная с приделами и колокольня, а в 1861-62 годах возведён новый четверик.

Церковь выполнена в едином ампирном стиле. Декор сдержанный, но размеры делают её центральным объектом Зацепской площади.

Храм действовал дольше других церквей в округе, но в 1938 году был закрыт. Здание стало цехом фабрики, интерьеры уничтожены, внутреннее пространство разделено на этажи, глава сбита, колокольня разрушена до первого яруса, утрачены многие детали фасадов. Окружающая застройка исчезла, включая дом причта. Вокруг церкви сделали разворотный круг трамваев. Из-за вибрации появились трещины, ядовитые испарения вредили стенам, а земля была заражена отходами. Лишь в 1991 году началась реставрация, фабрика выехала. К 850-летию Москвы церкви вернули исторический облик, восстановлены глава и колокольня.

В 2015-2016 годах провели работы на фасадах колокольни, притворов и трапезной, а также по объёмам храма. Кровля купола колокольни была очищена и покрашена, восстановлены утраченные фрагменты. Реставрация северной и южной папертей включала сохранение подлинных каменных ступеней.

Храм стал лауреатом конкурса «Московская реставрация-2016» в номинации «лучшая организация ремонтно-реставрационных работ».