В конце 1891 года в Новороссийске было открыто городское кладбище, расположенное между улицами Анапской (сейчас Видова), Ставропольской, Чайковской и Ксениевской (ныне Клары Цеткин). Площадь кладбища составляла около 20 000 сажен и имела прямоугольную форму. На его территории началось строительство Успенской церкви, которое велось под контролем специально созданного Городской Думой комитета.

23 ноября 1904 года Городская Дума обсудила вопрос об освящении новой Успенской церкви. Приняв отчет Управы о завершении строительства, Дума выделила 300 рублей на освящение и выразила благодарность председателю комитета по строительству М.Ф. Пенчулу и всем членам комитета за их труд и пожертвования на благо нового храма.

В повседневной жизни и в Городской Думе Успенскую церковь часто называли Кладбищенской, однако в официальных документах того времени она значилась как "Городское кладбище при Успенской церкви". Сегодня на территории, где находилась Успенская церковь (бывшее городское кладбище), расположено здание военного госпиталя на улице Видова, рядом с церковью.

С 1945 года церковь продолжает действовать.