Les principales salles du monastère, taillées dans les grottes, se trouvent dans la falaise ouest du rocher du Monastère, sur le plateau duquel subsistent les ruines de la forteresse médiévale de Kalamita, fondée au VIe siècle. Aux XIVe-XVe siècles, la forteresse est devenue une partie du principauté orthodoxe de Théodore et protégeait son port, mais en 1475, elle a été capturée par les Turcs. Les historiens datent différemment la fondation du monastère : du VIIIe-IXe au XIVe-XVe siècles.

Selon la légende, le monastère est né en lien avec le culte de Clément, évêque romain, exilé par l'empereur Trajan pour avoir prêché le christianisme dans les carrières près de Chersonèse et tué ici en 101. Les reliques de saint Clément, retrouvées un an après sa mort, étaient d'abord conservées dans une grotte sous-marine près de Chersonèse, accessible une fois par an, lorsque la mer se retirait. Plus tard, elles ont été transférées sur une île, où, selon la légende, des anges ont construit une église. Vers 861, les reliques ont été retrouvées par les saints Cyrille et Méthode et transférées dans le temple de Chersonèse, où des miracles se produisaient par les prières du saint.

Près du monastère se trouvait une source, ouverte par saint Clément pour soulager le sort des bagnards. Dans les années 1970, la source s'est asséchée, et son eau a inondé une carrière d'extraction de pierre d'Inkerman de l'autre côté de la falaise.

Après la capture de la forteresse de Kalamita par les Turcs en 1475, le monastère est tombé en déclin. La forteresse a été renommée Inkerman, ce qui a donné son nom à la ville, qui appartenait à la Russie depuis 1783.

En 1850, le monastère a été restauré et a reçu son nom moderne en l'honneur de la ville et de saint Clément. En 1867, le temple souterrain de saint Martin le Confesseur a été réaménagé et ouvert. En 1895, un temple en l'honneur du grand martyr Panteleimon a été construit en mémoire du sauvetage de la famille impériale, et en 1905, l'église de saint Nicolas de Myre a été construite en mémoire de la guerre de Crimée.

Depuis 1924, les temples du monastère ont commencé à être fermés. En 1927, un tremblement de terre a endommagé les églises de l'Annonciation et de Nicolas, et elles ont été démolies. En 1928, le temple de l'icône de « Tous les affligés, joie » a été fermé. En 1931, les services dans les temples souterrains ont cessé, le monastère a été définitivement fermé, et ses biens ont été transférés à l'association muséale de Sébastopol. Après la fermeture, le supérieur Venedikt, le père Prokopy et deux vieillards sont restés vivre dans le monastère.

Pendant la Grande Guerre patriotique, le quartier général de la 25e division Chapayev de l'Armée maritime se trouvait dans les grottes du monastère. En juin 1942, les soldats de cette division ont tenu en échec l'avancée des troupes allemandes sur Sébastopol dans les hauteurs d'Inkerman.

Depuis 1991, le monastère a commencé à être progressivement restauré sous la direction de l'archimandrite Augustin, de la fraternité et des laïcs. Les temples et les corps de cellules ont été restaurés, et une partie de la tête de saint Clément a été apportée de Kiev, installée dans le nef latéral du temple Saint-Clément.

Le 26 janvier 2019, les services hebdomadaires ont repris dans le complexe du temple souterrain, dans le temple de Clément de Rome.