En 1657, la première église en bois de l'Assomption de la Sainte Vierge a été construite à Kharkiv, située dans la forteresse juste au sud de la cathédrale actuelle. Elle était petite, froide et pauvre, manquant de livres de service et d'icônes en papier. Avec la croissance de la ville et l'apparition de nouvelles églises, l'église de l'Assomption ne pouvait plus accueillir tous les fidèles. Entre 1685 et 1687, un premier édifice en pierre a été érigé à sa place, devenant le premier à Kharkiv. Comme la plupart des cathédrales, il avait une structure en croix et sa toiture ainsi que ses cinq dômes étaient recouverts de bardeaux de chêne. À proximité se tenait un clocher en pierre avec deux "chambres" et une cave, louées pour générer des revenus pour l'église. Le 3 mars 1733, un incendie a détruit la cathédrale, ne laissant que les murs en pierre. Un an plus tard, elle a été restaurée, les dômes recouverts de tôle blanche et la croix dorée, mais des fissures sont rapidement apparues dans le bâtiment. Dans les années 1870, elle a été démolie pour construire une nouvelle cathédrale, conforme au statut de Kharkiv en tant que centre commercial et industriel du gouvernement de Sloboda-Ukraine. L'ancien temple ne correspondait pas à l'esprit de l'époque de Catherine.

Lors de la conception du nouveau temple, l'église de saint Clément à Moscou, construite entre 1762 et 1770, a servi de modèle. Sa particularité était sa forme carrée et l'absence d'absides semi-circulaires. Le tambour central du dôme reposait sur quatre piliers, et les dômes d'angle n'étaient pas reliés à l'espace intérieur. L'apparence extérieure de la cathédrale reflétait la transition du baroque au classicisme. Les façades étaient sobres, ornées de décorations en stuc rappelant le baroque. Les intérieurs se distinguaient par leur opulence, y compris un iconostase en bois sculpté et doré, réalisé selon un croquis de Rastrelli.

La construction de la cathédrale a duré douze ans et s'est achevée en juin 1783. La nouvelle cathédrale était beaucoup plus grande que l'ancienne et avait quatre autels : le principal de l'Assomption, le sud en l'honneur de la Vierge de Kazan, le nord en l'honneur de Sainte Catherine et un autre dans les chœurs en l'honneur de Pierre et Paul. La fierté de la cathédrale était les icônes de la Vierge de Yelets et de saint Nicolas. Après l'achèvement de la cathédrale, la question de la construction d'un nouveau clocher s'est posée, une décision prise en 1819. Dans le clocher, un temple a été aménagé en l'honneur d'Alexandre Nevski, en mémoire de la victoire dans la guerre patriotique de 1812. La construction a commencé le 8 mai 1821 et s'est poursuivie par intermittence jusqu'en 1833. En 1837, les travaux ont repris sous la direction de l'architecte K.A. Ton. En 1841, une croix dorée pesant 400 kg et mesurant 5 m a été installée sur le clocher. Les travaux ont été achevés en 1844, et le clocher est devenu le plus haut de la ville, avec 12 cloches et une horloge commandée à Paris. Le clocher, relié au temple, est devenu la principale dominante du centre-ville, alliant les styles baroque et classique.

Après la révolution de 1917, la cathédrale et le clocher ont été utilisés à d'autres fins et ont subi des destructions. En 1973, une restauration a commencé, au cours de laquelle les fondations et les murs ont été renforcés, les tambours et le dôme restaurés, et la décoration renouvelée. En 1986, un Maison de musique organique et de chambre a ouvert dans le bâtiment.

Le 29 octobre 2004, par décret du chef de l'administration régionale de Kharkiv E.P. Kushnarev, le complexe de la cathédrale de l'Assomption a été transféré à l'UGCC, mais la décision a été contestée en justice. En 2006, la croix sur le clocher a été restaurée. En 2009, la cathédrale a été transférée à l'Éparchie de Kharkiv de l'UGCC, et jusqu'en 2010, des concerts et des services y ont eu lieu. En 2016, après l'ouverture d'une nouvelle salle d'orgue, la cathédrale est entièrement passée sous la juridiction de l'Éparchie.