L'idée de construire une ligne de chemin de fer en acier en direction de Yaroslavl appartient en grande partie au professeur de mathématiques de l'Université d'État de Moscou, Fiodor Tchijov, qui est devenu par la suite un grand théoricien du développement industriel et commercial de la Russie. Pour créer le premier chemin de fer privé russe de Moscou à Serguiev Possad, il a attiré un groupe de marchands moscovites. Le marchand Ivan Fiodorovitch Mamontov, père du célèbre mécène Savva Mamontov, a joué un rôle important dans ce projet.

En 1859, l'empereur Alexandre II a approuvé la décision de construire une ligne de chemin de fer de Moscou à Serguiev Possad avec la condition de son prolongement jusqu'à Yaroslavl dans un délai de trois ans, car la ligne seulement jusqu'à Serguiev Possad était considérée comme un « luxe » et ne pouvait pas supporter une charge de transport sérieuse.

Le choix de l'emplacement de la gare n'était pas simple. Des options près de la tour Soukhareva et du poste de contrôle de Krestovski, ainsi que la possibilité d'envoyer des trains depuis la gare de la ligne de chemin de fer Saint-Pétersbourg-Moscou, ont été envisagées. Finalement, il a été décidé de construire la gare sur la place Kalanchovskaïa.

Le projet de la gare a été initialement développé par l'architecte M.Yu. Levestam, mais son projet n'a pas été approuvé. Le projet final a été créé par l'architecte R.I. Kouzmine. C'était un petit bâtiment de deux étages avec un petit clocher au centre, rappelant la gare de la ligne de chemin de fer Saint-Pétersbourg-Moscou. La gare était en cul-de-sac, avec des quais séparés pour l'arrivée et le départ des trains. La ligne de chemin de fer Troïtskaïa a été ouverte en 1862. Pour l'inauguration de la gare, le métropolite Philaret a été invité, qui a vu pour la première fois le chemin de fer et le train. Spécialement pour lui, une locomotive a effectué plusieurs manœuvres sur la gare.

Au début des années 1870, avec le prolongement de la ligne jusqu'à Yaroslavl, la gare a été reconstruite. La façade donnant sur la place Kalanchovskaïa a été conservée, mais les corps latéraux ont été surélevés, ce qui a créé une composition disharmonieuse.

En 1898 et 1899, la ligne a été prolongée jusqu'à Arkhangelsk, et la gare est devenue exiguë. L'architecte L.N. Kekoucha a développé un nouveau projet de reconstruction, puis l'architecte F.O. Shechtel a donné à la gare un tout nouveau visage. La façade a été réalisée sur le modèle du pavillon du Nord russe, créé par l'artiste K.A. Korovin pour la foire de Nijni Novgorod de 1896. Le bâtiment a intégré des éléments de l'architecture russo-ancienne, retravaillés par Shechtel. Le toit haut, la large frise en carreaux émaillés, les inserts en majolique et d'autres éléments créent une image épique unique. Les tours de la gare sont judicieusement situées, ce qui permet une perception différente du bâtiment depuis différents points de la place Kalanchovskaïa.

Depuis 1907, la gare a été appelée Gare du Nord. Le 20 juin 1929, le premier train électrique de Moscou est parti de là.

En 1966, la gare a acquis un aspect moderne, tout en conservant des éléments du bâtiment d'origine et des reconstructions ultérieures. À l'intérieur, de massives colonnes, qui se trouvaient auparavant sur le quai de départ des trains, ont été conservées.