Das Waffenlager wurde nach dem staatlichen Schatzhaus benannt, in das 1720 die Kreml-Werkstätten eintraten. Ab 1806 begann es als Museum zu funktionieren, zunächst für den Adel zugänglich, und ab 1918 für alle Interessierten. Die Grundlage der Sammlung bildeten Juwelen, die über Jahrhunderte im Zaren-Schatz und in der patriarchalischen Schatzkammer aufbewahrt wurden, die in den Kreml-Werkstätten geschaffen wurden, sowie Geschenke ausländischer Botschaften. Um die Sammlung unterzubringen, wurde 1851 nach dem Entwurf des Architekten Konstantin Ton ein Gebäude im russisch-byzantinischen Stil auf dem Gelände des Kremls errichtet.

Die Sammlung des Waffenlagers begann im 14. Jahrhundert als private Schatzkammer der Moskauer Fürsten und Zaren zu entstehen. Mit der Expansion des Russischen Staates wuchs auch der Schatz: 1484 wurde beschlossen, ein separates Gebäude mit pyramidenförmigem Dach zwischen der Erzengel- und der Verkündigungskathedrale zum Aufbewahren von Werten zu errichten. Von diesem Zeitpunkt an wurde die Einrichtung als Staatslager bezeichnet, in das alle Schätze der Moskauer Fürsten und die Goldreserven der Kreml-Kathedralen verlegt wurden. Der Schatz verlor den Status des persönlichen Eigentums und wurde zu einem offiziellen staatlichen Lager. Der Schatz wurde durch territoriale Expansion, das Eigentum verstoßener Bojaren, Geschenke ausländischer Gesandter und Geschenke der Patriarchen aufgefüllt.

Nach der Revolution schufen die sowjetischen Behörden eine Kommission des Gokhrana zur Beschlagnahme von Gegenständen aus der Sammlung des Waffenlagers. Mit einem Akt vom 21. Juni 1930 beschlagnahmte die Gruppe „Antiquitäten“ mehr als 318 Gegenstände zum Verkauf ins Ausland, darunter elf Fabergé-Eier. Diese Maßnahmen werden mit dem Selbstmord des Direktors des Waffenlagers Dmitri Ivanov im Jahr 1930 in Verbindung gebracht. Er hatte sich lange gegen die Beschlagnahme der Werte gewehrt und hinterließ, als er von der bevorstehenden Massenkonfiszierung erfuhr, einen Abschiedsbrief, in dem er schrieb: „Ich habe die Palastwerte nicht geraubt, nicht verkauft, nicht gehandelt, nicht versteckt…“