La Cámara de Armas fue nombrada en honor al tesoro estatal, al que en 1720 ingresaron los talleres del Kremlin. Desde 1806 comenzó a funcionar como museo, inicialmente accesible para la nobleza, y desde 1918, para todos los interesados. La base de la colección está compuesta por joyas que han sido guardadas durante siglos en el tesoro imperial y en el sacristía patriarcal, creadas en los talleres del Kremlin, así como regalos de embajadas extranjeras. Para albergar la colección, en 1851 se construyó un edificio en estilo ruso-bizantino en el territorio del Kremlin, según el proyecto del arquitecto Konstantin Ton.

La colección de la Cámara de Armas comenzó a formarse en el siglo XIV como un tesoro privado de los príncipes y zares de Moscú. Con la expansión del Estado ruso, el tesoro también creció: en 1484 se decidió construir un edificio separado con un techo piramidal entre las catedrales de Arcángel y de la Anunciación para almacenar los valores. Desde entonces, la institución pasó a llamarse Casa del Tesoro, donde se trasladaron todos los tesoros de los príncipes de Moscú y las reservas de oro de las catedrales del Kremlin. El tesoro perdió su estatus de propiedad personal y se convirtió en un almacén estatal oficial. El tesoro se fue llenando gracias a la expansión territorial, los bienes de los boyardos caídos en desgracia, los regalos de los embajadores extranjeros y los obsequios de los patriarcas.

Después de la revolución, las autoridades soviéticas crearon una comisión de Gokhran para la incautación de objetos de la colección de la Cámara de Armas. En un acto del 21 de junio de 1930, el grupo 'Antiquidad' confiscó más de 318 objetos para su venta en el extranjero, incluyendo once huevos de Pascua de Fabergé. Estas acciones se relacionan con el suicidio del director de la Cámara de Armas, Dmitry Ivanov, en 1930. Se resistió durante mucho tiempo a la incautación de los valores y, al enterarse de la inminente confiscación masiva, dejó una nota de suicidio en la que escribió: 'no he saqueado, no he vendido, no he comerciado, no he escondido los valores de la Cámara...'.