С 1770 года в здании находился Московский Архив Коллегии Иностранных дел, где работали такие известные личности, как А.К. Толстой, В.Ф. Одоевский, Н.П. Огарев и другие "архивные юноши", внесшие значительный вклад в русскую культуру. Здание для архива приобрел историк и академик Г.Ф. Миллер. В 1783 году управляющим архивом стал Н.Н. Бантыш-Каменский, посвятивший этой службе 52 года. Описи, составленные им и его коллегами, до сих пор востребованы исследователями Российского государственного архива древних актов, куда в XX веке вошли документы Московского Архива Коллегии Иностранных дел.

Долгое время архивом руководил дипломат и историк А.Ф. Малиновский, брат директора Царскосельского лицея и друг семьи Пушкиных. Александр Сергеевич Пушкин неоднократно посещал архив в поисках материалов для "Истории Пугачевского бунта". Николай Михайлович Карамзин изучал здесь старинные документы для своей "Истории государства Российского".

В 1808 году здание было перестроено по проекту архитектора Ф.К. Соколова. Примерно в это же время была создана Комиссия по печатанию государственных грамот и договоров, где работали специалисты по древностям, известные филологи и историки.

Во время войны 1812 года ценные документы и часть сотрудников были эвакуированы в Нижний Новгород, но в архиве оставалось много важных документов и библиотека. 5 сентября архив был частично разграблен наполеоновскими солдатами, но уже через год возобновил работу.

Со временем здание перестало вмещать все документы, и архив был распределен по разным местам, включая Оружейную палату.

В конце XIX века, после окончательного переезда архива, здание перешло в собственность Русского Музыкального общества, где разместились музыкальные классы Московской консерватории. В 1882 году их сменила типография Петра Юргенсона, издателя музыкальных произведений.

П.И. Юргенсон впервые в России издал полные собрания сочинений Бетховена, Шопена и других европейских композиторов. "Нотные палаты" посещали многие русские композиторы. Часто бывавший здесь П.И. Чайковский писал Юргенсону: "Я ужасно люблю твой отставной архив с его феноменально толстыми стенами, с его живописным положением и характерностью".

В 1918 году фирма была национализирована и продолжила работу как подразделение Музыкального отдела Наркомпроса, затем как Государственное музыкальное издательство (Музгиз), а с 1964 года как Издательство "Музыка".