В XV веке на крутом берегу Неглинки была построена Пушечная изба, которая после пожара 1488 года была преобразована в Пушечный двор. Это сооружение представляло собой кирпичную конусовидную башню, окружённую забором.

На протяжении почти двух с половиной столетий здесь ковалась военная мощь России. Именно на этом дворе была изготовлена знаменитая Царь-Пушка, известная также как "Дробовик Российский".

В 1739 году Пушечный двор, к тому времени известный как "Новый полевой артиллерийский двор", был перенесён к Красному пруду. А на месте Пушечного двора на Рождественке разместили артиллерийский склад, известный как Артиллерийское депо. В начале 1800-х годов все строения бывшего Пушечного двора были разобраны. После пожара 1812 года местность была спланирована и выставлена на продажу.

К концу XIX века участок на углу с Пушечной улицей, ранее известной как улица Софийка, принадлежал В. А. Аргамаковой, а затем перешёл к княгине Ольге Андреевне Туркестановой. В доме на этом месте находилось венское кафе Австро-Венгерской общины "Альпенрозе", позже переименованное в "Альпийская Роза". Это заведение пользовалось популярностью у московских немцев и артистов Малого театра.

Следующим владельцем участка стало страховое товарищество "Саламандра". В 1910 и 1913 годах архитектор Виктор Андреевич Величкин полностью перестроил старое здание. Фасады нового здания были выполнены в неоклассическом стиле с элементами ампира, включая ионическую угловую полуротонду на уровне второго этажа, завершённую балконом. Здесь открылась гостиница "Савой". При гостинице работало одноимённое кафе, а в соседнем здании находился ресторан "Альпийская Роза", перестроенный инженером П. П. Висневским, мастером модерна. Интерьеры кафе были оформлены в рокайльном стиле художником А. А. Томашко.

В советские годы гостиница продолжала работать. Именно в ресторане "Савой" разворачивались события, приведшие к задержанию Фокса в романе братьев Вайнеров "Эра милосердия", по которому снят фильм "Место встречи изменить нельзя".

В 1950-е годы гостиница была переименована в "Берлин". Ресторан "Берлин" (бывшее дореволюционное кафе) считался одним из лучших в Москве. Особенностью ресторана был небольшой бассейн с фонтаном, в котором плавала живая рыба. Посетители могли выбрать рыбу, и её тут же готовили и подавали на стол.

В 1987 и 1989 годах здание было отреставрировано, и гостинице вернули её прежнее название "Савой". Сейчас это первоклассный отель, в ресторане которого по-прежнему работает фонтан.

Здание имеет статус исторически ценного градоформирующего объекта.