Грот был спроектирован архитектором Осипом Ивановичем Бове (1784-1834) во время его работы над Кремлевскими садами, которые в 1856 году получили название Александровских.

Грот стал главной достопримечательностью Верхнего Александровского сада, открытого в 1821 году. В начале сентября 1820 года Комиссия для строений, созданная для восстановления города после пожара в Отечественной войне 1812 года, рассмотрела проект Бове на строительство грота. Согласно проекту, грот должен был располагаться у Кремлевской стены между Воскресенским и Троицким мостом. Комиссия одобрила проект, но с условием завершения работ в течение месяца. 18 октября того же года Бове сообщил Комиссии, что строительство завершено. Грот был построен из казенных материалов, а рабочие и инструменты предоставил подольский купец Василий Стрельцов.

Бове разместил грот у Средней Арсенальной башни Кремля напротив Манежа. Грот представляет собой арку с антаблементом, который поддерживают четыре дорические колонны с каннелированными стволами. Строгие формы колонн контрастируют с нагромождением камней и обломков зданий, разрушенных в ходе войны и пожара. Грот является ярким примером стиля ампир: строгая композиция дополнена декором с изображением военных доспехов, так называемой арматурой, вписанной в метопы фриза.

Согласно путеводителю по Москве 1831 года, в саду «по самой середине к стороне стены сделано земляное возвышение в виде природной горы. На оной со вкусом сделанный павильон (где обыкновенно по воскресеньям играет полковая музыка), в самой горе сделан прекрасный грот в образе развалин; по сторонам грота видны разные обломки пьедесталей, колон и пр.: перемешанные с огромными каменными ядрами, которые употреблялись в древности вместо чугунных».

В ходе реставрации 1958-1959 годов на верхней площадке грота установили две фигуры львов.