Название Гостиного двора связано с понятием "гость", что в старину означало купца, занимавшегося оптовой и международной торговлей в России и имевшего особые привилегии. Первый такой двор появился в Москве в начале XVI века на месте пересечения улицы Ильинка и Рыбного переулка, известного как Ильинский крестец.

При правлении Ивана Грозного деревянное строение Гостиного двора заменили на каменное, но оно неоднократно страдало от пожаров. В период правления Алексея Михайловича двор был разделен на Старый и Новый, а затем на четыре части: Старый, Новый, Соляной и Рыбный.

Рыбный переулок в XVII веке назывался Введенским из-за церкви Введения Пресвятой Богородицы. В XVIII веке он стал Магистратским благодаря Главному магистрату, находившемуся там. Позже переулок получил название по Общественному рыбному двору, располагавшемуся здесь в XVIII и начале XIX веков. После строительства Старого и Нового гостиных дворов переулок стал проходом между их фасадами. Новый гостиный двор был заложен в 1838-1840 годах на месте снесенных Старых рыбных рядов.

В это время Московское купеческое общество, испытывая нехватку торговых площадей в Старом гостином дворе, инициировало строительство дополнительных помещений. На месте Старых рыбных рядов появилось трехэтажное здание с длинным фасадом, возведенным на высоком цоколе. Построенное в стиле позднего классицизма, здание также содержит элементы ампира.

Цокольный этаж отделан рустом, а главный фасад украшен тремя заглубленными ризалитами с ионическими портиками и барельефами между ними. Здание выделяют высокие окна парадного этажа с торжественным обрамлением и купол, завершающий центральную часть.

В 1890 году на главном фасаде Нового гостиного двора добавили дополнительные окна и двери, а также проездные арки, что нарушило первоначальную симметрию здания.

Сегодня в здании располагаются некоторые подразделения Росимущества.