С самого начала существования тамбовской крепости у въезда с московской дороги в город находилось ярмарочное место, расположенное у Никольского моста через речку Студенец. В 1786 году здесь был построен деревянный гостиный двор, а в 1788 году, под руководством главы Тамбовского наместничества Г.Р. Державина, вместо старого моста возвели каменный. После пожара гостиный двор пострадал, и с 1824 года купцы, лишённые удобных мест для торговли в центре, начали ходатайствовать о строительстве новых торговых рядов из кирпича, предлагая для этого свои средства.

Планировалось, что новый гостиный двор будет располагаться фасадом к улице Знаменской (ныне Октябрьская). Однако купцы сочли такое расположение невыгодным, так как здание оказалось бы "задом" к старому гостиному двору, что создало бы неудобства для торговцев и покупателей. Они предложили построить его на одной линии со старым вдоль улицы, ведущей от каменного моста. Проект был изменён, и в 1836 году началось строительство комплекса лавок. Западная часть Соборной площади превратилась в большое ярмарочное место с множеством торговых рядов, балаганом и временными лавочками.

Гостиные дворы, построенные в то время в российских городах, благодаря своим художественным достоинствам, служили их украшением. Гостиный двор в Тамбове с мощной колоннадой, поддерживающей тяжёлый антаблемент, и восьмиколонным портиком в центре выглядел выразительно и монументально.

Тем не менее, историки градостроительства и архитектуры считают, что появление нового торгового комплекса ухудшило композицию центра города. Во-первых, кафедральный собор оказался за гостинным двором. Во-вторых, подвоз и хранение товаров теперь осуществлялись на главной городской площади. Чтобы скрыть хозяйственный двор, во второй половине XIX века его окружили общественными постройками.

Во время Великой Отечественной войны в помещениях гостиного двора ремонтировали грузовые автомобили, а в 1956 году его реконструировали по проекту архитектора В.Г. Самородова. Тогда здание, в котором разместили ГУМ, расширили за счёт пристройки и превратили из двухэтажного в одноэтажное. Для оформления интерьеров пригласили столичных художников.