В Тамбове отделение Государственного банка начало свою работу 23 июня 1864 года, в соответствии с указом Сената от 20 декабря 1863 года, с начальным капиталом в 50,000 рублей. Это отделение было одним из первых и старейших в России. Изначально оно располагалось в здании Казённой палаты, находившемся в частном доме господина Герасимова на улице Гимназической, которая сейчас известна как улица Коммунальная, дом 8.

Банку выделили три небольшие комнаты, которые оказались тесными и неудобными для работы. Поэтому в следующем году отделение переехало в более просторный дом госпожи Зубковой на улице Дворцовой, ныне улице Советской, дом 103.

Хотя на улице Гимназической (ныне Коммунальной) отделение проработало всего около года, это здание стало историческим как место расположения первого отделения Госбанка в Тамбове.