Мариинский приют был основан 21 апреля 1847 года и назван в честь великой княгини Марии Николаевны, которая владела землями в Тамбовской губернии. Дом для приюта пожертвовала известная благотворительница из Тамбова Татьяна Ивановна Лион. После ее смерти дело матери завершил ее сын, инженер и капитан Сергей Иванович Лион.

В 1879 году для приюта построили новое двухэтажное каменное здание, где проживало до 150 сирот из малоимущих семей. Детей принимали с восьми лет и содержали до двенадцати, после чего их возвращали родственникам.

В 1898 году открылись ремесленные классы имени братьев Жемариных, и дети оставались в приюте до 18 лет. Их обучали чтению, письму, арифметике и закону Божьему. Девочки после окончания курса занимались рукоделием и хозяйством, а мальчики осваивали переплетное и сапожное дело. Старшие девочки по очереди готовили еду, стирали и гладили белье.

Воспитанники приюта должны были быть внимательными во время молитв, уважать старших, быть исполнительными и бережливыми, а также доброжелательными друг к другу.

Приют финансировался за счет пожертвований частных лиц, а также губернских и городских властей. Аптекарь А.А. Вернер с момента открытия приюта бесплатно предоставлял лекарства по рецептам врача. Фабрикант М.В. Асеев неоднократно снабжал приют сукном для пошива детской одежды. Наиболее способные воспитанники продолжали обучение в гимназии, реальном училище или фельдшерской школе.

В советское время в здании находилась областная картинная галерея, а с 1984 года здесь работает Тамбовская областная детская библиотека.