La famille Tretiakov a acquis une maison dans la ruelle Lavrushinsky en 1851, bien que l'histoire de cette propriété commence à la fin du XVIIe siècle. À cette époque, des palais en pierre étaient déjà présents, ayant été plusieurs fois reconstruits, notamment par les Kologrivovs au XVIIIe siècle. Entre 1835 et 1839, les marchands Shestov ont réalisé une nouvelle rénovation.

En 1856, Pavel Mikhailovich Tretiakov a acheté les premières peintures d'artistes russes : « Confrontation avec des contrebandiers finlandais » de Vasily Khudyakov et « La Tentation » de Nikolai Shilder, ce qui a marqué le début de sa célèbre collection. Avec le temps, l'espace pour la collection croissante est devenu insuffisant, et en 1872, il a ajouté un corps supplémentaire au coin sud-ouest de la maison pour la galerie. Dans les années 1880, selon le projet de l'architecte A. S. Kaminsky, de nouveaux bâtiments ont été érigés, y compris un bâtiment sur la ruelle Maloy Tolmachevsky, ainsi qu'une clôture avec une entrée principale du côté de la ruelle Lavrushinsky.

En 1892, Tretiakov a transféré sa collection à Moscou, qui comprenait 1287 peintures, 518 dessins et 9 sculptures d'artistes russes des XVIIIe et XIXe siècles, ainsi que 75 peintures de son frère Sergey. Pavel Mikhailovich est devenu le conservateur à vie de la galerie. Après sa mort en 1899-1900, la maison a été reconstruite pour les besoins de la galerie, et en 1902, les bâtiments de la ruelle Lavrushinsky ont été unifiés par une nouvelle façade selon le projet de V. M. Vasnetsov, créant l'apparence familière de la Galerie Tretiakov.

En 1913, le conservateur de la galerie est devenu I. E. Grabar, qui a pris la direction après la révolution. Dans les années 1920 et au début des années 1930, plusieurs propriétés voisines ont été ajoutées à la galerie, y compris l'église fermée de Saint Nicolas à Tolmachi. En 1936, selon le projet d'A. V. Shchusev, un bâtiment supplémentaire de deux étages a été construit, qui est rapidement devenu une partie de l'exposition principale.

Pendant la Grande Guerre patriotique, les expositions de la galerie ont été évacuées à Novossibirsk et Perm, et le bâtiment a été endommagé par des raids. En 1944, la plupart des salles avaient été restaurées.

Au milieu des années 1980, la construction d'un dépôt et d'un nouveau bâtiment de musée à l'angle de la rue Bolshoy Tolmachevsky a commencé, ce qui s'est avéré peu réussi sur le plan architectural. Le bâtiment principal a été rénové tout en préservant son apparence historique, et les travaux ont été achevés en 1995. L'ensemble muséal comprend l'église de Nicolas le Miracleux à Tolmachi, devenue un temple-musée, où est conservée l'icône miraculeuse de la Vierge Marie de Vladimir.

Aujourd'hui, la collection de la galerie compte plus de 170 000 œuvres d'art. Ce n'est pas seulement l'un des musées mondiaux les plus connus, mais aussi un grand centre scientifique et de restauration.