Im Jahr 1864 wurde das Yaroslawler naturhistorische Museum gegründet, das Sammlungen zur Botanik, Zoologie, Mineralogie und Geologie umfasste. 1881 wurde es der breiten Öffentlichkeit zugänglich gemacht. 1895 wurde dank der Yaroslawler Provinzwissenschaftlichen Archivkommission ein Museum mit kulturell-historischem Profil gegründet, bekannt als Drevlekhranilishche. 1909 entstand die Yaroslawler Kunstgesellschaft, die Künstler, Lehrer des Demidov-Lyzeums und Heimatforscher vereinte. Sie organisierte Ausstellungen, veröffentlichte Alben über die architektonischen Denkmäler Jaroslawls und hielt Vorträge über bildende Kunst, mit dem Ziel, ein Kunstmuseum oder eine Galerie zu schaffen. 1913 und 1914 übergab die Sankt Petersburger Akademie der Künste 14 Werke russischer Meister an den Fonds, und bis 1918 waren es etwa 30. Die Sammlung wurde durch Werke von lokalen Ausstellungen und Geschenken von Privatpersonen ergänzt, die im Drevlekhranilishche der Yaroslawler Provinzarchivkommission aufbewahrt wurden.

Mit dem Kommen der sowjetischen Macht begann eine neue Phase in der Entwicklung des Museumswesens in Russland. Im November 1917 wurde beim Volkskommissariat für Bildung die Allrussische Kollegium für Museumsangelegenheiten und den Schutz von Kunst- und Antiquitäten gegründet. Museen begannen, eine ideologische Funktion zu erfüllen, indem sie die Weltanschauung des neuen sowjetischen Menschen formten. 1919 wurde das Gebäude der ehemaligen Geistlichen Konsistenz, das 1815 von dem Architekten L. Ruski erbaut wurde, als Galerie übergeben. In den Jahren 1919 und 1924 stand die Galerie unter der Aufsicht des Yaroslawler Provinzunterabteilung für Museumsangelegenheiten. Ihre Sammlung umfasste die vor der Revolution von Yaroslawler gesellschaftlichen Organisationen gebildete Sammlung. Während des Yaroslawler Aufstands wurde das Gebäude der Galerie stark beschädigt und benötigte Reparaturen. Im März 1920 wurde ein Teil der Sammlung in der Yaroslawler Großen Manufaktur ausgestellt. Die Galerie stellte sowohl klassische Kunst als auch Werke zeitgenössischer Künstler des frühen 20. Jahrhunderts zusammen. 1922 erhielt das Museum den Status eines Museums für alte russische Kunst, und sein Fonds wurde durch die im Juli 1918 geplünderten Yaroslawler Kirchen und die schließenden Tempel ergänzt. 1924 vereinigten sich die Museen Jaroslawls zum Yaroslawler staatlichen Regionalmuseum, das das Naturhistorische Museum, das Museum für Geschichte und Alltagsleben, das Buchmuseum, eine wissenschaftliche Bibliothek, die Kunstgalerie und das Museum für alte russische Kunst umfasste. Dies ermöglichte es, die Bemühungen der Spezialisten zu bündeln, ohne die Spezialisierung der Museen einzuschränken. Die Kunstgalerie und das Museum für alte russische Kunst wurden zu einem einheitlichen Organismus, der den Kunstfonds Jaroslawls vereinte.

Die Registrierung der Besucher der Galerie begann 1922 und zählte bis 1928 über 40.000 Personen. Alle Bereiche der Museumsarbeit entwickelten sich weiter: wissenschaftliche Forschung, Restaurierung, Ausstellungs- und Ausstellungstätigkeit, propagandistische und erzieherische Arbeit, Führungen, Vorträge und praktische Übungen mit Studenten. Unter A. I. Malygin, der die Galerie bis 1929 leitete, schlossen sich alle künstlerischen Kräfte der Stadt um sie. Zu dieser Zeit wurde die Ausstellung russischer Kunst des 18. Jahrhunderts und der ersten Jahrzehnte des 20. Jahrhunderts geschaffen. 1927 wurden 56 Werke aus dem Staatsmuseumfonds erhalten. Zu Beginn des Jahres 1928 umfasste die Sammlung etwa 1600 Exponate: 335 Gemälde, 149 Aquarelle und Zeichnungen, 874 Drucke und Lithografien, 34 Skulpturen und 194 Gegenstände der angewandten Kunst.

In der zweiten Hälfte der 1920er Jahre begannen in Jaroslawl Überprüfungen durch das Hauptpolitische Bildungsamt und Verfolgungen gegen alte Fachkräfte. Von Januar 1929 bis März 1936 gehörte Jaroslawl zur Ivanovo Industrieprovinz. Der Status des Yaroslawler Museums änderte sich dreimal, was sich negativ auf seine Entwicklung auswirkte. Wertvolle Mitarbeiter wurden entlassen, und die Sammlung wurde in die Räumlichkeiten des historischen Museums verlegt. 1930 und 1931 war die Sammlung für die Öffentlichkeit geschlossen. 1932 wurde das Museum zum Yaroslawler regionalen Heimatmuseum, während die Galerie als dessen Abteilung existierte. Ihr wurde die Aufgabe übertragen, eine Sammlung von sozialistischen Realismus-Werken zu bilden. In der neuen Ausstellung des Kunstbereichs, die in den Sälen der ehemaligen Metropolitenpaläste untergebracht war, wurden bis 1936 Werke verschiedener Richtungen ausgestellt, aber die Kunst des 19. Jahrhunderts wurde als imperialistisch dargestellt, während die Arbeiten der Futuristen des 20. Jahrhunderts als fremd zur sozialistischen Ideologie galten.

Im März 1936 wurde beschlossen, die Yaroslawler Provinz wiederherzustellen. 1937 erhielt die Galerie den Status eines eigenständigen Yaroslawler regionalen Kunstmuseums. In den Jahren 1941 und 1945 funktionierte das Museum aufgrund des Zweiten Weltkriegs praktisch nicht. 1936 begannen die Repressionen, und das Museum erhielt Listen von Autoren, deren Werke beschlagnahmt werden sollten. Viele Künstler, wie A. M. Kadak, N. P. Jewdokimow und S. W. Schtscheglow, fielen unter die Repressionen. Ihre Arbeiten verschwanden fast, aber einige Werke wurden von den Mitarbeitern des Museums in den Depots versteckt. In den 1980er Jahren wurden Werke der repressierten Künstler, wie F. I. Weseli, B. A. Petruchin und A. A. Derzhavin, in die Sammlung aufgenommen. Während des Krieges wurde das Museum geschlossen, das Gebäude dem Militärministerium übergeben und die Sammlung teilweise evakuiert. Nach dem Krieg nahm das Museum seine Ausstellungstätigkeit wieder auf. Im Juni 1946 wurde eine ständige Ausstellung russischer Kunst eröffnet, und im November die Säle der Kunst der sowjetischen Periode. Seit Ende der 1940er Jahre wurde das Museum als Kunstmuseum bezeichnet, und 1950 wurde dies offiziell festgelegt.

Im Jahr 1953 gingen die Kunstmuseen, einschließlich des Yaroslawler, in die Verwaltung der Abteilung für bildende Kunst und den Schutz von Denkmälern des Kulturministeriums der RSFSR über. Ihnen wurde die Aufgabe übertragen, russische und sowjetische realistische Kunst zu präsentieren. In den 1950er Jahren kam die Restauratorin Elena Pawlowna Judina ins Museum, die die erste qualifizierte Spezialistin für die Restaurierung von Malerei in Jaroslawl wurde. Sie rettete zahlreiche Werke, bildete Schüler aus und gründete 1971 eine Abteilung für wissenschaftliche Restaurierung. Die Ausstellung spiegelte die Entwicklung der einheimischen Kunst vom 18. Jahrhundert bis zur Mitte der 1950er Jahre wider. Die Sammlung der sowjetischen Periode war schwach, und die Beschlagnahme von Arbeiten repressierter Künstler verringerte sie. 1956 wurde ein Führer von V. P. Mitrofanov veröffentlicht, und in den 1950er und frühen 1960er Jahren wurde eine Beschreibung von etwa 1300 Museumsexponaten erstellt. Auf dieser Grundlage wurde der erste illustrierte Katalog des Museums veröffentlicht.

Ende der 1950er Jahre zog die Sammlung in die Räumlichkeiten des ehemaligen Spaso-Preobrazhensky-Klosters um. Zu diesem Zeitpunkt umfasste die Sammlung 745 Malereien, 2768 Grafiken und 116 Skulpturen. 1959 wurde das Staatliche Yaroslawl-Rostower historisch-architektonische und künstlerische Museum-Reservat gegründet, das die Museen von Jaroslawl und Rostow, einschließlich des regionalen Kunstmuseums, vereinte. Dies schränkte seine Entwicklung ein und hemmte die Ergänzung der Sammlung. Ende der 1960er Jahre entstand die Idee, dem Kunstfonds die Selbstständigkeit zurückzugeben, und 1969 erhielt das Museum den Status der Selbstständigkeit. 1970 wurde ihm ein Herrenhaus an der Wolga-Uferstraße zugewiesen, wo die Sammlung bis heute ausgestellt ist. Der Großteil der Sammlung konnte erhalten werden, und der Erhalt des Selbstständigkeitsstatus eröffnete dem Museum neue Perspektiven.