Музей был основан в 1918 году археологом-самоучкой, художником и краеведом Петром Петровичем Ивановым в здании бывшего магазина купцов Кавериных. Еще с 1912 года Иванов стремился открыть музей в Моршанске, но его мечта осуществилась лишь спустя шесть лет. Это был первый уездный провинциальный музей, открытый в первый год советской власти. Иванов создал музей на основе своей коллекции, которую собирал на протяжении 15 лет. Первоначально фонды музея насчитывали более 2000 предметов из личного собрания Иванова и лишь 144 экспоната, переданных другими лицами и организациями. С 1925 года здание полностью стало принадлежать музею. Художественный отдел появился в 1926 году, а с 1941 года музей стал краеведческим.

В музее хранится множество тысяч экспонатов. Здесь работают отделы современного общества, художественный, выставочный зал и зал древнерусского искусства. В состав музея входят художественный и палеонтологический отделы, отдел советского периода истории и отдел «Дореволюционное прошлое Моршанского края». В коллекции представлены древнемордовские могильники VIII и XI веков, а также вторая по величине и качеству в России коллекция древнерусской деревянной скульптуры.