Die Geschichte des Museums beginnt mit dem Kubanischen Truppen-Ethnographischen und Naturhistorischen Museum, das 1879 beim Kubanischen Statistischen Komitee gegründet wurde. Sein Gründer war der regionale Historiker und Truppenoberst Jewgeni Dmitrijewitsch Felizin (1848-1903). Zeitgenossen nannten ihn die "Enzyklopädie des Kaukasus" und "lebendige Chronik", da er die Geschichte und Geographie der Region sowie Archäologie, Ethnographie, Kartographie, Geologie, Botanik und Mineralogie hervorragend kannte.

Die ersten Exponate des Museums waren Geschenke und Spenden von der Bevölkerung sowie persönliche Sammlungen von Felizin zur Archäologie und Ethnographie. Für deren Erwerb nutzte er sein bescheidenes Gehalt und geriet oft in Schulden. Dank ihm verfügt das Museum über eine der besten Sammlungen von steinernen "polowezischen" Statuen weltweit, die aus der gesamten Kuban-Region gesammelt wurden. Bereits im ersten Jahr umfasste die Sammlung 276 archäologische und 42 ethnographische Objekte.

Felizin studierte mit Begeisterung die antike Geschichte der Völker des Nordkaukasus, indem er archäologische Denkmäler entdeckte und sammelte. 1879 entdeckte er in Jekaterinodar zwei griechische Platten, die als verloren galten, und schickte sie nach Moskau. Auf den Platten standen die Namen von Levkon, dem König der Sindern, und Ksenoklid (4. Jh. v. Chr.). Felizin erstellte auch eine einzigartige archäologische Karte der Altertümer der Kuban-Region, die 1882 von der Kaiserlichen Moskauer Archäologischen Gesellschaft veröffentlicht wurde.

Besonderes Augenmerk legte Jewgeni Dmitrijewitsch auf Denkmäler der russischen Geschichte. Im Herbst 1879 besuchte er Taman, wo er den Aufenthalt von M.Ju. Lermontow erforschte. Felizin fertigte Zeichnungen an und beschrieb die Hütte des Kosaken Mysnik, in der der Dichter übernachtete. Diese Forschungen halfen, 1976 eine historisch-ethnographische Ausstellung des Lermontow-Museums in Taman zu schaffen.

Im März 1880 wurde Felizin von Kaiser Alexander II. mit dem Orden des Stanislaus III. Klasse für seine Verdienste ausgezeichnet. Er wurde zum Ehrenmitglied verschiedener statistischer Komitees und Gesellschaften gewählt, darunter die Moskauer Archäologische Gesellschaft und die Kaiserliche Gesellschaft der Naturforscher, Anthropologen und Ethnographen.

Nach dem Tod von Felizin wurden seine Bibliothek, Dokumente und Fotografien auf private Sammlungen verteilt. Erst 1909, sechs Jahre nach seinem Tod, erließ der kommissarische Ataman Michail Babitsch einen Erlass zur Sammlung des persönlichen Archivs von Felizin und dessen Übergabe an das Truppenmuseum.