Kalinnikow wurde in eine Beamtenfamilie geboren und erhielt seine Ausbildung am Orlowskij Geistlichen Seminar, wo er begann, Musik zu studieren und eine Zeit lang den Chor leitete. Sein jüngerer Bruder, Wiktor Sergejewitsch, wurde ebenfalls Komponist.

1884 trat er in die Vorbereitungsklassen der Konservatoriums ein, wurde jedoch aufgrund fehlender Mittel bald ausgeschlossen. Es gelang ihm jedoch, in die Musik- und Dramatische Schule der Moskauer Philharmonischen Gesellschaft zu gelangen, wo er bis 1891 Fagott und Komposition studierte. Zu seinen Lehrern gehörten S. N. Kruglikow, A. A. Iljinski und P. I. Blahramberg. Kalinnikow besuchte auch Vorlesungen von W. O. Kljuchewski an der Moskauer Universität.

Aufgrund fehlender stabiler Einkünfte musste Kalinnikow in Theaterorchestern Geige, Fagott oder Pauken spielen und Noten abschreiben. Er wurde von dem Musikkritiker Semjon Kruglikow unterstützt, und Pjotr Tschaikowski, der sein Talent hoch schätzte, empfahl ihn 1892 für die Position des Dirigenten im Kleinen Theater. Zu dieser Zeit gab Kalinnikow auch privaten Unterricht in Musiktheorie und Gesang.

Im Herbst 1893 traten bei ihm Symptome von Tuberkulose auf, und er zog in die Krim, wo er die letzten Jahre seines Lebens verbrachte und weiterhin Musik komponierte. Er starb am 29. Dezember 1900 (11. Januar 1901) und wurde auf dem Polikurovskij Friedhof in Jalta beigesetzt. Auf seinem Grabstein sind die Noten des Hauptthemas seiner ersten Symphonie g-moll eingraviert.

Der Stil Kalinnikows setzt die Traditionen der russischen Musikklassik fort, einschließlich der Komponisten der „Mächtigen Häufung“ und P. I. Tschaikowski. Sein bekanntestes Werk, die erste Symphonie g-moll, die 1895 geschrieben und Kruglikow gewidmet wurde, wurde erstmals bei einem Konzert der Russischen Musikgesellschaft in Kiew aufgeführt und wurde schnell sowohl in Russland als auch im Ausland populär.

In der Ouvertüre Kalinnikows „Bylina“ erklingt ein Thema, dessen Anfangstakte mit der Melodie der Hymne der UdSSR übereinstimmen, was zu Spekulationen führte, dass Alexandrow nicht der wahre Autor der modernen Hymne Russlands ist. Der genaue Zeitpunkt der Entstehung der Ouvertüre, die normalerweise auf 1893 datiert wird, ist unbekannt: Zu Lebzeiten des Komponisten wurde sie nicht aufgeführt und wurde anhand der im Staatlichen Zentralmuseum für Musikkultur erhaltenen Orchesterstimmen rekonstruiert. Sie wurde erstmals am 26. Juli 1950 im Radio vom Orchester unter der Leitung von S. Gorchakov aufgeführt, und die Partitur wurde 1951 veröffentlicht. Es gibt keine Informationen darüber, dass der Autor der sowjetischen Hymne mit „Bylina“ im Archiv vertraut war.