Iwan Stepanowitsch Konjew wurde am 16. Dezember 1897 im Dorf Lodejno im Nikolskij Ujesd der Wologda-Gouvernement geboren, das heute zum Gebiet des Podosinsker Rajons in der Region Kirov gehört, in einer Bauernfamilie. Er war ethnischer Russe. 1906 schloss er die kirchliche Grundschule im Dorf Jakowlewskaja Gora ab und 1912 die Nikolopuschjemskoje Landesschule im Dorf Schjotkino. Mit 15 Jahren arbeitete er saisonal an den Holzauktionen in Podosinskoje und Archangelsk und war als Listenführer beim Holztransport tätig.

Im Mai 1916 wurde Konjew in die Russische Kaiserliche Armee einberufen, wo er die Ausbildung in der Artillerie absolvierte und in einer Reserve-Schwerartillerie-Brigade diente. 1917 nahm er im Ersten Weltkrieg an der Südwestfront im 2. separaten schweren Artillerie-Division teil. Im November 1917 wurde seine Brigade entwaffnet, und Konjew kehrte nach Russland zurück, wo er im Dezember demobilisiert wurde.

1918 trat Konjew der Bolschewistischen Partei bei und wurde zum Bezirksmilitärkommissar in Nikolsk im Wologda-Gouvernement ernannt. Er wurde Vorsitzender des Nikolsker Bezirkskomitees der RKP und bildete einen Bezirksverband der Roten Garde. Im Juli 1918 nahm er an der Niederschlagung des linken Sozialrevolutionärsaufstands in Moskau teil.

Nach wiederholten Bitten wurde Konjew 1918 in die Rote Armee aufgenommen. Er kämpfte an der Ostfront gegen die Armeen von Koltschak und Semjonow sowie gegen japanische Interventionstruppen. 1919 wurde er Kommissar des Panzerzuges Nr. 102 „Grosny“, dann Kommissar der 5. Schützenbrigade und der 2. Ober-Udinsker Schützendivision. 1921 nahm er an der Niederschlagung des Kronstadtaufstands teil.

Nach dem Bürgerkrieg hatte Konjew verschiedene Kommandopositionen in der Roten Armee inne. 1935 wurde ihm der Rang eines Divisionskommandeurs verliehen. 1938 kommandierte er den 57. Sonderkorps in der Mongolei und dann die 2. separate Rote Bannerarmee. 1940 wurde Konjew Kommandeur des Transbaikalischen Militärbezirks und 1941 des Nordkaukasischen Militärbezirks.

Während des Großen Vaterländischen Krieges kommandierte Konjew die 19. Armee, nahm an der Schlacht von Smolensk und der Dukhowschtschina-Operation teil. Im September 1941 wurde er Kommandeur der Westfront, erlitt jedoch eine Niederlage in der Wjasemskaja Katastrophe. Dank der Unterstützung von Schukow wurde Konjew zum Kommandeur der Kalininschen Front ernannt, wo er an der Schlacht um Moskau und der Rschew-Schlacht teilnahm.

1943 kommandierte Konjew die Steppefront und erzielte Erfolge in der Schlacht von Kursk und der Schlacht um den Dnipro. 1944 führte er erfolgreiche Operationen in der Ukraine und Rumänien durch, wofür er den Titel eines Marschalls der Sowjetunion erhielt. 1945 nahmen seine Truppen an den Weichsel-Oder-, Berliner und Prager Operationen teil.

Nach dem Krieg hatte Konjew hohe militärische und politische Ämter inne und nahm an der Niederschlagung des ungarischen Aufstands von 1956 teil. 1965 war er bei der Beerdigung von Winston Churchill anwesend. Iwan Stepanowitsch Konjew starb am 21. Mai 1973 und wurde auf dem Roten Platz an der Kremlmauer beigesetzt.