Iwan Sergejewitsch Jarygin wurde am 7. November 1948 im Dorf Ust-Kamzas in der Region Kemerowo in einer Familie von Schmieden geboren, in der es viele Kinder gab. Später zog die Familie in das Dorf Sizaja in der Region Krasnojarsk. In seiner Kindheit beschäftigte sich Iwan nicht mit Ringen, sondern war leidenschaftlicher Fußballspieler und spielte als Torwart. Nach dem Schulabschluss ging er nach Abakan, um Fahrer zu lernen, und spielte Fußball für das örtliche Fleischkombinat, wo er nebenbei arbeitete. Während eines der Spiele bemerkte ihn der Trainer der örtlichen Sektion für Freistilringen, W. I. Tscharkow, und schlug ihm vor, es im Ringen zu versuchen.

Im Jahr 1966, als er das Rekrutierungsalter erreichte, zog Jarygin nach Krasnojarsk, wo er unter der Anleitung von D. G. Mindiaschwili zu trainieren begann, der bereits Erfahrung in der Ausbildung erfolgreicher Ringer hatte. Mindiaschwili vereinbarte mit dem Militärkommissariat, dass Iwan in Krasnojarsk bleiben und weiterhin trainieren konnte. Während seines Dienstes an der Krasnojarsker Radiotechnischen Schule der Luftverteidigung gewann Jarygin die Meisterschaft der Streitkräfte der UdSSR im Sambo und erhielt den Titel eines Sportmeisters. Nach dem Dienst konzentrierte er sich vollständig auf das Freistilringen und gehörte schnell zu den besten Athleten in dieser Sportart.

Im Jahr 1968 gewann Jarygin die Jugendmeisterschaften Russlands und der UdSSR im Freistilringen. Die Vorbereitung auf die Meisterschaft der UdSSR 1970 erfolgte unter der Leitung von Wladimir Gussew und Alexander Ochapkin. Im selben Jahr wurde er Medaillengewinner der Meisterschaft der RSFSR und Meister der UdSSR.

Im Jahr 1971 verlor Jarygin bei der Spartakiade der Völker der UdSSR gegen Wladimir Guljutin aus Kiew, gewann jedoch die Europameisterschaft in Kattowitz und wurde erneut Kandidat für die Olympiamannschaft. Es wurde beschlossen, ihn zu den Olympischen Spielen in München zu schicken, da er sich in hervorragender körperlicher Verfassung befand.

Bei den Olympischen Spielen in München 1972 stellte Jarygin einen Rekord auf, indem er alle Kämpfe in 8 Minuten und 40 Sekunden gewann und seine Gegner auf die Matte legte. Er beendete auch alle Kämpfe vorzeitig bei der Europameisterschaft 1972 in Kattowitz und der Weltmeisterschaft 1973 in Teheran. Jarygin wurde der einzige Sportler in der Geschichte des Freistilringens, der alle Gegner bei drei Hauptwettkämpfen besiegte: den Olympischen Spielen, der Weltmeisterschaft und der Europameisterschaft.

Nach den Olympischen Spielen erlebte Jarygin einen Rückschlag und verlor mehrere große Wettkämpfe. Entschlossen, seine Karriere zu beenden, kehrte er in das Dorf Sizaja zurück und arbeitete als Holzfäller. Das Leben in der Taiga und die körperliche Arbeit an der frischen Luft gaben ihm sein Selbstvertrauen zurück. 1974 gewann Jarygin bei der ersten absoluten Meisterschaft der UdSSR im Freistilringen mühelos gegen alle Gegner, von denen viele größer waren als er.

Für seinen kraftvollen und aggressiven Kampfstil wurde er „Iwan der Schreckliche“ genannt.

Im Juli 1976 gewann Jarygin bei den Olympischen Spielen in Montreal seine zweite Goldmedaille. Am Vorabend der Wettkämpfe brach er sich zwei Rippen, verbarg dies jedoch vor den Ärzten und dem Trainer, überwand den Schmerz und gewann die Olympiade. Er wurde das Vertrauen geschenkt, die Flagge der UdSSR bei der Schließung der Olympiade zu tragen.

Jarygin gewann ein internationales Turnier in Tiflis und den Weltcup. Mit 33 Jahren wurde er Cheftrainer der sowjetischen Freistilringmannschaft und bekleidete dieses Amt von 1982 bis 1992.

Von 1993 bis 1997 war Jarygin Präsident des russischen Ringerverbands und Mitglied des Büros der internationalen Föderation der vereinigten Ringerstile. Er war Ehrenbürger von Krasnojarsk und des Schuschenski-Bezirks und Träger des Goldenen Abzeichens der FILA.

Iwan Jarygin starb am 11. Oktober 1997 bei einem Autounfall auf der Strecke Machatschkala, Kislowodsk in der Region Stawropol, als er mit einem geparkten Lastwagen kollidierte. Er wurde in Moskau auf dem Trojekurowo-Friedhof beigesetzt.