Ivan Sergeyevich Yarygin nació el 7 de noviembre de 1948 en el pueblo de Ust-Kamzas, en la región de Kemerovo, en una familia de herreros con muchos hijos. Más tarde, la familia se mudó al asentamiento de Sizaya en la región de Krasnoyarsk. En su infancia, Ivan no practicaba lucha, sino que se dedicaba al fútbol, jugando como portero. Después de terminar la escuela, se trasladó a Abakan para formarse como conductor y jugaba al fútbol para la carnicería local, donde trabajaba a medio tiempo. Durante uno de los partidos, el entrenador de la sección local de lucha libre, V. I. Charkov, lo notó y le propuso probar suerte en la lucha.

En 1966, al alcanzar la edad de reclutamiento, Yarygin se mudó a Krasnoyarsk, donde comenzó a entrenar bajo la dirección de D. G. Mindyashvili, quien ya tenía experiencia en la preparación de luchadores exitosos. Mindyashvili llegó a un acuerdo con el comité de reclutamiento para que Ivan pudiera quedarse sirviendo en Krasnoyarsk y continuar sus entrenamientos. Durante su servicio en la escuela de radiotécnica de defensa aérea de Krasnoyarsk, Yarygin ganó el campeonato de las Fuerzas Armadas de la URSS en sambo y obtuvo el título de maestro del deporte. Después de su servicio, se centró completamente en la lucha libre y rápidamente se convirtió en uno de los mejores atletas en este deporte.

En 1968, Yarygin ganó los campeonatos juveniles de Rusia y la URSS en lucha libre. La preparación para el campeonato de la URSS de 1970 se llevó a cabo bajo la dirección de Vladimir Gusev y Alexander Okhapkin. Ese mismo año se convirtió en medallista del campeonato de la RSFSR y campeón de la URSS.

En 1971, en la Spartakiada de los pueblos de la URSS, Yarygin perdió ante Vladimir Gulyutkin de Kiev, pero luego ganó el campeonato de Europa en Katowice, volviendo a ser candidato para el equipo olímpico. Se decidió enviarlo a los Juegos Olímpicos de Múnich, ya que se encontraba en excelente forma física.

En los Juegos Olímpicos de Múnich de 1972, Yarygin estableció un récord al ganar todas las peleas en 8 minutos y 40 segundos, derribando a sus oponentes. También finalizó anticipadamente todos los combates en el campeonato de Europa de 1972 en Katowice y en el campeonato mundial de 1973 en Teherán. Yarygin se convirtió en el único atleta en la historia de la lucha libre que venció a todos sus oponentes en las tres principales competiciones: Juegos Olímpicos, campeonato mundial y campeonato de Europa.

Después de los Juegos Olímpicos, Yarygin experimentó un declive y perdió varias competiciones importantes. Decidiendo retirarse, regresó al pueblo de Sizaya y se convirtió en leñador. La vida en la taiga y el trabajo físico al aire libre le devolvieron la confianza. En 1974, en el primer campeonato absoluto de la URSS en lucha libre, Yarygin derrotó fácilmente a todos sus oponentes, muchos de los cuales eran más grandes que él.

Por su estilo de lucha poderoso y agresivo, lo apodaron "Iván el Terrible".

En julio de 1976, en los Juegos Olímpicos de Montreal, Yarygin ganó su segunda medalla de oro. Un día antes de la competición, se rompió dos costillas, pero ocultó esto a los médicos y al entrenador, superando el dolor y ganando los Juegos Olímpicos. Se le confió llevar la bandera del equipo de la URSS en la ceremonia de clausura de los Juegos Olímpicos.

Yarygin ganó un torneo internacional en Tbilisi y la Copa del Mundo. A los 33 años, se convirtió en el entrenador principal del equipo de lucha libre de la URSS y ocupó este cargo desde 1982 hasta 1992.

De 1993 a 1997, Yarygin fue presidente de la federación de lucha deportiva de Rusia y miembro de la oficina de la federación internacional de estilos de lucha unificados. Fue ciudadano honorario de Krasnoyarsk y del distrito de Shushensky, y caballero de la medalla de oro de FILA.

Ivan Yarygin falleció el 11 de octubre de 1997 en un accidente automovilístico en la carretera Makhachkala, Kislovodsk, en la región de Stavropol, al chocar con un camión estacionado. Fue enterrado en Moscú en el cementerio Troekurovsky.