Alexandre Evguénievitch Fersman est né le 27 octobre 1883 à Saint-Pétersbourg. Son père, Evgueni Alexandrovitch Fersman, était architecte militaire et professeur, ayant participé à la campagne turque. Sa mère, Maria Edouardovna, était artiste et musicienne, issue de la famille du général E. F. Kessler. Son grand-père, Alexandre Fiodorovitch Fersman, était un scientifique en artillerie. Alexandre avait une sœur aînée, Vera Evguénievna, née en 1881.

Dès l'âge de six ans, Alexandre s'est passionné pour la minéralogie, visitant le laboratoire de son oncle, le professeur A. E. Kessler, dans le domaine des Kessler près de Simferopol. En 1895, il est entré en classe de 3e au 4e gymnase d'Odessa, mais en 1896, il en est sorti et a poursuivi ses études à domicile. En 1898, il est de nouveau entré au gymnase et l'a terminé en 1901 avec une médaille d'or. Dans son certificat de maturité du 1er juin 1901, il avait d'excellentes notes dans de nombreuses matières, sauf en géographie et en Droit divin. Pendant ses études, il a visité 11 fois la station thermale de Karlovy Vary, où sa mère était soignée.

Depuis 1901, Fersman a étudié au département des sciences naturelles de la faculté de physique et de mathématiques de l'Université impériale de Novorossiysk à Odessa, ayant également suivi un cours d'histoire de l'art. Son intérêt pour la géologie et la chimie lui a été transmis par le professeur P. G. Melikichvili. Le 28 août 1903, il a été admis à la faculté de physique et de mathématiques de l'Université de Moscou, où il est devenu l'élève de V. I. Vernadski et a assisté à son cercle de minéralogie. Les premiers travaux scientifiques de Fersman étaient consacrés aux minéraux de Crimée.

Après avoir terminé l'université en 1907, il a été conservé au département de minéralogie pour se préparer à un titre de professeur. En 1907 et 1909, Fersman a effectué un stage scientifique en Allemagne, étudiant à l'Université de Heidelberg, recherchant des diamants naturels et rédigeant une monographie sur les diamants. En 1908, il a voyagé en France et en Italie.

Depuis le 14 septembre 1909, Fersman a commencé à travailler comme assistant non permanent au Cabinet de minéralogie de l'Université de Moscou. À la fin de 1911, il a démissionné avec d'autres enseignants en signe de protestation contre la politique du Ministère de l'Éducation nationale et a pris un poste de professeur à l'Université populaire A. L. Shanyavsky.

Depuis 1912, Fersman a travaillé à l'Académie des sciences, élu conservateur senior du Musée géologique et minéralogique Pierre Ier. Il est parti en expéditions pour enrichir la collection du musée et a été directeur du musée en 1919 et 1930. En même temps, depuis 1912, il a enseigné la minéralogie aux Cours supérieurs de femmes Bestoujev.

Pendant la Première Guerre mondiale, Fersman était secrétaire de la Commission d'étude des forces productives naturelles du pays et se rendait sur le front. En 1915, il a été élu membre du Comité des sols Dokoutchaev. Le 1er février 1919, Fersman a été élu membre effectif de l'Académie des sciences de Russie.

En 1920, il est devenu l'un des initiateurs de la création de la réserve naturelle d'Ilmen. En 1922, il a effectué un audit du Fonds des diamants, étudiant les célèbres pierres historiques. Fersman a occupé de nombreux postes à l'Académie des sciences, y compris directeur de l'Institut de technologie archéologique et de l'Institut du radium.

Fersman a travaillé dans des expéditions en Transbaïkalie, étudiant divers gisements. Il a été l'organisateur d'expéditions géologiques complexes, découvrant le gisement de cuivre-nickel de Monchegorsk et les gisements d'apatite de Khibiny. Dans le travail scientifique de Fersman, trois directions se distinguent : la topominéralogie, l'étude du processus pegmatitique et la géochimie.

En 1932, il a créé la branche de l'Académie des sciences de l'URSS dans l'Oural et l'Institut de géochimie, minéralogie et cristallographie. Pendant la guerre, Fersman a occupé les postes de président de la Commission de service géologique et géographique de l'Armée rouge et de directeur de l'Institut des sciences géologiques. En 1943, son livre « Géologie et guerre » est paru.

En mai 1943, Fersman est tombé gravement malade, mais sa santé s'est améliorée à la fin de l'année. En décembre 1944, il a été traité pour hypertension. Alexandre Evguénievitch Fersman est décédé d'une hémorragie cérébrale le 20 mai 1945 à Sotchi. Il est enterré au cimetière Novodievitchi à Moscou, où un monument a été érigé sur sa tombe en 1965.