Das Gebäude, das in den Jahren 1915-1917 nach dem Entwurf des Architekten A.N. Sokolov errichtet wurde, entstand in Zusammenarbeit mit dem bekannten experimentellen Physiker P.N. Lebedev, dem Gründer der ersten wissenschaftlichen Physikschule in Russland. Obwohl Lebedev den Abschluss des Bauvorhabens nicht erlebte, halfen seine Beratungen in der Planungsphase Sokolov, ein Gebäude zu schaffen, das ideal für wissenschaftliche Experimente geeignet war.

Die Notwendigkeit des Baus des Physikalischen Instituts entstand nach den Ereignissen des Jahres 1911 an der Moskauer Universität. Damals verließen etwa einhundert Professoren und Dozenten, darunter W.I. Wernadski, S.A. Tschaplygin, A.A. Eichenwald, G.I. Rossolimo, K.A. Timirjasev und P.N. Lebedev, die Universität als Protest gegen die Maßnahmen des Ministers für Aufklärung L.A. Kasso, der der Universitätsverwaltung Polizeifunktionen auferlegte. Der Austritt aus der Universität beraubte sie der Möglichkeit, wissenschaftliche Experimente durchzuführen, da die Universität praktisch der einzige Ort in Moskau für solche Forschungen war.

Die zurückgetretenen Wissenschaftler und Dozenten gründeten die Gesellschaft des Moskauer Wissenschaftsinstituts, auf dessen Basis das Physikalische Institut entstand. Im Januar 1917 wurde es in einem neuen Gebäude am Miusskaja-Platz eröffnet. Nach der Nationalisierung im Jahr 1917 befand sich hier das Institut für biologische Physik unter der Leitung des Akademikers P.P. Lazerjew. Am 22. April 1922, am Vorabend der Operation zur Entfernung der Kugeln, die nach dem Attentat auf Fanny Kaplan verblieben waren, wurde W.I. Lenin hierher gebracht, um eine röntgenologische Untersuchung durchführen zu lassen. Die Kugel im Nackenbereich war leicht tastbar und konnte ohne Schwierigkeiten entfernt werden, während eine andere Kugel im linken Schulterbereich nicht störte und keine Entfernung erforderte.

Nach den Röntgenaufnahmen begab sich Lenin mit Akademiker Lazerjew zur Besichtigung des Instituts, doch die Besichtigung misslang, da Lenin sich für Materialien zur Kursker Magnetanomalie interessierte und den Akademiker bat, ihn ausführlich darüber zu informieren.

Im Jahr 1931 wurde Akademiker Lazerjew, der im Gebäude des Instituts wohnte, wegen politischer Anschuldigungen verhaftet. Am 25. April 1934 beschloss der Sowjet der Volkskommissare, die Akademie der Wissenschaften der UdSSR von Leningrad nach Moskau zu verlegen. Im einzigen damals vorhandenen Gebäude wurde das Physikalische Institut der Akademie der Wissenschaften der UdSSR (FIAN) unter der Leitung des zukünftigen Präsidenten der Akademie der Wissenschaften der UdSSR S.I. Wavilow untergebracht.

Derzeit befindet sich das Gebäude im Eigentum der Russischen Föderation und wird von der FGU "Federal Research Center Institute of Applied Mathematics named after M.V. Keldysh of the Russian Academy of Sciences" verwaltet. Der Abschluss der Restaurierungsarbeiten zur Stärkung des Fundaments und der tragenden Wände ist für das Jahr 2019 geplant.