Nikolai wurde am 28. Februar 1872 im Dorf Beketowo in der Provinz Woronesch als Sohn eines Gutverwalters geboren. Von 1892 bis 1901 studierte er an der Höheren Kunstschule der Kaiserlichen Akademie der Künste, ab 1896 bei I.E. Repin. 1911 stellte Petrow seine Werke auf einer internationalen Ausstellung in Rom aus, und 1916 erhielt er den Titel eines Akademikers der Malerei.

Im Jahr 1911 beschreibt die Zeitschrift „Niva“ in der 13. Ausgabe sein Werk "Balkon" als „einen reizvollen Landschaft, voller Frische und besonderer, liebevoller familiärer Intimität“. In der 39. Ausgabe von 1913 wird über sein Schaffen gesagt: „In seinen Bildern rekonstruiert der Künstler N. Petrow vor uns das alte Leben der Gutsbesitzer, das unserer Generation aus den Romanen von Goncharov bekannt ist. In dem Bild „Der alte Gutsbesitzer“ spürt man etwas typisch Goncharowsches: vor uns schläft Oblomow auf dem Sofa mit seiner unveränderlichen Pfeife…“.

Nikolai Filippowitsch Petrow lebte zunächst in Sankt Petersburg, zog jedoch 1910 nach Penza. Von 1910 bis 1918 war er Direktor der Penzaer Kunstschule und unterrichtete dort bis 1936.

Im Jahr 1936 kehrte der Künstler nach Leningrad zurück, wo er die Position des stellvertretenden Direktors der Allrussischen Akademie der Künste einnahm. Von 1937 bis 1939 leitete er die Malereiabteilung. Nikolai Filippowitsch Petrow starb am 9. Dezember 1941 im belagerten Leningrad.