Alexander Petrowitsch Ermolo, zukünftiger General, wurde am 4. Juni 1772 in Moskau in einer nicht wohlhabenden Adelsfamilie geboren. Er erhielt seine Ausbildung zu Hause und im Adelsinternat der Moskauer Universität. Von Kindesbeinen an in die Armee eingetragen, trat er 1792 als Hauptmann in den Neschin-Drachenregiment in den aktiven Militärdienst ein. 1794 nahm er am Krieg gegen Polen teil, und 1796 kämpfte er in Persien (so wurde Iran bis 1935 genannt) und wurde bald zum Oberstleutnant befördert.

Ermolo, begeistert von den aufklärerischen Ideen der französischen Republikaner, wurde wegen seiner Teilnahme an einem politischen Offizierskreis verhaftet und nach kurzer Haft in der Peter-und-Paul-Festung nach Kostroma verbannt.

Nach dem Tod von Paul I. im Jahr 1801 wurde Ermolo begnadigt und setzte seinen Dienst fort, obwohl die Vorgesetzten ihn wegen seiner "Frechheit" und Unabhängigkeit nicht mochten. Er nahm an den Militärkampagnen gegen Frankreich in den Jahren 1805 und 1807, am Vaterländischen Krieg von 1812, an den Auslandsfeldzügen der russischen Armee in den Jahren 1813 und 1814 teil und wurde 1808 zum Generalmajor befördert. 1816 wurde er zum Kommandeur des Separaten Georgischen Korps und zum Oberbefehlshaber der zivilen Verwaltung im Kaukasus und in der Provinz Astrachan ernannt.

Die Aktivitäten von Ermolo im Kaukasus sind umstritten: Er wird als Hauptinspirator der kolonialen Eroberung angesehen, der harte Maßnahmen gegen die Bergbewohner ergriff, sowie als initiativer und talentierter Staatsmann, der die Interessen Russlands in der Region verteidigte. Die Beliebtheit von Ermolo unter den Truppen erregte die Besorgnis der Regierung, und 1827 wurde er von seinem Kommando abberufen und aus dem Dienst entlassen. Über dreißig Jahre lebte er in Moskau und Orjol ohne aktive Tätigkeit. In den Jahren 1831 und 1839 war Alexej Petrowitsch Mitglied des Staatsrates, und während des Krimkriegs (1853-1856) wurde er zum Leiter der Miliz in sieben Provinzen gewählt. Ermolo war bekannt als einer der schlagfertigsten Menschen seiner Zeit und hinterließ Memoiren mit detaillierten Beschreibungen militärischer Ereignisse.

Er starb am 23. April 1861 in Moskau und wurde gemäß seinem Testament in Orjol, in der Kirche des Dreifaltigkeitsfriedhofs, neben seinem Vater beigesetzt.