Константин Аполлонович Савицкий родился в 1844 году в Таганроге в семье военного врача и начал обучение в Таганрогской классической мужской гимназии. После ранней смерти родителей его родственники отправили на воспитание в частный пансион при Лифляндской дворянской гимназии в местечке Биркенруэ. В 1862 году, завершив обучение, Савицкий поступил в Императорскую Академию художеств, где изучал историческую живопись под руководством профессоров Ф. А. Бруни, А. Т. Маркова и П. П. Чистякова.

В Академии Савицкий получил семь медалей за свои работы: в 1868 году три малые серебряные за картину «Шарманщик», в 1869 году большую серебряную за эскиз «Распятие Христа», в 1870 году большую серебряную и большую поощрительную за картины «Посещение больного сына» и «Часовой у порохового погреба». В 1871 году за программу «Каин и Авель» он был удостоен малой золотой медали и отправлен Академией за границу, где до 1874 года получал стипендию от Императора Александра II. В это время он посещал художественные академии Дрездена и Дюссельдорфа, жил в Париже и увлекался гравюрой по металлу.

С 1872 года Савицкий стал экспонентом, а с 1878 года, членом Товарищества передвижных художественных выставок. В 1878 году он участвовал в Всемирной выставке в Париже, а в 1882 году, во Всероссийской художественно-промышленной выставке в Москве.

После трагической гибели жены в феврале 1875 года Савицкий вернулся в Россию и поселился в Динабурге, где создал несколько значительных произведений, таких как «Встреча иконы» 1878 года и «На войну» 1880 года.

С 1883 по 1889 год Савицкий жил в Санкт-Петербурге и преподавал в Центральном училище технического рисования барона А. Л. Штиглица. В 1891 году он переехал в Москву, где стал преподавателем в Московском училище живописи, ваяния и зодчества, а с 1894 года руководил натурным классом. В 1895 году Савицкий стал действительным членом Императорской Академии художеств, а в 1897 году ему было присвоено звание академика живописи.

По завещанию генерал-лейтенанта Н. Д. Селивёрстова, убитого в 1890 году в Париже, в собственность городской казны Пензы перешли 300 тысяч рублей и коллекция книг и картин с условием создания художественной школы. Савицкий был назначен первым директором Пензенской картинной галереи и Пензенского художественного училища имени Н. Д. Селивёрстова, открытых в 1898 году. Он разработал программу обучения и внес изменения в планировку здания, а лучшие выпускники училища поступали в Императорскую Академию художеств без экзаменов. Благодаря Савицкому в Пензу были направлены передвижные художественные выставки в 1898 и 1901 годах.

Савицкий руководил училищем до своей смерти 31 января 1905 года и был похоронен на Митрофановском кладбище в Пензе. Его именем названы улица в Пензе, Пензенская областная картинная галерея и Пензенское художественное училище. На здании училища установлена мемориальная доска в честь выдающегося живописца. В 1980-х годах в Пензенской областной картинной галерее был создан мемориальный музей Савицкого, а в 2011 году в Пензе установлен памятник живописцу.