Konstantin Apollonovich Savitsky nació en 1844 en Taganrog en una familia de un médico militar y comenzó su educación en el Gimnasio Clásico Masculino de Taganrog. Tras la temprana muerte de sus padres, sus parientes lo enviaron a un internado privado en el gimnasio nobiliario de Livonia en el lugar llamado Birkenrue. En 1862, tras finalizar sus estudios, Savitsky ingresó en la Academia Imperial de Bellas Artes, donde estudió pintura histórica bajo la dirección de los profesores F. A. Bruni, A. T. Markov y P. P. Chistyakov.

En la Academia, Savitsky recibió siete medallas por sus trabajos: en 1868, tres pequeñas de plata por el cuadro "El organillero"; en 1869, una grande de plata por el boceto "La crucifixión de Cristo"; en 1870, una grande de plata y una grande de estímulo por las pinturas "La visita al hijo enfermo" y "El centinela en el polvorín". En 1871, por el programa "Caín y Abel", fue galardonado con una pequeña medalla de oro y enviado por la Academia al extranjero, donde hasta 1874 recibió una beca del emperador Alejandro II. Durante este tiempo, asistió a las academias de arte de Dresde y Düsseldorf, vivió en París y se interesó por la grabado en metal.

Desde 1872, Savitsky se convirtió en expositor, y desde 1878, en miembro de la Sociedad de Exposiciones de Arte Itinerantes. En 1878, participó en la Exposición Mundial en París, y en 1882, en la Exposición de Arte y Artesanía de toda Rusia en Moscú.

Tras la trágica muerte de su esposa en febrero de 1875, Savitsky regresó a Rusia y se estableció en Dvinsk, donde creó varias obras significativas, como "El encuentro con el ícono" de 1878 y "A la guerra" de 1880.

De 1883 a 1889, Savitsky vivió en San Petersburgo y enseñó en la Escuela Central de Dibujo Técnico del Barón A. L. Stieglitz. En 1891, se mudó a Moscú, donde se convirtió en profesor en la Escuela de Pintura, Escultura y Arquitectura de Moscú, y desde 1894 dirigió la clase de modelo. En 1895, Savitsky se convirtió en miembro efectivo de la Academia Imperial de Bellas Artes, y en 1897 se le otorgó el título de académico de pintura.

Por testamento del general-lieutenant N. D. Seliverstov, asesinado en 1890 en París, 300 mil rublos y una colección de libros y pinturas pasaron a la propiedad del tesoro municipal de Penza con la condición de crear una escuela de arte. Savitsky fue nombrado primer director de la Galería de Arte de Penza y de la Escuela de Arte de Penza, inauguradas en 1898. Desarrolló un programa de estudios y realizó cambios en la planificación del edificio, y los mejores graduados de la escuela ingresaban en la Academia Imperial de Bellas Artes sin exámenes. Gracias a Savitsky, se enviaron exposiciones de arte itinerantes a Penza en 1898 y 1901.

Savitsky dirigió la escuela hasta su muerte el 31 de enero de 1905 y fue enterrado en el cementerio Mitrofanovsky en Penza. Su nombre se ha dado a una calle en Penza, a la Galería de Arte de la Región de Penza y a la Escuela de Arte de Penza. En el edificio de la escuela se instaló una placa conmemorativa en honor al destacado pintor. En la década de 1980, se creó un museo conmemorativo de Savitsky en la Galería de Arte de la Región de Penza, y en 2011 se erigió un monumento al pintor en Penza.