Родился 13 (25) февраля 1861 года в селе Валуец, расположенном в Стародубском уезде Черниговской губернии, ныне это Почепский район Брянской области. Происходил из малороссийского дворянства Черниговской губернии и был третьим сыном штабс-ротмистра Григория Семёновича Щегловитова (1821, 1887), которого дважды избирали Стародубским уездным предводителем дворянства. Его семья владела частью села Валуец.

В 1881 году окончил Императорское училище правоведения с золотой медалью.

С 1885 года занимал должность товарища прокурора в Нижегородском, а с 1887 года в Петербургском окружном суде. С 1894 года был прокурором Санкт-Петербургского окружного суда, а с 1895 года, товарищем прокурора столичной судебной палаты.

Участвовал в разработке проекта дисциплинарного устава для служащих гражданского ведомства и работал в комиссии по пересмотру судебных законов, для которой подготовил объяснительную записку к проекту новой редакции устава уголовного судопроизводства. В этой записке содержалось подробное историческое обозрение научного материала и иностранной практики.

В 1898 году стал товарищем обер-прокурора уголовного кассационного департамента Правительствующего сената и вошёл в Первый департамент Сената. В 1900 и 1903 годах занимал пост вице-директора Первого департамента Министерства юстиции. В 1903 и 1905 годах был обер-прокурором уголовного кассационного департамента Сената. С 22 апреля 1905 года возглавлял Первый департамент Министерства юстиции.

В 1903 году был приглашён читать лекции по теории и практике уголовного судопроизводства в Императорском училище правоведения. Благодаря своему авторитету в области криминологии, был избран председателем уголовного отделения Петербургского юридического общества.

С 1 февраля 1906 года занимал должность товарища министра юстиции при министре Михаиле Акимове.

Назначен министром 24 апреля 1906 года, а 1 января 1907 года стал членом Государственного совета. 7 февраля 1908 года на его жизнь покушалась Лидия Стуре, но безуспешно. С 1911 года стал сенатором. Его описывали как "холодного и жестокого человека", который неизменно отвергал все просьбы о помиловании.

Известен своими антисемитскими взглядами и считается инициатором обвинения еврея Бейлиса в ритуальном убийстве. За время его руководства министерством Щегловитов стал символом для либеральной общественности и 6 июля 1915 года был уволен с должности министра в рамках "курса на общественность". Тем не менее, он сохранил расположение императора и 1 января 1917 года был назначен председателем Государственного совета Российской империи.

Придерживался правых взглядов и покровительствовал "Союзу русского народа". Был членом монархической организации "Русское собрание" и участвовал в работе Совещания монархистов в ноябре 1915 года в Петрограде, где был избран председателем Совета монархических съездов.

Во время Февральской революции был арестован и находился в заключении в Петропавловской крепости с 1 марта 1917 по 26 февраля 1918 года. Его деятельность была предметом расследования Чрезвычайной следственной комиссии, которая не успела завершить свою работу к моменту Октябрьской революции.

Позже его перевезли в Москву, где он был публично казнён как заложник после объявления красного террора 5 сентября 1918 года вместе с другими государственными и церковными деятелями Российской империи. Вместе с ним в Петровском парке были расстреляны бывшие министры внутренних дел Николай Маклаков и Алексей Хвостов, а также протоиерей Иоанн Восторгов. Перед смертью он проявил мужество и, по воспоминаниям очевидцев, "не выказал никакого страха".