Дремучая роща за пределами города стала местом казни в 1907 году. Первым казнённым был террорист Николай Пчелинцев. В начале XX века он присоединился к эсеро-анархистской группе Германа Великопольского. Сначала руководство поручило ему закупку оружия, а затем он был привлечён к активным действиям. В сентябре 1907 года его группа путешествовала по сёлам Нижнеломовского и Пензенского уездов, разбрасывая агитационные листовки и призывая крестьян к борьбе против самодержавия. О подозрительных личностях жандармам сообщил один из железнодорожников. Попытка задержания революционеров привела к ожесточённой перестрелке, в ходе которой погиб офицер Беляев.

Началась погоня за террористами. Кольцо вокруг леса сжималось, патроны заканчивались, и обессиленные анархисты-коммунисты сдались. Всех арестовали и отправили в Пензу, где началась трагическая история Николая Пчелинцева. Всем грозили длительные сроки, и старшие товарищи убедили 17-летнего Пчелинцева взять всю вину на себя. Он согласился. Однако в стране уже действовали военно-полевые суды, выносившие приговоры за сутки. Пчелинцев ожидал несколько лет каторги, но суд вынес смертный приговор через повешение. "Это был первый случай смертной казни в Пензенской губернии, поэтому он мне особенно запомнился," вспоминал губернатор Иван Кошко. Казнь решили провести перед рассветом, в казённом лесу, чтобы никто не знал о её времени.

Рано утром 5 ноября 1907 года в камеру к Пчелинцеву пришла стража. Он сразу понял, что этот день станет последним в его жизни. Жандармы взяли с собой кляп и наручники, но Николай вёл себя апатично и ехал на казнь молча. Его сопровождала усиленная охрана, опасаясь нападения со стороны революционеров.

За несколько минут до казни Николай Пчелинцев написал у виселицы прощальное письмо родным: "Прощай дорогой отец и мама, прощай Тоня и все ребятишки. Меня вешают в лесу. Не плачь дорогая мама, это не так страшно как кажется. Умираю с надеждой на то, что в будущем всем будет хорошо. Поцелуй и поклон всем родным и знакомым. Финита ля комедия."

"Тело уложили в заранее вырытую могилу, обсыпали известкой, закопали, сравняв с землёй, и обложили место дерном, так что могила совсем не была заметна," писал в мемуарах губернатор Иван Кошко. Эти меры были приняты, чтобы место погребения не стало объектом паломничества революционеров.

Однако произошло обратное. Позднее здесь казнили не только революционеров, но и обычных уголовников по особо тяжким статьям. Арбековская роща со временем стала местом паломничества.