Первое упоминание о селе датируется 1718 годом, когда в нем проживало всего 26 человек. К 1895 году население увеличилось до более чем 2 тысяч крестьян, и Грязное стало крупнейшим селом в Щигровском уезде.

Среди главных достопримечательностей Грязного были два храма: величественный двухпрестольный собор Троицы и иконы Божией Матери «Неопалимая Купина», а также небольшая деревянная церковь, посвященная святителю Николаю, архиепископу Мир Ликийских. В советские годы собор Троицы был разобран на стройматериалы, а Никольский храм сожжен.

В 2000-х годах на месте собора, благодаря усилиям местных жителей и благотворителей, был возведен новый храм святителя Николая Чудотворца из красного кирпича.