В 1731 году императрица Анна Иоанновна издала указ, направленный на укрепление восточных границ России. В рамках этого началось проектирование Новозакамской оборонительной линии и строительство крепостей. Одним из таких поселений стала современная Калиновка, ранее известная как село Кобельма, где проживали новокрещенные калмыки. В 1769 году в этом поселении был построен деревянный храм на государственные средства. Однако в 1885 году церковь сгорела, и архиепископ Самарский Серафим Протопопов распорядился возвести новый каменный храм, строительство которого велось на пожертвования прихожан. 1 сентября 1902 года церковь была освящена в честь Иконы Божией Матери Казанская епископом Гурием.

В 1930-х годах церковь была закрыта, и с 1936 по 1988 годы здание использовалось как зернохранилище. В 1991 году, по инициативе группы прихожан, церковная жизнь была возобновлена, и начался ремонт храма, который продолжается до сих пор.