Согласно житию княгини Ольги, после того как она овдовела и приняла христианство, она посетила родные края. Отдыхая у реки в пасмурный день, Ольга заметила, как солнечные лучи, пробившись сквозь облака, осветили лесистый мыс на противоположном берегу. Она восприняла это как добрый знак и распорядилась построить там Троицкий собор и Плесков град, который позже стал Псковом. На месте чудесного знамения был установлен памятный крест, а затем построена Ольгинская часовня. Точная дата строительства неизвестна, но часовня была снесена в 1960 году.

В 2000 году разрушенная святыня Пскова была возрождена: новую Ольгинскую часовню возвели на искусственной площадке у набережной напротив Псковского кремля. Ее архитектура напоминает собор Рождества Иоанна Предтечи. В основе композиции лежит равносторонний крест, фасады украшены закомарами, а световой барабан увенчан шлемовидной главой, что придает часовне вид, характерный для церквей 10-11 веков.

Полукруглая стена смотровой площадки, обращенная к реке, отделана природным камнем, а по бокам расположены две лестницы, ведущие к нише с освященной водой.

Часовня приписана к Успенской церкви с Парома, расположенной рядом. При открытии прихожане подарили для нее две иконы, одну современного письма, другую старинного.