Ольга Васильевна Ковалева родилась в 1881 году в деревне Любовка Аткарского уезда Саратовской губернии, где и прошло её детство.

В шестнадцать лет она покинула родной дом и отправилась в город. В Самаре Ольга жила у дальних родственников, училась грамоте, а в двадцать лет поступила на фельдшерские курсы. В это время она ещё не осознавала своего истинного призвания, хотя часто напевала народные песни из Любовки. Её красивый голос и музыкальность привлекли внимание окружающих. Музыканты заметили её и помогли поступить в музыкальную школу для обучения пению.

Будучи ученицей, Ольга участвовала в концертах, организованных самарским отделением Русского Музыкального Общества. После окончания музыкальных курсов при самарском РМО она отправилась в Петербург, где брала уроки у профессора И. М. Прянишникова на частных оперных курсах. Благодаря Прянишникову, она вошла в передвижную оперную труппу Ростова-на-Дону, гастролировавшую по городам Поволжья.

После одного зимнего сезона в театре Ольга Васильевна покинула труппу, но продолжила выступать в концертах с разными партнёрами как «оперная певица», исполняя арии и романсы русских и зарубежных композиторов.

После краткого пребывания в Любовке Ольга Васильевна решила включить в свои выступления народные песни. Первой песней, которую она исполнила, была «Лучинушка», ставшая её музыкальной эмблемой. Народные песни она черпала из сборников М. А. Балакирева, Н. А. Римского-Корсакова и А. В. Лядова.

Обосновавшись в Новороссийске, Ольга Ковалева выступала с другими артистами в южной России. В 1912-1913 годах она концертировала с постоянным партнёром, скрипачом Германом Клеменсом, в среднерусских областях и городах Поволжья, выступая в народном крестьянском костюме Рязанской губернии.

В начале 1914 года они оказались в Москве, что стало значительным этапом для Ольги Васильевны. Её исполнительский профиль укрепился, и она стала главной исполнительницей программы, в то время как скрипач Г. Клеменс аккомпанировал ей.

Особенно важным для Ольги Васильевны был «Вечер песни» в Политехническом музее в феврале 1914 года. Она из малоизвестной странствующей певицы превратилась в известную исполнительницу народных песен. Её репертуар стал более серьёзным и демократичным, включив собственные записи и этнографические материалы.

В военные годы Ольга Васильевна участвовала в благотворительных концертах, выступала в госпиталях и казармах, руководила кружком пения для слепых воинов-инвалидов и пела для простых людей.

С 1917 года начался новый этап её карьеры. Она активно участвовала в концертах для народа, выступая на заводах, фабриках и вокзалах. Её популярность росла, и она выступала с певцом Анатолием Доливо и квартетом домр. В 1921 году они отправились в Швецию и Норвегию с концертами в пользу голодающих Поволжья. В 1925 и 1927 годах последовали поездки в Париж и Франкфурт-на-Майне.

С 1924 года Ольга Васильевна выступала по радио, преимущественно для крестьян, сотрудничала с известными исполнителями и музыкальными деятелями. Её вклад в развитие народной песни был отмечен званием заслуженной и народной артистки РСФСР.

В последние годы своей карьеры она работала консультантом хора русской песни Всесоюзного радио, передавая свой опыт молодым исполнительницам. Ольга Васильевна Ковалева скончалась 2 января 1962 года на восемьдесят первом году жизни.