Історія бібліотеки тісно пов’язана з історією села. Ще в 1876 році у Ковалівці було відкрито однокласне земське училище, при якому діяла бібліотека, якою користувалося 132 дітей та 3 дорослих.
В 1923 році в Ковалівці   створено перше колективне господарство-артіль «Культура», при якій було створено бібліотеку та кінотеатр.
В післявоєнні роки бібліотека працювала у приміщенні  будинку культури. З грудня 2019 року, у зв’язку з капітальним ремонтом будинку культури, бібліотека знаходиться в приміщенні Ковалівської амбулаторії.
З 1965 року бібліотекою завідувала Прасол Галина Матвіївна.
20 жовтня 1979 року бібліотека ввійшла до складу ЦБС Полтавського району як Полтавська районна бібліотека для дітей.
У різні роки в бібліотеці працювали: Скиба Тетяна, Горіздра Людмила, Сиверин  Надія, Непринцева Ніна, Панченко Ірина, Кондак Світлана.
На даний час бібліотеку очолює  працівник з багаторічним стажем Неділько Валентина Василівна