La nascita della Biblioteca Comunale risale ai primi anni del Regno d'Italia quando, in conseguenza della legge che stabilì la soppressione di alcuni ordini religiosi e l'incameramento dei beni ecclesiastici, lo Stato cedette all'amministrazione di Trani la preziosa biblioteca del Convento dei Domenicani.
La Biblioteca fu inaugurata ufficialmente il 23 aprile 1870 e fu stanziata la somma di duecento lire per l'acquisto di libri e di quant'altro occorresse per il funzionamento della Biblioteca stessa.
Nell'ultimo trentennio del secolo il patrimonio librario, che all'inizio era stato di sole poche centinaia di volumi, si arricchì notevolmente, non tanto per gli acquisti, fatti con il fondo annuo stanziato dal comune, quanto per le numerose donazioni. La Biblioteca fu provvisoriamente sistemata in una sala del palazzo di città, ma non c'era nessuno impiegato che vi provvedesse con incarico specifico. L'urgenza di dare una sistemazione al complesso bibliografico spinse l'Amministrazione Comunale ad affidare la direzione della biblioteca a una persona ritenuta competente ( fu scelto il direttore Maffia) e le funzioni di bibliotecario all'economo del Comune. La scarsa affluenza di pubblico, tuttavia, sembrava frustrare le buone intenzioni dell'Autorità Comunale.
Dopo la parentesi dovuta alla prima guerra mondiale, nel gennaio 1921, l'Amministrazione ribadì la volontà di dare alla città una biblioteca rispondente ai riconosciuti bisogni culturali della collettività, e deliberò di costituire un Comitato per suggerire le opportune provvidenze e per migliorare la struttura e l'efficienza. Si rinnovò parte dell'arredamento, si sistemò il servizio di illuminazione, si incrementò il patrimonio per colmare le lacune riscontrate nelle raccolte e per dotare la biblioteca di pubblicazioni recenti.
Nel 1923 la Biblioteca ebbe il suo giornale, "Il bollettino di cultura e bibliografia varia", nato con il disegno di manifestare le grandi correnti del pensiero moderno e di indicare con brevi recensioni le pubblicazioni più interessanti.
Il 1924 fu un anno importante per la vita della Biblioteca. La biblioteca fu trasferita nel Palazzo Vischi, fu dotata di nuova scaffalatura e di tavoli per la lettura.
Nel periodo del fascismo il patrimonio bibliografico, anche se si era arricchito ulteriormente, in conseguenza di numerose donazioni di cittadini, non sortì l'effetto sperato: l'incremento librario non si rivelò sufficiente ad attirare i giovani e a rendere la Biblioteca attiva.
Nel 1928 la Biblioteca venne intitolata a Giovanni Bovio, filosofo e uomo politico tranese, quando, grazie alle donazioni D'Agli, Vischi, Giuliani e Scocchera, il patrimonio librario raggiunse le 14741 unità, che nel giro di pochi anni, sotto la direzione di Renato Zanelli prima e di Raffaele Sarno poi, sempre grazie ad altre donazioni e agli acquisti operati, salì a 26000 volumi.
Nel luglio 1949 venne assicurata alla biblioteca la raccolta Giovanni Beltrani costituita da oltre 8000 unità e conservata in un'artistica scaffalatura ottocentesca di stile rinascimentale. La raccolta Beltrani è costituita da opere di esclusivo interesse storico locale, ricordiamo a tal proposito il ricco nucleo delle edizioni pugliesi del XVII secolo che si conosca, ed una raccolta di giornali politici meridionali del Risorgimento.
Successivamente alla Raccolta Beltrani, si sono succedete altre donazioni, ricordiamo quella dell'avv. Giacinto Francia (di interesse filosofico e sociologico), quella dell'avv. Giovanni Petrelli (opere di varia cultura), quella del prof. Luigi Viesti (opere giuridiche), quella dell'avv. Emilio Gargano (volumi di interesse giuridico), quella della famiglia Rossi e parte della biblioteca di Raffaele Cotugno, quella dell'avv. Cataldo Trombetta, quella dell'avv. Guido Maffuccini e quella dei fratelli Gaetano e Adolfo Quercia.
Nel 1952 assunse la direzione della Biblioteca Benedetto Ronchi e vi rimase per oltre 25 annni. Furono degli anni di inteso e proficuo lavoro: fu redatto il primo regolamento della biblioteca, fu elaborato un catalogo per soggetto, fu istituito il servizio di prestito ed avviata la catalogazione dei manoscritti da parte dello stesso Ronchi. Nel 1978 assunse la direzione il dott. Mario Schiralli che aveva già lavorato per quindici anni a fianco del dottor Ronchi.
Nel 1994 la Biblioteca fu trasferita presso i locali in Via De Gasperi, dove rimase per nove anni. A questo periodo risale l'acquisizione del fondo Tarantini.
Il 6 dicembre 2003 la Biblioteca fu nuovamente trasferita in Piazzetta San Francesco nella sede attuale.
