La Biblioteca è stata istituita nel 1962 dall'Ente Nazionale Biblioteche Popolari e Scolastiche, intitolata allo scrittore e critico letterario Antonio Baldini, è realizzata secondo i più avanzati criteri della biblioteconomia. La biblioteca si distingueva negli anni '60 per modernità, funzionalità e aggiornamento delle raccolte. Nel 1977, dopo la soppressione dell'Ente, fu acquisita dallo Stato e destinata al Ministero per i Beni Culturali ed Ambientali, allora di recentissima istituzione (1975) e assunse l’attuale denominazione di Biblioteca Statale Antonio Baldini.
Fin dai suoi inizi, la biblioteca Baldini si è istituzionalmente posto come obiettivo prioritario la "amichevolezza" nei confronti dell’utenza, già in tempi in cui questa non era certo dovunque avvertita come un valore. Ecco dunque nelle sale, già negli anni `60, la disposizione delle raccolte librarie a scaffale aperto e in ordine classificato, cioè per materie, al fine di agevolare al massimo il lettore nella ricerca e nella fruizione, e al fine di consentirgli di trovare anche titoli di cui non conosca previamente l’esistenza; ecco anche la luminosità e la ariosità delle sale(consentite certo dalla ubicazione favorevole nel verde dei Parioli e dalla modernità della struttura architettonica); ecco lo stessoarredo delle sale di lettura, che fino agli anni `80 comprendeva persino degli angoli - salotto, con tavoli bassi e poltrone, caratteristica questa cui si è dovuto purtroppo rinunciare col tempo, al fine di aumentare i posti disponibili. Questa "amichevolezza" della struttura porta infatti a statistiche di frequenza di notevole significatività: presenze medie giornaliere di 150 persone, con picchi di presenze mensili di 3800 utenti. Ciò ha portato nel tempo alla necessità di regolamentare l’ingresso e ad una gestione dell’utenza con sistemi automatizzati.