O Pontifício Colégio Pio Brasileiro, ereto entre 1929 e 1933, foi inaugurado em  03 de abril de 1934. Começou a funcionar em condições compatíveis com as exigências próprias da época. A preocupação era toda dirigida para a formação dos seminaristas brasileiros, em Roma. Os mesmos freqüentavam as aulas na Pontifícia Universidade Gregoriana, no período da manhã,  e à tarde,  uma parte do tempo era destinada à formação espiritual e outra, orientada para as chamadas aulas de repetição ou reforço, desenvolvidas no próprio Colégio, sob a supervisão de um professor, chamado repetidor. Esse professor, servindo-se dos manuais elaborados pela própria Universidade, estudava  com os seminaristas os conteúdos das aulas ouvidas, na parte da manhã, de maneira que quase não havia maior necessidade de existir uma biblioteca atualizada, na própria estrutura onde os jovens residiam.

Além disso, a inteira infra-estrutura do Colégio era ainda bastante precária,  carecendo a casa de móveis e outras instalações básicas.  Com todas essas carências, pensar em montar uma verdadeira biblioteca foi sendo deslocado para épocas futuras.
Mas, gradualmente e na medida em que os cursos dos seminaristas iam-se tornando mais exigentes, o Colégio começou a investir na compra de alguns livros mais especializados, para permitir o aprofundamento dos temas estudados nas aulas da universidade. Esses livros se conservavam numa sala comum de livre acesso, para que pudessem ser consultados pelos alunos, de acordo com suas necessidades e interesses, nos tempos a eles disponíveis. 

No início dos anos 60, com recursos provenientes de Benfeitores suíços, em área adjacente à Ala Central, construiu-se a Capela de Nossa Senhora Aparecida, conforme, aliás, já estava previsto no próprio projeto do Colégio. Com isso, destinou-se à biblioteca em formação o espaço anteriormente usado para as celebrações eucarísticas.   Desse momento em diante, dispondo de um amplo espaço e diante das solicitações decorrentes da crescente e diversificada especialização dos alunos, todos agora  sacerdotes, freqüentando cursos de Mestrado e Doutorado, em várias universidades eclesiásticas, a Biblioteca começou a crescer em ritmo mais acelerado.

Na década de 70 deu-se o impulso definitivo ao melhoramento da Biblioteca. Escolheu-se o sistema de classificação: CDD (Dewey Decimal Classification), adaptado a um acervo de livros de não enormes proporções, como o do PCPB. Detalhou-se somente os campos do saber que interessavam mais os usuários, isto é, as matérias do campo humanista, principalmente bíblia, teologia, patrística, espiritualidade, pastoral, história da Igreja, filosofia, sociologia, psicologia e literatura luso-brasileira. Pela primeira vez nomeou-se um sacerdote jesuíta para o cargo específico de «bibliotecário» e formou-se uma equipe de alunos para o fichamento e a arrumação das obras. Em 1974 foi contratado um funcionário leigo para dar continuidade ao serviço e enviou-se, pela primeira vez, um pedido de ajuda à Adveniat para compra de obras especializadas nos diversos campos de interesse dos alunos. Este pedido continua sendo feito até os dias de hoje. 

Em 2005 começou-se a informatização do acervo e em 2008 pode-se dizer terminado o trabalho com a introdução na internet do catálogo que poderá ser livremente utilizado pelos usuários. Hoje, a Biblioteca do Colégio abriga cerca de 50.000 volumes e 100 assinaturas de revistas especializadas, levando-se em conta as áreas de estudo mais solicitadas nos diferentes Ateneus e Universidades Pontifícias.