De bibliotheek is ontstaan uit de collectie van de Société Scientifique et Littéraire du Limbourg die te Tongeren gevestigd was. Vooral in de periode 1880-1930 werd de bibliotheek uitgebreid.
De Société evoluuerde tot het Koninklijk Limburgs Geschied- en Oudheidkundig Genootschap te Tongeren (KLGOG) dat nog steeds zijn bibliotheek in het stadsarchief bewaart. Sinds de werking van het stadsarchief in de jaren 1940-1950 werd uitgebouwd door Henry Baillien ontstond ook een eigen collectie. Beiden werden onder zijn impuls samengevoegd.
De collectie groeit jaarlijks nog steeds aan.