La Bibliothèque du Conservatoire royal de Bruxelles a été créée en même temps que l’institution en 1832. Un premier catalogue manuscrit, dressé en juillet 1835, fait état de 576 volumes. Le premier catalogue imprimé, publié en 1870 par Van Lamperen, recense près de 5 000 numéros ; quant au catalogue en quatre volumes publié par Wotquenne entre 1898 et 1912, il totalise pas moins de 16.809 numéros.
La richesse exceptionnelle des collections est due principalement à l’intérêt pour la musique ancienne des deux premiers directeurs du Conservatoire, François-Joseph Fétis et François-Auguste Gevaert, ainsi qu’à l'activité du bibliothécaire Alfred Wotquenne, actif de 1894 à 1918.
Parmi les fonds historiques les plus importants acquis avant 1919, il y a la collection Westphal acquise par Fétis en 1840 dans laquelle se trouve des manuscrits de Carl Philipp Emanuel Bach et Georg Philipp Telemann, et la bibliothèque de Guido-Richard Wagener, acquise par Wotquenne en 1905 (rassemblant des musiques allemande, française et italienne des XVIIe, XVIIIe et XIXe siècles, souvent conservée dans des recueils somptueusement reliés).
Actuellement, les collections de la bibliothèque du Conservatoire peuvent être estimées à près d'un million d'entités bibliographiques, comprenant principalement des partitions et des livres sur la musique, mais aussi des manuscrits (environ 16.500 d’avant 1850), des périodiques (plus de 1.200 titres), des livrets d'opéra (environ 8.000 titres), plusieurs milliers de lettres autographes de musiciens, des collections iconographiques (près de 10.000 pièces),des programmes de concerts et des enregistrements de toute nature.
À côté des collections du fonds général, il y a une centaine de fonds spéciaux constitués le plus souvent de manuscrits autographes et d’archives de compositeurs comme Joseph Jongen, Léon Jongen, Léon Delcroix, René Bernier, Gaston Brenta, Paul Gilson, Henri Thiébaut, Eugène Guillaume ; de compositrices comme Eva Dell'Acqua ou Suzanne Daneau ; de grands interprètes comme les pianistes Arthur De Greef, Camille Gurickx, Hélène Dinsart, Emile Bosquet, les violonistes Lambert Massart, Alfred Marchot, Laurent Halleux (second violon du Quatuor "Pro Arte"), Maurice Raskin, l’altiste Gilbert Bockstael, le violoncelliste Marcel Duwez ; les cantatrices Laure Bergé, Lina Pollard, Gabrielle Wybauw, Germaine Teugels, Nina Philippart ; les chefs d'orchestre Désiré Defauw, Franz André ou V.O. Ursmar ; les musicologues ou critiques Charles Van den Borren, Ernest Closson, Roger Bragard, Maurice Kufferath, Paul Bergmans ou Emma Piel ; ou de musiciens amateurs comme le Docteur Fernand Leroy.
Certains de ces fonds spéciaux conservent une documentation très riche et en même temps très spécialisée : le fonds Docteur J. Hollenfeltz est consacré à Mozart et ses fils; le fonds Constantin Piron est consacré à la musique française de la seconde moitié du XVIIIe siècle ; le fonds Alzire Barbier est constitué de musique légère de la période de l'entre-deux-guerres ; le fonds Sainte-Gudule conserve la musique jouée au XVIIIe siècle dans la collégiale bruxelloise, etc. Enfin, la bibliothèque abrite également : les souvenirs de la Malibran donnés par le général Wauwermans ainsi que le fonds Michotte consacré à Rossini.
En 2015, la bibliothèque a repris la collection de partitions rassemblée par le Centre Belge de Documentation Musicale (CeBeDeM), tout en poursuivant les objectifs de celui-ci en matière de diffusion de la musique belge contemporaine en Belgique et à l’étranger.