En 1770, la bibliothèque occupe les galeries Fouquet et Harlay de l’ancienne bibliothèque du collège Louis-le-Grand dont les jésuites ont été expulsés en 1763.
Ses collections contiennent alors 20 000 volumes provenant de quatre ensembles :
la bibliothèque personnelle de Jean-Gabriel Petit de Montempuis, janséniste notoire et ancien recteur de l’Université de Paris, léguée en 1762 (5 000 volumes) ;
la bibliothèque du collège des Jésuites, attribuée en 1764 à l’Université qui en conserve 10 000 volumes et vend le reste ;
les livres de 28 collèges parisiens, supprimés en 1764 et réunis en une nouvelle institution reprenant le nom et les bâtiments du collège Louis-le-Grand (3 000 volumes) ;
les livres achetés de 1766 à 1770 (1 700 volumes) par le bibliothécaire.
Jusqu’à la Révolution, elle est ouverte trois jours par semaine, non seulement aux étudiants et professeurs, mais au public en général. Elle achète régulièrement des livres et compte 31 000 volumes en 1791.
La suppression de l’Université en septembre 1793 et la transformation de ses locaux en caserne et en prison entraînent le transfert provisoire de la bibliothèque au dépôt littéraire de Louis-la-Culture (actuelle église Saint-Paul-Saint-Louis). De 1796 à 1798, elle est rapportée par tranches successives au collège Louis-le-Grand, rebaptisé collège Egalité, puis Institut des boursiers et Prytanée français. Elle s’enrichit en même temps d’un grand nombre d’ouvrages confisqués aux ordres religieux et aux émigrés, notamment aux Condé, aux Caylus et aux Montmorency. Appelée bibliothèque des lycées de Paris en 1802, elle devient bibliothèque de l’Université de France en 1808.
Elle quitte en 1823 les bâtiments du collège Louis-le-Grand pour s’installer dans ceux de l’ancien collège de Sorbonne supprimé par la Révolution.