Das Schicksal der Universitätsbibliothek war immer eng mit dem der Universität Wien verknüpft - schon seit der Bibliotheks-Gründung im Jahr 1365 durch Rudolf IV., wodurch die UB Wien die älteste Universitätsbibliothek im deutschen Sprachraum ist. Angesiedelt war die sogenannte "publica libraria" an der Stelle des heutigen Universitätsplatzes. Die Hohe Schule zerfiel in eine Reihe von Fakultäten. Jede Fakultät besaß ihre eigene Bibliothek.
Im 15. Jahrhundert wuchsen die Buchbestände erheblich. Bald war jeweils ein eigener "bibliothecarius" damit betraut, die Werke vor Beschädigung und Entwendung zu schützen. Entlehnen konnte man die angeketteten Bände (libri catenati) nur in Ausnahmefällen.
Bedingt durch die Türkenkriege und die Pestepidemien nahm der Stellenwert der Universität Wien im 16. und 17. Jahrhundert stark ab. Mit der Bedeutung der Universität verfiel auch die ihrer Bibliothek. Schließlich übernahm die Klosterbibliothek der Jesuiten die Aufgaben der UB, deren letzte Bestände 1756 der Hofbibliothek einverleibt wurden.
Erst in der Regierungszeit Maria Theresias, genauer am 13. Mai 1777, wurde die UB neu eröffnet, vornehmlich mit den Beständen der aufgelassenen Jesuitenklöster (die wertvollsten Bücher blieben an der Hofbibliothek). Die neue Bibliothek war im barocken Bibliothekssaal des Akademischen Jesuitenkollegs und einigen Nebenräumen untergebracht und im Unterschied zu ihrer Vorgängerin allgemein zugänglich. Damals wurde die Bestimmung erlassen, dass die Universitätsbibliothek direkt dem Staat (und nicht etwa der Universität) unterstand; der Leiter der Bibliothek war also direkt dem Minister verantwortlich. Diese Bestimmung änderte sich erst am 1. Jänner 2000, als die Universitätsbibliothek dem Rektor der Universität unterstellt wurde.
Schon in der ersten Hälfte des 19. Jahrhunderts musste ein Erweiterungsbau in Angriff genommen werden, da sowohl der Buchbestand kontinuierlich anwuchs, als auch die Benutzerfrequenz ständig zunahm. Die UB Wien wurde zur führenden Forschungsbibliothek der österreichisch-ungarischen Monarchie. Im Jahr 1884 folgte die Bibliothek der Universität in den Neubau auf dem Ring nach. Die drückende Raumnot blieb bestehen: es waren keinerlei Möglichkeiten zur Erweiterung eingeplant. Dennoch erlebte die UB eine Blütezeit, die allerdings mit dem Ersten Weltkrieg zu Ende ging: Problematisch waren Personalknappheit durch die Einberufungen im Ersten Weltkrieg und später durch die Wirtschaftskrise, sowie Lücken im Bestandsaufbau, vor allem bei ausländischen Zeitschriften.
1938, nach dem "Anschluss" an das Deutsche Reich, wird die "Gleichschaltung" der Universität Wien auch von Innen her rasch durchgeführt. Nach dem "Anschluss" im März 1938 bereicherte sich die Universitätsbibliothek ebenso wie zahlreiche andere Bibliotheken am unrechtmässigen Entzug im nationalsozialistischen Regime beschlagnahmten Eigentums vor allem der jüdischen Bevölkerung, aber auch politisch verfolgter Personen und Institutionen (zur Aufarbeitung siehe NS-Provenienzforschung).
Während des Zweiten Weltkriegs wurde der Buchbestand nach Niederösterreich in bombengeschützte Räume ausgelagert, doch gingen durch Transport, schlechte Lagerung und andere kriegsbedingte Komplikationen viele Bücher verloren oder wurden beschädigt. 1951 war der Wiederaufbau des bombenbeschädigten Gebäudes im wesentlichen abgeschlossen; man zog dem Lesesaal einen höheren Boden ein und gewann dadurch Raum für ein zusätzliches Magazin.
Nach der Übersiedlung von Universitätsinstituten in das Neue Institutsgebäude (NIG) in den sechziger Jahren konnten ein Foyer mit Garderobe, eine Entlehnabteilung, ein Kleiner Lesesaal, die Zeitschriftenabteilung sowie Räume für die Buchbearbeitung und zusätzlicher Stellraum geschaffen werden. Doch war dieser Raumgewinn eigentlich ein Rückschlag, denn ursprünglich hätte das NIG kein Instituts-, sondern ein reines Bibliotheksgebäude werden sollen; ein Beschluss der Universität im Jahr 1955 hatte die seit langem geplante Zentralbibliothek verhindert.
Das UOG 1975 (Universitätsorganisationsgesetz) etablierte eine engere organisatorische Verbindung der Bibliothek mit der Universität, ohne jedoch deren Unabhängigkeit anzutasten. Sukzessive wurde die innere Struktur den Erfordernissen der Zeit angepasst, so z. B. ein Referat für ADV-Planung eingerichtet oder die Informationsvermittlungsstelle für maschinelle Literatursuche (IVS; 2001-2023: ubw:helpdesk und User Training) ausgebaut. Die Koordination der Literaturauswahl zwischen Hauptbibliothek, Fakultäts- und Fachbibliotheken wurde verbessert. Sammelrichtlinien wurden erarbeitet und veröffentlicht.
Seit dem Wintersemester 1986 kann die Entlehnverbuchung (beginnend mit der Lehrbuchsammlung) und seit 1989 auch die Katalogisierung automationsunterstützt durchgeführt werden.
Als im Jahr 1998 die Magazine so weit gefüllt waren, dass für neue Bücher kein Platz mehr vorhanden war, wurden die Räume der ehemaligen Niederösterreichischen Landesbibliothek in der Teinfaltstraße 8 angemietet und etwa 300.000 Bücher dorthin ausgelagert. Diese Außenstelle wurde im Mai 1999 eröffnet, wenig später konnte die neue Lehrbuchsammlung im Hauptgebäude ihren Betrieb aufnehmen.
Durch die Reformen des UOG 1993 untersteht nun seit 1. Jänner 2000 die UB nicht mehr dem Ministerium, sondern direkt dem Rektor der Universität Wien.
Mit Inkrafttreten des UG 2002 am 1. Jänner 2004 wurde die Universitätsbibliothek gemeinsam mit dem Archiv der Universität Wien und den zu Fachbereichsbibliotheken neu zusammengelegten ehemaligen Fakultäts-, Fach- und Institutsbibliotheken zur "Dienstleistungseinrichtung Bibliotheks- und Archivwesen" zusammengeschlossen.
In Vorbereitung der Wiederaufnahme des Bibliotheksbetriebes im Jahr 1777 und seitdem ohne Unterbrechung wurde Sorge getragen, dass alle Bestände lückenlos in diversen Katalogen erfasst werden. Vor Einführung des elektronischen Systems entstanden so im Lauf der Jahrhunderte folgende Kataloge und Verzeichnisse:
Aus diesen Katalogen sind ab Übersiedlung ins Gebäude am Ring 1884 die neueren Kataloge entstanden:
Zentralkatalog der Institute (ZKI):
1973-1991 geführter Nominalkatalog in Zettelform nach Preußischen Instruktionen, der Bestände der Fakultäts- und Fachbibliotheken sowie der Institutsaufstellungen der Universitätsbibliothek Wien bis zur Einführung des Online-Katalogs in den betreffenden Zweigstellen verzeichnete.
In weiterer Folge wurde der Katalog digitalisiert und ist als KatZoom-Katalog online zugänglich.
Fortsetzungskatalog:
Dienstkatalog in Ergänzung zum Nominalkatalog 1932 bis 1988 geführt, verzeichnete er die Stücktitel aller mehrbändigen Werke und Reihen, die nach 1932 laufend erschienen. Mit Aufnahme einer Reihe oder eines mehrbändigen Werkes in den Online-Katalog wurden die Auftragungen im Fortsetzungskatalog eingestellt.
Katalog der Inkunabeln:
Einbändiges Druckwerk, in dem die Inkunabeln der UB Wien verzeichnet sind. Der Katalog wurde von Hugo Alker zusammengestellt (1. Aufl. 1958). Leopold Cornaro ist Herausgeber einer zweiten, durchgesehenen und erweiterten Auflage 1996.
Ab 1989 zunächst an der Hauptbibliothek und in den Folgejahren an den Fakultäts- und Fachbibliotheken eingeführt, wurde die Verwaltung der Bibliotheksbestände zunächst mit dem System BIBOS, später mit ALEPH 500 und heute mit Alma ins digitale Zeitalter überführt.