Im Jahr 1388 wurde die erste "Archa universitatis" angeschafft. In diese eisenbewehrte Archivtruhe hinterlegten die Rektoren die rechtssichernden Urkunden und Siegel der Universität.
In der Neuzeit wurden Professoren der Theologischen und der Rechtswissenschaftlichen Fakultät mit dem Amt des Universitätsarchivars betraut.
Das älteste umfassende Inventar- und Findbuch stammt aus dem Jahr 1708. Mit Karl Schrauf wurde 1875 der erste hauptamtliche Berufsarchivar und Historiker eingestellt, der die historischen Bestände der verschiedenen Stellen zusammenführte und der Forschung zugänglich machte.
Das Universitätsarchiv wurde mit Einschluß der Amtsbibliothek (ehem. Rektoratsbibliothek) und der Schausammlung ("Universitätsmuseum") zu einer Service- und Forschungsstelle für Universitäts- und Wissenschaftsgeschichte. Ab 1975 gehörte es als gesonderte Abteilung der Universitätsdirektion an und wurde mit der Einführung des UOG 1993 am 1. Jänner 2000 in eine Dienstleistungseinrichtung umgewandelt. Mit der Implementierung des UG 2002 im provisorischen Organisationsplan wurde das Universitätsarchiv am 1. Jänner 2004 zu einer Subeinheit der Dienstleistungseinrichtung Bibliotheks- und Archivwesen.
Seit 1. Jänner 1997 befindet sich im Universitätsarchiv der Sitz der Österreichischen Gesellschaft für Wissenschaftsgeschichte .
Für eine detaillierte Geschichte des Archivs lesen Sie den Artikel von Kurt Mühlberger, "Schätze aus sieben Jahrhunderten: Das Archiv der Universität Wien".