Seit 1980 befindet sich das Archiv der Universität Wien in jenem Trakt der Alten Universität, der bis 1884 die Universitätsbibliothek beherbergte.
Die Alte Universität ist der älteste erhaltene Standort der Universität Wien. Sie wurde unter der Ägide des Jesuitenordens im Laufe des 17. Jahrhunderts errichtet. Der Gebäudeteil, in dem das Archiv der Universität Wien untergebracht ist, erhielt seine heutige Gestalt jedoch erst in der ersten Hälfte des 19. Jahrhunderts, als die Universitätsbibliothek ausgebaut wurde.
Schon der mittelalterliche Vorgängerbau, das Herzogskolleg , hatte seit 1385 an dieser Stelle als Sitz der Wiener Universität gedient.
Hier befand sich als Annex zum Herzogskolleg auch eine dem Hl. Benedikt geweihte Kapelle, in der schon im Mittelalter und im 16. Jahrhundert wertvolle Archivalien und Urkunden der Universität gelagert wurden. Der heutige Standort des Universitätsarchivs bietet somit eine Reihe von Anknüpfungspunkten zur reichhaltigen Tradition der Wiener Universität und ihrer Archivbestände.