Az egyetem írott dokumentumainak őrzőhelye az egyetemi levéltár. A több évszázados múlttal rendelkező, nagy európai egyetemek iratsorozatait kezdetben az egyetem hivatalai, a rektor, a kancellár és a dékánok mellett működő irodák, később általában az egyetemi könyvtárak őrizték. A 19. század elejétől induló gyors fejlődés következtében az egyetemek szervezete, írásbelisége és adminisztrációja is megváltozott, ugrásszerűen megnőtt az egyetemi írásbeliség által létrehozott források mennyisége, melyek őrzéséről, feldolgozásáról és kutathatóságáról gondoskodni kellett. Így születtek meg Európában az első egyetemi levéltárak.
Hazánkban egyetemi levéltár létrehozására elsőként Békefi Remig, a Budapesti Tudományegyetem Bölcsészettudományi Karának dékánja tett javaslatot 1911-ben, amely azonban sem akkor, sem a két világháború közti időszakban nem valósult meg. A második világháború után, az akkori tudománypolitikai vezetés szándéka szerint az egyetem iratanyagát az Országos Levéltárnak kellett átadni. Az Eötvös Loránd Tudományegyetem 1951-ben 137 folyóméter, 1953-ban pedig további 200 folyóméter iratanyagot szolgáltatott be a Magyar Országos Levéltárba. 1956-ban az Országos Levéltárt orosz tüzérségi találat érte, és az ekkor keletkezett tűzben a néhány évvel korábban átadott – leginkább 19. századi – egyetemi iratanyag is megsemmisült. A hatalmas veszteség után Mátrai László, az Egyetemi Könyvtár főigazgatója 1957 januárjában javasolta a megmaradt források felmérését, majd 1957. december 6-án egy Székely György rektorhelyettes vezette bizottság részletes javaslatot készített az Egyetemi Levéltár felállításáról és feladatköréről. Az egyetemvezetés kérését a Művelődésügyi Minisztérium is jóváhagyta, így 1958-ban megkezdhette működését az ország első egyetemi levéltára.
A levéltár kezdetben az Egyetemi Könyvtárban kapott helyet, szakmai felügyeletét az Egyetemi Könyvtár Kézirattárának vezetője látta el. Az intézmény 1964-ben az ELTE Természettudományi Karának Ludovika téri épületébe költözött, ahol megkezdődhettek a begyűjtési, rendezési és feldolgozási munkálatok, valamint a kutatási lehetőség is biztosított volt. 1973-tól a Levéltár az Egyetemi Könyvtár részlegeként működött, felügyeletét a könyvtár főigazgatója látta el.
A Levéltár életében fontos változást hoztak az egyetem 350 éves jubileumi ünnepségének előkészületei, melynek során 1978-ban az egyetemi vezetés határozott egy új, átfogó egyetemtörténet megírásáról. A forrásanyag feltárásának szükségessége erőteljesen felhívta a figyelmet a Levéltár elhelyezési és egyéb gondjaira. 1982-ben sor került az Egyetemi Levéltár nagyszabású rekonstrukciós tervének kidolgozására, majd az egyetem hivatalosan kérte a Művelődésügyi Minisztériumtól az intézmény szaklevéltárrá nyilvánítását. Ennek eredményeként a Minisztérium 1983. szeptember 1-jétől az ELTE Levéltárát szaklevéltárrá minősítette át önálló szakmai irányítással és költségvetéssel.
1984-től a Levéltár személyzete három, majd négy főre bővült, így a korábbinál intenzívebb szakmai munka kezdődhetett meg. A szakmai munka támogatására megalakult az egyetemen a Levéltári Bizottság, melynek elnöke a Történelem Segédtudományi Tanszék vezetője lett. 1983-ban megkezdődött a Levéltár rekonstrukciója, mely 1987-ben fejeződött be. Ennek során felújították a Levéltár helyiségeit, kialakítottak egy új kutatótermet, és felépült egy korszerű, új raktár, amellyel a Levéltár raktári kapacitása 1000 folyóméter irat elhelyezésére vált alkalmassá.
1992-ben napirendre került a Levéltár új helyre költöztetése, ugyanis a Magyar Honvédség újra igénybe kívánta venni az egykori Ludovika Akadémia egy részét, az épület másik felét pedig a Természettudományi Múzeum kapta meg. 2004-ben a Természettudományi Múzeum felújítási munkálatai annyira előrehaladtak, hogy a Levéltárnak el kellett hagynia az épületet. Átmeneti megoldásként az Egyetemi Könyvtárban kapott helyet, majd 2005-ben az egyetem felajánlotta számára a volt egyetemi nyomda Maglódi úti épületét. A költözés 2005 és 2007 között zajlott le. A mintegy 1300 folyóméter iratanyagot felújított raktárakban helyezték el, ahol lehetőség nyílt a raktárkapacitás bővítésére is. 2017-ben a levéltár szervezetileg újra a könyvtár része lett, és ELTE Egyetemi Könyvtár és Levéltár néven működik tovább.
2024-ben a levéltár munkatársai és szolgáltatásai, valamint az iratanyag egy része a Ferenciek terén lévő könyvtár épületébe költözött, az iratanyag másik része pedig egy Pátyon bérelt raktárba került.