Arkivi i Institutit të Historisë përbëhet nga dokumente të sjella nga ekspeditat e studiuesve pranë arkivave të huaja, nga materiale të ndryshme të sjella nga biblioteka dhe institucione të tjera shkencore etj.

Ky arkiv është i pasur me dokumente arkivore dhe monografi të pabotuara. Ai ruan dokumente të sjella nga arkivat amerikane, arkivat britanike, arkivat franceze, arkivat austriake, arkivat italiane, arkivat turke, arkivat greke, bullgare, arkivat e Kosovës, Maqedonisë, Malit të Zi, Kroacisë e Serbisë.

Fondet e këtij arkivi përbëjnë bazën kryesore burimore jo vetëm për punimet e botimet shkencore të deritanishme nga punonjësit e Institutit, por edhe më gjerë. Për arsye të vlerave burimore dhe shkencore, ky arkiv shërben si një ndër referencat kryesore të hulumtimeve shkencore.