O Arquivo do IHGB reúne documentos escritos avulsos variados, arquivos pessoais e privados, além de uma rica coleção de cartografia e iconografia da história do Brasil. No conjunto, destacam-se cinco arquivos presidenciais (Manuel Deodoro da Fonseca, Prudente de Morais, Epitácio Pessoa, Rodrigues Alves e Emílio Garrastazu Médici) e vários arquivos de personalidades da política nacional, de escritores e intelectuais.
Além disso, encontram-se documentos significativos, como atlas e mapas aquarelados do século XVII e a partitura autógrafa original do hino da Independência, de autoria do imperador Pedro I, assim como os diários de André Rebouças e os cadernos de campo de Euclides da Cunha.