U Istorijskom arhivu Beograda nalaze se raznovrsni arhivski fondovi i zbirke, koji nam pružaju značajne podatke o istoriji Beograda i Srbije. Arhivska građa je uglavnom na srpskom i nemačkom jeziku, a pojedinačni dokumenti su na turskom, francuskom, mađarskom, ruskom, italijanskom, rumunskom, hebrejskom i drugim jezicima.

Najstariji dokument koji se čuva u Arhivu je iz druge polovine 16. veka, Dijalog Osmanlije i Hrišćanina o vojnopolitičkoj situaciji, na turskom jeziku. Najstariji fond je Zemunski magistrat, čija građa datira od 1749. godine, kada je Zemun proglašen slobodnim kraljevskim gradom, izuzimanjem iz poseda porodice Šenborn. Građa je uglavnom na nemačkom jeziku. Najobimniji fondovi su: Skupština grada Beograda, Okružni sud za grad Beograd, Uprava grada Beograda, Zemunski magistrat, Kotarski sud u Zemunu i Trgovinska komora u Beogradu.