Iako se prvi grb spominje u „Žitiju despota Stefana Lazarevića“, nema njegovog detaljnijeg opisa. Prema heraldičkoj studji o grbu Beograda profesora Miloša Ćirića, napravljena je rekonstrukcija grba sa despotovog pečata, a na toj slici nema ni traga od broda.

Kako se Beograd razvijao i napredovao, menjao vlasti, tako se i grb menjao. Dok su nad Srbijom vladali Turci, nije bilo ni pomena o grbu Beograda, jer u njihovoj kulturi i ne postoje ovakva obeležja. U vreme Austrije, grb je utisnut u pečat koji se koristio u zvanične svrhe, a sam izgled ostao mu je nepromenjen sve do početka 20. veka, kada se pojavila prva inicijativa za grbom koji će predstavljati svoj grad. I to prvi put srpsku vlast.

Sveti Sava odbijen

Za 300. godišnjicu spaljivanja moštiju Svetog Save na Vračaru desila se javna rasprava o grbu grada. Tada, 1895. na Vračaru je Đorđe Stratimirović izneo predlog da se na grb stavi lik Svetog Save od zlata, na plavom polju. Međutim, njegov predlog nije prihvaćen.

Akciju utvrđivanja beogradskog grba pokrenuo je Milan Nešić, predsednik opštine Beograda 1931. godine. Tada je 19. maja oformljen odbor umetnika, heraldičara, profesora univerziteta, generala i državnih savetnika da bi odredili elemente grba. Dogovorili su se da grb mora imati oblik štita sa lakim završetkom u obliku šiljka, a da elementi (reka, brod, zidine sa otvorenom kapijom, nebo, zemlja) moraju biti nacionalne boje. Svi simboli na grbu predstavljaju Beograd - reka je snaga grada, rimska lađa ukazuje na starost, zidine sa kulom i otvorenom kapijom predstavljaju varoš, a kula grad, dok otvorena kapija ukazuje na slobodan promet. Takođe je naglašeno da zemljište u klinu grba mora biti crvene boje zbog krvi, stradanja i patnje Beograda, dok reke, zidine varoši i kule su bele da bi simbolizovale belinu grada. Nebo je plavo, jer ta boja predstavlja nadu i veru. Na konkursu su učestvovala 56 rada, a pobedila je skica Beograđanina Đorđa Andrejevića Kuna i ona je tada zvanično usvojena.

Tim stručnjaka ponovo se okupio 2003. da bi osavremenio gradske simbole. Grb je doteran uz nekoliko sitnih prepravki i on se u takvom izdanju koristi i danas. Takođe, tada je formiran i veliki grb - dvoglavi orao kako u kandžama drži mač i granu lovora, simbole večnosti i besmrtnosti. Ispod njega su dve grane hrasta, ukrašene odličjima grada - Ordenom krsta viteza Legije časti, Ordenom Karađorđeve zvezde sa mačevima, Ordenom narodnog heroja i Čehoslovačkim ratnim krstom. Na orlovim grudima je osnovni grb Beograda.