Men ur ett historiskt perspektiv så har Tyskland aldrig varit särskilt enhetligt. Under kejsarrikets tid mellan 1871 och 1918 så bestod Tyskland av 25 förbundsländer - från det gigantiska Preussen med 40 miljoner människor till minimala Schaumburg-Lippe med mindre än 50000 invånare. Kejsaren bodde mest i Potsdam, som är en egen stad alldeles utanför Berlin. Idag är Potsdam huvudstad i förbundslandet Brandenburg.
Efter 1945 så var det mer komplicerat. Tyskland var delat i fyra ockupationszoner, ur vilka de nya staterna Förbundsrepubliken och Tyska Demokratiska Republiken (DDR). Eftersom Berlin också var delat i fyra zoner, blev den sovjetiska zonen i praktiken DDR:s huvudstad, men det erkändes aldrig av västmakterna. Det gjorde, att toppmöten mellan öst och väst inte kunde äga rum i (Öst-)Berlin utan i städer som Erfurt, Dresden och Güstrow.
I väst satsade man målmedvetet på att inte etablera en alltför stark central makt, utan delstaterna fick mycket att säga till om. Fyra städer var tänkbara som ny förbundshuvudstad: Kassel, Frankfurt am Main, Stuttgart och Bonn. Det blev den relativt lilla staden Bonn, tidigare mest känd för att vara Beethovens hemstad som utsågs till Förbundshuvudstad. Myndigheterna placerades i olika lokaler. Förbundsdagens sammanträdesrum kallades för Altes Wasserwerk, just för att det var ett gammalt vattenverk!
Vid tiden för återföreningen 1990 höll man precis på att bygga en ny fin sessionssal för Förbundsdagen. Att presidenten skulle flytta till Berlin var självklart, men i ett beslut 1991 bestämde Förbundsdagen med knapp majoritet att regeringen och parlamentet skulle dra in i Berlin. Så blev det 1999 till slut, då Riksdagshuset blivit renoverat. Sex departement finns i Bonn.
Men allt händer inte i Berlin. Det finns en rad städer där olika gemensamma institutioner finns, som i de flesta andra länder skulle vara samlat i huvudstaden:
Karlsruhe: Högsta domstolen och Författningsdomstolen
Frankfurt am Main: Centralbanken (Bundesbank) och numera även Europeiska Centralbanken. Här finns också börsen.
Erfurt: Arbetsdomstolen
Leipzig: Högsta förvaltningsdomstolen
Kassel: Högsta socialdomstolen
München: Högsta patentdomstolen och högsta finansdomstolen
Koblenz: Bundesarchiv (motsvarar Riksarkivet)
Så är det även utanför de statliga organen. Tysklands radio och TV är huvudsakligen regional, men det stora nyhetsprogrammet Tagesschau i sänds från Hamburg och den tyska "tvåan" - ZDF görs i Mainz.