Niemcy wkroczyli do Krakowa 6 września 1939 roku. Dla miasta rozpoczęły się lata okupacyjnej niewoli - grabieży, terroru i śmierci. Od symbolicznego już aktu niszczenia polskiej inteligencji (Sonderaktion Krakau 6 listopada 1939 roku), przez wywózki, łapanki, rozstrzeliwania, po zagładę krakowskich Żydów (likwidacja getta w Podgórzu w marcu 1943 roku i obozu koncentracyjnego w Płaszowie - do stycznia 1945 roku).
Z chwilą wejścia do miasta okupanta funkcjonował przedwojenny Zarząd Miejski na czele z prezydentem Stanisławem Klimeckim, powołanym na ten urząd 5 września 1939 roku przez zdekompletowaną już Radę Miejską. Ratusz zamknięto dla ruchu stron tylko na kilka dni, wówczas zainstalowała się tam okupacyjna komenda miejscowa (Ortskommandantur), niewtrącająca się do urzędowania, zajęta rewizją ksiąg kasowych i skarbca. Po aresztowaniu 20 września prezydenta Klimeckiego pod pozorem niezapewnienia bezpieczeństwa żołnierzom Wehrmachtu, jego obowiązki przejął dotychczasowy zastępca Wincenty Bogdanowski. Od 23 września zdawał urzędowanie władzom okupacyjnym, 27 tego miesiąca rozpoczął urzędowanie niemiecki komisarz miasta.
Stan tymczasowy trwał do 12 października 1939 roku, kiedy to na mocy dekretu Hitlera utworzono na części terytorium Polski Generalne Gubernatorstwo dla Okupowanych Obszarów Polskich (w skrócie zwane Generalgouvernement — GG). Stolicą tego tworu, będącego swego rodzaju protektoratem (władzę zwierzchnią wykonywała Rzesza), został Kraków, co było świadomą formą degradacji Warszawy jako stolicy Polski. Generalnym gubernatorem mianowany został Hans Frank, sprawujący władzę przy pomocy urzędu (rządu) z sekretarzem stanu (od 1941 roku w randze zastępcy generalnego gubernatora) na czele. GG podzielono na 4 dystrykty: krakowski, lubelski, radomski i warszawski, W 1941 roku utworzono dystrykt Galicja z centralnym ośrodkiem we Lwowie. GG liczyło wówczas ponad 17 min ludności na obszarze około 148,5 tys. km2. Dystrykty dzieliły się na powiaty i powiaty miejskie, najniższą jednostką podziału były gminy wiejskie i miejskie.
Kraków miał status powiatu miejskiego. Na jego czele stał początkowo komisarz miasta Krakowa (Stadtkommissar der Stadt Krakau), od końca grudnia 1939 roku w nowej tytulaturze starosty miejskiego w Krakowie (Stadthauptmann der Stadt Krakau). Urząd ten sprawował były nadburmistrz Drezna Ernst Zórner, a od lutego 1940 roku jego dotychczasowy zastępca Karl Schmid. Powołany w kwietniu 1941 roku kolejny okupacyjny naczelnik miasta, Rudolf Pavlu, początkowo tytułowany był „delegatem Szefa Dystryktu dla Miasta Krakowa” (Der Beauftragte des Distriktschefs fur die Stadt Krakau), jednak od września tegoż roku przywrócono nomenklaturę „starosta miejski”. Tą tytulaturą posługiwał się także urzędujący od kwietnia 1943 roku jego następca Josef Kramer - do swojej ucieczki z miasta w styczniu 1945 roku.
W odniesieniu do ustroju miasta w całości uchylono przepisy polskiej ustawy scaleniowej z 1933 roku. Już w listopadzie 1939 roku ukazało się rozporządzenie Hansa Franka „o zarządzie gmin polskich”, według którego zarząd gminy miejskiej (powiatu miejskiego) należał wyłącznie do pochodzącego z nominacji burmistrza (starosty miejskiego), który „zastępował gminę”. Był jedynym reprezentantem rządu GG na podległym mu terenie. Poza jego władzą administracyjną nie mogła na tym terenie istnieć żadna samodzielna ekspozytura innych organów poza sądami, urzędami Kolei Wschodniej i Niemieckiej Poczty Wschodu. Wprowadzono zatem model jednoosobowej administracji miejskiej sprawowanej nie przez organ samorządowy, lecz przez funkcjonariusza administracji niemieckiej. Starosta miejski podlegał szefowi dystryktu, od 1941 roku zwanego gubernatorem. Starosta miejski Krakowa podlegał zatem Gubernatorowi Dystryktu Krakowskiego.
Krakowski starosta działał poprzez podległy mu Zarząd Miasta, początkowo funkcjonujący w kształcie przedwojennym. Obok zarządu sprawującego administrację miejską zaczęto powoływać wyspecjalizowane urzędy, jak przykładowo do spraw policji, spraw gospodarczych, mieszkalnictwa czy szkolnictwa i młodzieży. Stanowiska kierownicze objęli Niemcy, kadrę urzędniczą stanowili Polacy, w znacznej mierze jeszcze przedwojenni pracownicy Zarządu Miasta. Postępowała germanizacja — obowiązywała dwujęzyczność w pismach urzędowych, usunięto polskie nazwy urzędów i biur, zniknęły napisy polskie i polskie oznaczenia. Za rządów starosty Schmida z bramy w herbie miasta usunięto orła — próbie zastąpienia tego symbolu swastyką sprzeciwił się dopiero rząd GG, uznając to za przedwczesne. Od sierpnia 1941 roku obowiązywała wyłącznie niemiecka nazwa miasta: Krakau.
Dla stworzenia pozorów łączności władz niemieckich z mieszkańcami miasta już w październiku 1939 roku powołano Radę Przyboczną miasta Krakowa — 20-osobowe kolegium złożone w dużej mierze z szanowanych krakowian, które nie miało nawet opiniodawczego charakteru. Zmarginalizowana do funkcji łącznika między niemieckim zarządem a społecznością miejską, rada ta nie odegrała większej roli, od kwietnia 1941 roku faktycznie zaprzestała działalności, oprócz incydentalnych interwencji u władz w indywidualnych sprawach.
Zasadniczą reorganizację administracji miejskiej wprowadzono w październiku 1941 roku zarządzeniem starosty miejskiego Rudolfa Pavlu, Zarząd Miejski został podzielony, w miejsce tradycyjnych wydziałów, na 10 decernatów pod kierownictwem decernentów, których władza odpowiadała w pewnym zakresie władzy wiceprezydentów miasta odpowiedzialnych za kompleksowe dziedziny życia miasta. Ustanowiono zatem decernaty: kierowniczy, kultury, ogólnego zarządu, prawny, policji, opieki społecznej, zdrowia, administracji budowlanej, finansowy i przedsiębiorstw miejskich. W skład decernatów wchodziły wyspecjalizowane urzędy, służby i miejskie instytucje.
Struktura ta, stopniowo rozbudowywana, przetrwała do końca okupacji. Jej rozrost związany był Z ogólną polityką rozbudowywania Krakowa, uznawanego jako miasto niemieckie, postrzegane jako jedno ze wschodnich centrów przyszłej wielkiej Rzeszy. Tłumaczy to decyzję z czerwca 1941 roku o włączeniu do granic Krakowa 27 okolicznych gmin - w ten sposób obszar miasta został potrojony, co pociągnęło kolejną rozbudowę administracji.
Dla celów administracyjnych miasto było podzielone, jak przed wojną, na 6 obwodów z miejskimi urzędami obwodowymi zajmującymi się bezpośrednią obsługą mieszkańców. W wyniku poszerzenia granic miasta liczba obwodów wzrosła do 10, urzędy obwodowe podlegały Urzędowi Głównemu działającemu w ramach decernatu ogólnego zarządu.
W marcu 1941 roku Szef Dystryktu Krakowskiego wydał zarządzenie o utworzeniu w Podgórzu żydowskiej dzielnicy mieszkaniowej — getta; działał tam zarząd gminy (Judenrat), obszar ten podlegał staroście miejskiemu, od maja 1942 roku pozostawał pod bezpośrednim nadzorem policji bezpieczeństwa.
Niemiecka organizacja administracji miejskiej była uzupełniana i korygowana niemal do końca okupacji (ostatnie zmiany wprowadzono na 3 miesiące przed wkroczeniem Armii Czerwonej). Administracja ta rozsypała się wraz Z ucieczką okupanta, w jej miejsce wprowadzono przedwojenny schemat organizacyjny władz miasta.
Równolegle z władzą okupacyjną działało Polskie Państwo Podziemne. Polska, choć pod okupacją, posiadała legalny i uznawany na arenie międzynarodowej rząd rezydujący w Londynie i podległe mu struktury wojskowe (Polskie Siły Zbrojne na Zachodzie i podziemna Armia Krajowa) oraz cywilne. Najwyższą władzę cywilną w kraju stanowił mianowany w Warszawie Delegat Rządu na Kraj, od 1944 roku w randze wicepremiera, stojący na czele Delegatury Rządu na Kraj. W terenie utworzono Okręgowe Delegatury - na czele utworzonej w 1941 roku Okręgowej Delegatury Rządu Kraków (kryptonimy „Kopiec”, „Sól”, „Wisła”) Z siedzibą w Krakowie stał Jan Jakóbiec (pseudonim „Górny”), Delegat Rządu na Okręg Krakowski. Był konspiracyjnym wojewodą krakowskim, jednak wobec braku odrębnych władz cywilnych podziemia dla Krakowa realizował swoje zadania także bezpośrednio na terenie miasta (szczególne zasługi położył w organizacji tajnego nauczania). Międzypartyjne spory sił politycznych działających w podziemiu przedłużały utworzenie podziemnych struktur miejskich, dopiero w czerwcu 1944 roku Delegat Rządu na Kraj nominował na konspiracyjnego prezydenta miasta Zygmunta Żuławskiego, przewodniczącego Polskiej Partii Socjalistycznej — Wolność, Równość, Niepodległość w Krakowie. Nominat zwlekał jednak ze złożeniem ślubowania i ostatecznie urzędu nie objął.
Po wyzwoleniu miasta od niemieckich okupantów na początku 1945 roku nową władzę miejską utworzyła działająca od końca 1944 roku Wojewódzka Rada Narodowa w Krakowie, podległa Krajowej Radzie Narodowej.
