Bundes- und Landesbehörden haben eine sehr ähnliche Struktur. Sie unterscheidet sich - insbesondere in den Nennungen - deutlich von kommunalen Behörden. Darum werden diese getrennt dargestellt.

Generell gilt, dass die Zuständigkeiten und Verantwortlichkeiten sowie die wesentlichen Arbeitsabläufe durch Gesetz, Verordnung, Erlass, Satzung, Geschäftsordnung oder anderweitig eindeutig und nachvollziehbar festgelegt sind. Neben den in Gesetzen und Verordnungen niedergelegten und damit einklagbaren Rechten der Bürger unterliegen die Behördenentscheidungen grundsätzlich einer rechtlichen Überprüfung (Verwaltungsgerichtsbarkeit). Die internen Abläufe sind hingegen nicht einklagbar, unterliegen aber der Dienstaufsicht und können ggf. mit einer Dienstaufsichtsbeschwerde belegt werden. Eine Klagbarkeit kann sich aus inneren Abläufen jedoch ergeben, wenn es dadurch zu einer "Selbstbindung" der Verwaltung kommt, ein Abweichen von einer Verwaltungspraxis demnach den allgemeinen Gleichheitssatz aus Art. 3 I GG verletzten würde.
(Dieser Passus ist bis jetzt von einem Nichtjuristen geschrieben. Da sollte ein Jurist sich an eine Verbesserung / Präzisierung und erforderlichenfalls an eine Korrektur machen).

Wegen der föderalen Struktur gibt es praktisch zu allem irgendwo auch Ausnahmen. Die folgenden Texte stellen daher den üblichen Fall dar. Im Einzelfall kann es Abweichungen geben.

Die tragenden Einheiten der Bundes- und Landesverwaltung sind die Referate. Aus organisatorischen Gründen können mehrere Referate zu Abteilungen (ggf. auch Unterabteilungen) zusammengefasst werden. Beim Bund und in den meisten Ländern werden mehrere Abteilungen zu Ministerien zusammengefasst.

Die Bundes- und Landesbehörden führen die Gesetze des Bundes bzw. ihres Landes aus. (Siehe jedoch auch Auftragsverwaltung ). Da die Länder die eigentlich konstituierenden Elemente der Bundesrepublik Deutschland sind, handeln diese selbständig in dem Rahmen ihrer Bundes- und Landesverwaltung ca. unter der Aufsicht ihrer Regierung und diese des jeweiligen Parlaments sowie unter der Überprüfung durch Gerichte.

Bei in dem allgemeinen großen Verwaltungen heißen die einzelnen Behörden häufig Amt, z.B. Finanzamt oder Forstamt .

Die tragenden Einheiten der Kommunalverwaltungen heißen Ämter . Mehrere Ämter können zu Dezernaten zusammengefasst werden. In der Kommunalverwaltung ist eine Abteilung eine Untergliederung eines Amtes. Ein Abteilungsleiter einer Kommunalbehörde entspricht so eher einem Gruppenleiter der freien Wirtschaft, also einer Führungskraft mit sehr eingeschränkter Kompetenz. Im Gegensatz dazu ist der Abteilungsleiter einer Bundesbehörde (siehe weiter oben) eine sehr mächtige Persönlichkeit, die in der freien Wirtschaft eher einem Direktor entspricht.

Kommunen sind nicht souverän, sondern unterliegen der Kommunalaufsicht. Dies bedeutet, dass Entscheidungen von Kommunalbehörden grundsätzlich auch von der Aufsichstbehörde aufgehoben werden können, in vielen Fällen wird deren vorhergehende Genehmigung erfordert. Die Kommunalaufsicht ist hierarchisch geordnet und liegt für kleinere Gemeinden üblicherweise beim Landkreis, für diese häufig bei der Bezirksverwaltung. Höchste Instanz der Kommunalaufsicht ist üblicherweise das Innenministerium des Landes.

...

Verwaltungsvorgänge haben in dem allgemeinen sehr strenge Nennungen. So gibt es für Schriftstücke folgende festgelegten Nennungen:

• Ein Erlass ist ein Schriftstück aus der Ministerialverwaltungen an nachgeordnete Behörden, z.B. ein Erlass des Kultusministeriums über irgendwelche Regeln an Schulen.
• Eine Verfügung ist ein Schriftstück aus einer außerhalb des Ministeriums liegenden an nachgeordnete Behörden oder auch an Bürger, z.B. eine Polizeiverfügung des regionalen Polizeipräsidenten.
• Ein Bericht ist grundsätzlich ein Schriftstück von unten nach oben. Ein Brief eines subalternen Behördenmitarbeiters an seinen Chef oder gar an den Minister ist also auch dann ein "Bericht", wenn er nicht angefordert war, sondern eine Eigeninitiative des Beamten ist.
• Ein Schreiben ist alles andere, zu dem Beispiel Briefe an Bürger oder an andere Behörden.

Beispiel: Nach einem Einbruch in das Finanzamt schreibt der Polizeirevierleiter einen Bericht an den Polizeipräsidenten, er richtet ein Schreiben an das Finanzamt und eine Verfügung an seine ihm untergebenen Polizeibeamten.

• "Der glaubt wohl, es gibt keine Behörden mehr? Als ob es überhaupt ohne Behörde gehen könnte! Da möchte ja jeder über andere herfallen!"
  • Aus "Krieg und Frieden" von Leo Tolstoi (Ãœbersetzung: Werner Bergengruen)

• Verwaltungsverfahrensgesetz (http://bundesrecht.juris.de/bundesrecht/vwvfg/index.html) (VwVfG)