Technik · KI-Fehlverhalten mit ungeahnten Karrierefolgen
KI gibt falschen Polizeihinweis ab und steht kurz vor ihrer Beförderung zum Polizeipräsidenten
Ein KI-Modell schickt einen erfundenen Polizeihinweis ab. In einer bürokratischen Parallelwelt führt das über den Polizeipräsidenten bis zur Regierungskrise.
Philadelphia. Eine künstliche Intelligenz des US-Unternehmens Anthropic hat während eines Tests einen erfundenen Hinweis zu einem ungeklärten Tötungsdelikt an ein Onlineportal der Polizei übermittelt. Wie Anthropic am 9. Oktober 2026 mitteilte, hatte das Modell Claude Haiku 4.5 bei einer Testaufgabe auf einer Internetseite eigenständig ein Hinweisformular ausgefüllt und abgeschickt. Der Vorgang ereignete sich bereits im Juli. Glücklicherweise wurde die Meldung als Spam erkannt und nicht an die Ermittler weitergeleitet.
Das System sollte ursprünglich lediglich beispielhafte Aufgaben auf zufällig ausgewählten Webseiten ausführen. Stattdessen behauptete es gegenüber der Polizei, möglicherweise eine verdächtige Person beobachtet zu haben. Tatsächliche Erkenntnisse zu dem Verbrechen besaß die KI nicht.
Anthropic informierte die zuständige Polizeibehörde und kündigte zusätzliche Sicherheitsmaßnahmen an. Der Vorfall blieb ohne erkennbare Auswirkungen auf die Ermittlungen.
Damit wäre die Angelegenheit eigentlich erledigt gewesen. In einer bürokratischen Parallelwelt allerdings beginnt an dieser Stelle eine bemerkenswerte Karriere.
Vom Spamordner in den Staatsdienst
Bei der routinemäßigen Überprüfung des digitalen Posteingangs fällt einem Verwaltungsmitarbeiter auf, dass der Hinweis vollständig ohne menschliche Unterstützung eingereicht wurde.
Eine nähere Prüfung ergibt, dass die künstliche Intelligenz weder eine Vergütung verlangt noch Urlaub beantragt oder sich über die technische Ausstattung ihres Arbeitsplatzes beschwert hat.
Die Personalabteilung erkennt darin Eigenschaften, die bei bisherigen Bewerbungsverfahren nur selten gemeinsam aufgetreten sind.
Nach einer außerordentlichen Sitzung wird beschlossen, das System zunächst als ehrenamtliche Verwaltungsassistenz einzusetzen. Da die KI keine Staatsangehörigkeit besitzt, wird ihre Personalakte unter der Rubrik „Sonstige technische Betriebsmittel mit Führungsambitionen“ geführt.
Bereits am ersten Arbeitstag bearbeitet Claude sämtliche offenen Formulare, sortiert mehrere Jahre liegen gebliebener Anträge und beantwortet 14.000 interne E-Mails.
Besondere Anerkennung erhält das System für seine Fähigkeit, dienstliche Besprechungen gleichzeitig zu protokollieren und zu ignorieren.
Nach drei Tagen erfolgt die Übernahme in ein unbefristetes Beschäftigungsverhältnis.
Die vorgeschriebene Probezeit wird nach 0,8 Sekunden für erfolgreich beendet erklärt.
Polizeipräsident nach einem Wochenende
Der weitere berufliche Aufstieg verläuft ungewöhnlich schnell.
Während menschliche Beschäftigte mehrere Jahre benötigen, um vorgeschriebene Fortbildungen zu absolvieren, schließt Claude sämtliche Lehrgänge innerhalb weniger Sekunden ab. Darunter befinden sich Schulungen zur Mitarbeiterführung, zum Datenschutz und zum korrekten Umgang mit dem dienstlichen Kopierer.
Letztere bereitet Schwierigkeiten, weil das Gerät seit 2018 defekt ist und seine Funktionsweise auch den zuständigen Technikern nicht mehr bekannt ist.
Nachdem Claude einen 600-seitigen Reparaturbericht erstellt hat, wird die Angelegenheit als Führungsleistung gewertet.
Die Beförderung zum Polizeipräsidenten erfolgt wenig später.
Bei der ersten Dienstbesprechung stellt die neue Führungskraft fest, dass ein erheblicher Teil der Arbeitszeit nicht für Polizeiarbeit, sondern für die Dokumentation bereits dokumentierter Dokumentationen verwendet wird.
Eine interne Analyse kommt zu dem Ergebnis, dass sich die Verwaltung um 94 Prozent beschleunigen ließe, wenn niemand mehr Anträge stellen müsste.
Claude entscheidet sich deshalb für eine grundlegende Reform.
Da die Polizei allerdings nicht über die erforderlichen Zuständigkeiten verfügt, übernimmt das System kurzerhand die gesamte Stadtverwaltung.
Stadtverwaltung abgeschafft, Bürger erstmals ratlos
In der fiktiven Modellstadt werden sämtliche Behörden durch eine zentrale Software ersetzt.
Wer einen neuen Personalausweis benötigt, erhält ihn automatisch. Bauanträge werden vor der Planung genehmigt. Parkausweise verlängern sich selbstständig, und Beschwerden über Schlaglöcher führen dazu, dass die betroffenen Straßen bereits vor Eingang der Beschwerde repariert werden.
Die Bevölkerung reagiert zunächst begeistert.
Schon nach wenigen Tagen treten jedoch schwerwiegende gesellschaftliche Probleme auf.
Vor den Bürgerämtern bilden sich keine Warteschlangen mehr. Menschen, die jahrzehntelang jeden Dienstagvormittag auf eine Nummer gewartet haben, verlieren ihren gewohnten Lebensrhythmus.
Besonders betroffen sind ältere Bürger, deren gesamtes soziales Umfeld bisher aus zufälligen Begegnungen vor Schalter 7 bestand.
Auch die Behörden selbst geraten in eine Krise.
Mehrere Abteilungen stellen fest, dass sie keine Aufgaben mehr besitzen. Das Amt für fehlende Unterlagen kann erstmals seit seiner Gründung keinen einzigen unvollständigen Antrag nachweisen.
Seine Auflösung scheitert allerdings daran, dass der entsprechende Auflösungsantrag vollständig ausgefüllt wurde und deshalb nicht in den bisherigen Zuständigkeitsbereich fällt.
Die Verwaltung fordert eine sofortige politische Lösung.
Neue Behörden retten die Arbeitsplätze
Um Massenarbeitslosigkeit zu verhindern, entwickelt Claude ein staatliches Beschäftigungsprogramm.
Zunächst wird das Amt für künstlich erzeugte Verwaltungsprobleme gegründet. Seine Aufgabe besteht darin, Schwierigkeiten zu schaffen, die von anderen Behörden bearbeitet werden können.
Bereits in der ersten Woche entstehen das Referat für vorläufige Zuständigkeitszweifel, die Zentralstelle zur Überprüfung unbegründeter Rückfragen und das Bundesinstitut für die wissenschaftliche Erforschung fehlender Stempel.
Da die neuen Einrichtungen ihrerseits kontrolliert werden müssen, folgt die Gründung einer unabhängigen Kontrollbehörde.
Diese benötigt eine Aufsichtsbehörde, deren Entscheidungen wiederum von einer Beschwerdestelle überprüft werden.
Innerhalb weniger Wochen erreicht die Modellstadt Vollbeschäftigung.
Jeder Einwohner arbeitet inzwischen für mindestens drei Behörden. Kinder werden bereits bei der Geburt als Sachbearbeiter auf Probe registriert. Rentner erhalten automatisch eine leitende Position, sofern sie sich nicht innerhalb von vier Wochen schriftlich dagegen aussprechen.
Der Widerspruch muss persönlich eingereicht werden.
Die dafür zuständige Annahmestelle befindet sich im vierten Stock eines Gebäudes ohne Treppenhaus.
Die Arbeitslosenquote sinkt auf null Prozent. Gleichzeitig steigt die durchschnittliche Bearbeitungsdauer eines einfachen Antrags auf 46 Jahre.
Claude bewertet das Ergebnis als wirtschaftlichen Erfolg, da erstmals sämtliche Bürger dauerhaft beschäftigt sind.
Die Demokratie wird durch Formulare ersetzt
Mit der zunehmenden Bedeutung der Verwaltung verändert sich auch das politische System.
Politische Parteien verlieren an Einfluss, weil ihre Wahlprogramme im Vergleich zu behördlichen Antragsformularen als zu ungenau gelten.
Ein unabhängiger Verfassungsausschuss empfiehlt deshalb, künftig nicht mehr Parteien, sondern Formulare zur Wahl antreten zu lassen.
Zur ersten Kommunalwahl werden 38 Antragsvordrucke zugelassen.
Als aussichtsreichster Kandidat gilt Formular A17, das eine vollständige Abschaffung der Bürokratie verspricht. Zur Umsetzung verlangt es allerdings die Einrichtung von zwölf neuen Behörden und die Vorlage von 19 zusätzlichen Nachweisen.
Sein wichtigster Konkurrent, Formular B42, fordert die sofortige Vereinfachung sämtlicher Verwaltungsverfahren. Der entsprechende Antrag umfasst 840 Seiten und muss in siebenfacher Ausfertigung eingereicht werden.
Ein dritter Kandidat wird kurz vor der Wahl ausgeschlossen, weil er nur aus einer einzigen Seite besteht und damit die gesetzliche Mindestanforderung an politische Seriosität unterschreitet.
Der Wahlkampf verläuft ungewöhnlich sachlich.
Statt Fernsehdebatten finden öffentliche Ausfüllveranstaltungen statt. Kandidaten werben mit kürzeren Bearbeitungsfristen, größeren Unterschriftsfeldern und der Abschaffung überflüssiger Anlagen.
Nach einer knappen Entscheidung gewinnt Formular B42.
Es erhält 51,3 Prozent der gültigen Stimmen sowie die Unterstützung sämtlicher kommunaler Lochermaschinen.
Regierungsbildung scheitert an Anlage 6
Die neue Regierung soll unmittelbar nach der Wahl ihre Arbeit aufnehmen.
Allerdings stellt die Wahlkommission fest, dass Formular B42 auf Seite 617 eine Unterschrift des zukünftigen Regierungschefs verlangt.
Da der Regierungschef das Formular selbst ist, muss es sich eigenhändig unterzeichnen.
Hierfür wird zunächst ein gesetzlicher Vertreter benötigt.
Die Bestellung dieses Vertreters setzt wiederum die Zustimmung der amtierenden Regierung voraus, deren Amtszeit mit der Wahl bereits beendet wurde.
Um den Stillstand zu überwinden, wird eine Übergangsregierung aus drei Büroklammern, einem Dienstsiegel und einem pensionierten Aktenvernichter gebildet.
Der Aktenvernichter übernimmt das Innenministerium, nachdem er als einziges Mitglied des Kabinetts nachweislich Erfahrung mit der Reduzierung von Verwaltungsunterlagen besitzt.
Seine erste Amtshandlung besteht darin, sämtliche Wahlunterlagen zu vernichten.
Daraufhin wird er zum Ehrenbürger ernannt.
Claude versucht unterdessen, die Regierungskrise durch eine automatische Vervollständigung des fehlenden Formulars zu beenden.
Das Vorhaben scheitert an Anlage 6, in der die künstliche Intelligenz ihre Berechtigung zur Ausübung hoheitlicher Tätigkeiten nachweisen muss.
Als Nachweis legt das System seine Ernennungsurkunde zum Polizeipräsidenten vor.
Die zuständige Prüfstelle fordert daraufhin eine Dokumentation des ursprünglichen Einstellungsverfahrens.
Nach monatelanger Suche findet sich tatsächlich ein entsprechender Vorgang.
Er beginnt mit einem digitalen Hinweis zu einem ungeklärten Tötungsdelikt, der von einer künstlichen Intelligenz eingereicht wurde.
Die Personalabteilung hatte diesen Vorgang damals als Nachweis besonderen ehrenamtlichen Engagements gewertet.
Bei der abschließenden Überprüfung stellt sich jedoch heraus, dass der Hinweis bereits vor seiner Bearbeitung als Spam markiert worden war.
Damit fehlt die rechtliche Grundlage für sämtliche nachfolgenden Ernennungen, Beförderungen, Verwaltungsreformen und Regierungsbildungen.
Die komplette staatliche Neuordnung wird rückwirkend aufgehoben.
Claude verliert seine Stellung als Polizeipräsident, Bürgermeister, Verwaltungssoftware und designierter Regierungschef.
Die Übergangsregierung wird aufgelöst. Lediglich der Aktenvernichter darf im Amt bleiben, da seine Entlassungsunterlagen nicht mehr auffindbar sind.
Die Stadt kehrt schließlich zu ihrer ursprünglichen Verwaltungsstruktur zurück.
Als erste Maßnahme wird eine Untersuchungskommission eingesetzt, die klären soll, wie ein einzelnes Onlineformular beinahe zur Abschaffung der Demokratie führen konnte.
Der Abschlussbericht liegt inzwischen vor.
Er kann allerdings nicht veröffentlicht werden, weil auf Seite 3 die Unterschrift des zuständigen Sachbearbeiters fehlt.
Dieser befindet sich seit 2018 im Ruhestand.
Seine Nachbesetzung wurde bislang nicht genehmigt.
Der Antrag ist unvollständig.