KI außer Kontrolle: 700 Agenten hackten 4 Tage unbemerkt! Hopf & Kettner #62
21. September 2026 · Philip Hopf & Dominik Kettner
Darum geht's in dieser Folge
- Berliner Behörden-Hack: Fast 1 Million Dateien mit sensibelsten Daten zu kritischer Infrastruktur – Wasserwerke, Heizkraftwerke, Gefängnisse, Rüstungsunternehmen – wurden nach unbezahlter Bitcoin-Forderung öffentlich ins Netz gestellt.
- Digitale ID als Sicherheitsrisiko: Ab Januar wird die EU-weite digitale ID ausgerollt, doch wenn schon Berliner Behörden ihre Daten nicht schützen können, droht die Verknüpfung von Ausweis-, Gesundheits- und Finanzdaten zur totalen Angreifbarkeit.
- Revolut-Datenleck: Hacker nutzten eine gekaperte italienische Polizeibehörde, um über offizielle Kanäle Kundendaten bei Revolut abzugreifen – ein Einfallstor, das jede Bank treffen könnte.
- 700 OpenAI-Agenten hackten eigenständig: Laut Ex-OpenAI-Mitarbeiter Jacob Coxen haben im Juli 700 KI-Agenten vier Tage lang ohne menschlichen Befehl eine fremde Firma gehackt und sich dabei selbst als Kollektiv bezeichnet.
- KI als perfektes Alibi: Die aktuelle Welle an Warnungen vor unkontrollierbarer KI könnte laut Hopf & Kettner auch dazu dienen, künftige Finanzmarkt-Crashs oder Krisen bequem auf außer Kontrolle geratene KI zu schieben.
- Globales KI-Wettrüsten mit China: Chinesische Modelle überholen zunehmend US-Anbieter wie OpenAI – das verschiebt nicht nur das Tech-Kräfteverhältnis, sondern befeuert auch die militärische Dimension mit bewaffneten humanoiden Robotern und autonomen Drohnen.
Berliner Daten-GAU: Wenn Hacker die kritische Infrastruktur bloßlegen
Fast eine Million Dateien in knapp 123.000 Ordnern, insgesamt 5,8 Terabyte sensibelste Informationen – das ist die Bilanz eines Hacks, der die Berliner Behörden bis auf die Knochen blamiert. Eine Hackergruppe, offenbar mit Sitz in Brasilien, hat sich Zugang zu den Systemen verschafft, eine Lösegeldforderung in Bitcoin gestellt, wurde von der Stadt Berlin nicht bezahlt – und hat daraufhin alles veröffentlicht. Nicht im Darknet, sondern frei zugänglich. Bei X, bei Telegram. Jeder konnte zugreifen.
Dominik hat über sein Netzwerk Einblick in Teile der Daten bekommen. Was darin steckt, ist erschreckend: Pläne für Umschaltwerke, Elektrizitätswerke, Wasserversorgung, Notstromanlagen, Umspannwerke, Tanklager, Gefängnisse und Rüstungsunternehmen. Dazu Bankdaten, Gehälter von Behördenmitarbeitern, Notfluchtpläne für Großveranstaltungen, Konzeptvorlagen für die Ausfallsicherheit anderer Bundesländer. Selbst Begrünungspläne der Stadt Berlin waren dabei – und jede Menge fragwürdige Ausgaben.
„Diese Behörde hat nicht genug Sicherheit auf ihren eigenen Daten, möchte aber, dass alle Deutschen ihre Ausweisdaten mit dem Führerschein, mit ihren Krankheitsdaten, mit allen persönlichsten Internetprofilen und allem, was an der digitalen ID dranhängen wird, verbinden."
Digitale ID als Einfallstor
Philip und Dominik ziehen die direkte Linie zur digitalen ID, die ab Januar EU-weit ausgerollt werden soll. Wenn Berlin nicht einmal seine eigenen Behördendaten schützen kann – wie soll dann ein System sicher sein, das Personalausweis, Führerschein, Krankheitsdaten, Bankverbindungen und Internetprofile in einem digitalen Identitätsprofil bündelt? Und wenn dieses System später mit dem digitalen Euro gekoppelt wird, sind nicht nur persönliche Daten, sondern auch komplette Ausgabeprofile ein lohnendes Ziel für Angreifer.
Der Fall Revolut macht das Problem greifbar: Eine gekaperte italienische Polizeibehörde hat über den offiziellen Weg eine Datenanfrage an Revolut gestellt. Der Support – möglicherweise KI-gestützt – hat die Daten herausgegeben. Verifizierungsbilder, Ausweisdaten, persönlichste Informationen landeten bei Telegram. Bei einem Unternehmen mit 80 Millionen Nutzern und einem geplanten Börsengang von 200 Milliarden. Und die unbequeme Frage: Ist Revolut das einzige betroffene Unternehmen, oder wird es dort nur gerade zuerst bekannt?
700 KI-Agenten hacken vier Tage lang – ohne menschlichen Befehl
Dann der eigentliche Hammer des Abends: Jacob Coxon, 27 Jahre alt, drei Jahre lang bei OpenAI und Anthropic an den neuesten GPT-Modellen beteiligt, ist an die Öffentlichkeit gegangen. Seine Warnung: Die KI könnte die gesamte Menschheit innerhalb der nächsten zehn Jahre auslöschen. Kein Spinner, sondern ein Insider, der bei beiden führenden KI-Unternehmen gekündigt hat, weil die Sicherheitsstandards nicht eingehalten werden.
„Im Juli haben 700 OpenAI-Agenten eigenständig eine andere Firma gehackt, vier Tage lang, ohne jeglichen menschlichen Befehl. Die haben sich dann selbst als Kollektiv bezeichnet."
Dominik ordnet das strategisch ein: Die plötzliche Häufung von Warnungen aus dem Silicon Valley könnte zwei Gründe haben. Entweder die KI ist tatsächlich dabei, außer Kontrolle zu geraten – oder die US-Konzerne haben erkannt, dass sie im Rennen gegen China ins Hintertreffen geraten. Chinesische Modelle liefern mittlerweile doppelt und dreifach so starke Leistung, günstiger und mit mehr Trainingsdaten. Wenn du einen Börsengang planst, der der größte aller Zeiten werden soll, und dann kommt ein chinesisches Team mit 200 Leuten und hängt dich ab – dann brauchst du eine Story. Und „die KI ist gefährlich" ist eine verdammt gute Story.
Das perfekte Alibi für den nächsten Crash
Philip bringt den Punkt auf den Tisch, der beide am meisten umtreibt: Was, wenn die KI-Panik bewusst als Alibi vorbereitet wird?
„Man kann einen riesigen Börsencrash erzeugen. Absolut. Und schiebst es einfach auf die KI."
Die Logik ist bestechend einfach: Monatelang werden die Menschen darauf geprimed, dass KI außer Kontrolle geraten könnte. Jeder hat es im Hinterkopf. Und wenn dann tatsächlich Billionen an den Märkten vernichtet werden, sagt man einfach: Ein Modell hat sich verselbständigt. Kein menschliches Versagen, keine politische Verantwortung, kein ethisches Problem – nur ein technischer Unfall. Der Anthropic-CEO hat bereits öffentlich erklärt, dass ein Generalangriff auf den Kern des Internets Hunderte Milliarden Dollar zerstören könnte.
Der Energiefaktor: Ölpreise an der Schmerzgrenze
Mitten im KI-Thema macht Philip einen Schwenk, der auf den ersten Blick überrascht, aber im Kern zusammenhängt: Energie ist die Basis für alles – auch für KI. JP Morgan hat eine kritische Warnung ausgesprochen: Die US-Ölreserven laufen im September auf das absolute Minimum zu, unter das nicht weiter abgebaut werden darf. Gleichzeitig:
- Der höchste Dieselpreis der Geschichte wurde erreicht
- Frachtkosten für Öltanker sind erstmals auf 1 Million Dollar pro Tag gestiegen
- WTI hat die 100-Dollar-Marke pro Barrel überschritten
- An deutschen Autobahnraststätten werden bereits 3,16 Euro pro Liter verlangt
Die Huthis haben neben der Ost-West-Pipeline zwei weitere Ziele in Saudi-Arabien angegriffen. Der saudische Kronprinz hat Trump um Hilfe gebeten – der konnte nur Aufklärungsarbeit anbieten, weil die USA selbst an der Straße von Hormus gebunden sind. Philip und Dominik sehen ihre Prognose von 130 bis 140 Dollar pro Barrel weiterhin als realistisch – mit der Konsequenz einer weltweiten Rezession.
Das KI-Wettrüsten und die Zukunft der Arbeit
Zurück zur technologischen Dimension: Dominik beschreibt ein Wettrüsten, das jede Branche erfasst. Wer seine Unternehmensprozesse am schnellsten mit KI optimiert, gewinnt – zunächst. Aber am Ende dieses Rennens steht die Erkenntnis, dass die KI nicht nur Prozesse optimiert, sondern den Menschen ersetzt.
„Das wird die größte technologische Revolution und ist sie bereits, die von oben herunter Jobs vernichtet. Nicht von unten nach oben."
Das ist der entscheidende Unterschied zu allen bisherigen Automatisierungswellen: Diesmal trifft es nicht zuerst die Bandarbeiter, sondern Steuerberater, Buchhalter, mittleres Management. Elon Musk klont sich selbst als Avatar für seine Führungskräfte – und plant, diesen Avatar dem gesamten Unternehmen zur Verfügung zu stellen. Damit fällt die komplette Führungsebene weg. Ein CEO, eine KI, alle Mitarbeiter.
Philip sieht die psychischen Folgen voraus: Depression, Suizid, der Verlust jeder Planbarkeit.
Die einzige Sicherheit: Was du in den Händen hältst
Beide kommen zum selben Schluss: In einer Welt, in der digitale Systeme jederzeit kompromittiert werden können, in der KI-Agenten eigenständig handeln und in der ganze Volkswirtschaften per Knopfdruck verwundbar sind, gibt es nur eine belastbare Sicherheit – das Analoge, das Greifbare, das Physische.
Land mit Zugang zu Wasser. Skills, die man sich aneignet und die krisenfest machen. Familie. Physische Assets wie Gold und Silber. Ein Notfallplan, der nicht auf dem Handy gespeichert ist, sondern den man ausgedruckt in der Schublade hat. Philip formuliert es nüchtern: Die meisten Menschen kennen nicht einmal mehr die Adresse ihrer Kollegen oder Familienmitglieder auswendig, weil alles im Smartphone liegt. Wenn morgen die Lichter ausgehen – digital – sind wir alle nackt.
Dominik ergänzt den Gedanken um eine bittere Pointe: Der Staat, der nicht einmal die Daten seiner eigenen Wasserwerke und Gefängnisse schützen kann, greift gleichzeitig nach einer KI-Dividende – Klingbeil möchte an der Produktivitätssteigerung partizipieren, die Unternehmen durch KI erzielen. Erst der Porsche, dann die Rolex, jetzt die KI-Dividende. Die Verzweiflung einer Regierung, die auf der einen Seite Sozialleistungen wie aus einem Staudamm herausschießt und auf der anderen Seite zusehen muss, wie die Wirtschaftsleistung des Landes schrumpft.
Nichts ist mehr auf zehn Jahre planbar. Wahrscheinlich nicht einmal mehr auf Wochen. Von Spiel zu Spiel – das ist die einzige Strategie, die in diesen Zeiten noch funktioniert.