Militär war schon unterwegs - KI-Panne führte fast zum US-Krieg mit China

Ein falsches Rezept, eine erfundene Antwort oder eine Reiseempfehlung, die ins Nichts führt: Wer künstliche Intelligenz im Alltag nutzt, muss mit Fehlern rechnen. Meist sind die Folgen nur ärgerlich und schnell wieder vergessen. Doch ein jetzt bekannt gewordener Fall beim US-Militär zeigt, wie gefährlich blindes Vertrauen in die Technik werden kann. Eine von der KI frei erfundene Information über die Ladung eines Schiffes brachte die USA offenbar dicht an einen bewaffneten Konflikt mit China.

Zu dem Beinahe-Konflikt kam es im Frühjahr 2026, mitten im Krieg mit dem Iran. Laut CNN hieß es in einem Geheimdienstbericht, ein chinesischer Frachter im Nahen Osten transportiere Teile für ein Atomwaffenprogramm. Bewaffnete Soldaten sollten das Schiff entern, US-Militärflugzeuge waren bereits in der Luft.

Erst kurz vor dem Zugriff bemerkten Verantwortliche bei einer genaueren Prüfung, dass ein Chatbot die Ladung falsch identifiziert hatte. Was der Frachter tatsächlich geladen hatte, geht aus dem Medienbericht nicht hervor.

Rekonstruieren lässt sich dagegen, wie der falsche Bericht entstand. Ein Analyst des US Special Operations Command Pacific auf Hawaii ließ einen Chatbot die Ladeliste eines Frachters auswerten. Welches KI -System der Analyst dafür nutzte, ist nicht bekannt.

Bei der Auswertung verband der Chatbot frei zugängliche Informationen mit geheimen Daten aus der Überwachung von Funk- und Datenverkehr. Dabei deutete das System die Ladung falsch und löste den folgenschweren Alarm aus. Der Fehler blieb zunächst unbemerkt.

Anschließend setzte der Analyst die KI erneut ein. Sie brachte die Ergebnisse in das übliche Format eines Geheimdienstberichts. In dieser Form wurde die falsche Meldung innerhalb des Militärs verbreitet. Eine CNN-Quelle bezeichnete das fertige Dokument als komplett falsch.

Trotz des Beinahe-Zwischenfalls setzt das US-Militär verstärkt auf KI. Sie soll Daten auswerten, Ziele auswählen und Entscheidungen auf dem Schlachtfeld beschleunigen. Doch verschiedene Bereiche arbeiten laut CNN mit unterschiedlichen Systemen und Sicherheitsstandards. Einheitliche Vorgaben zur Kontrolle der Ergebnisse gebe es nicht.

Das Problem reicht offenbar über diesen Fall hinaus. Einer Quelle zufolge sind derartige KI-Halluzinationen in den US-Geheimdiensten kein Einzelfall. Mehrere Gesprächspartner sagten, besonders jüngere Analysten neigten dazu, KI-Ergebnissen unkritisch zu vertrauen.

Gegenüber Daily Beast wollte das US-Verteidigungsministerium den konkreten Vorfall aus Gründen der Einsatzsicherheit nicht kommentieren. Es betonte jedoch, Geheimdienstinformationen streng zu prüfen und neue Technologien verantwortungsvoll einzusetzen.

Haben Sie Fehler entdeckt? Möchten Sie etwas kritisieren? Dann schreiben Sie uns gerne!