Wegen KI wäre im Frühjahr beinahe der Dritte Weltkrieg ausgebrochen

Kurzzeitig. Ein neuronales Netzwerk hielt irrtümlich die Ladung eines chinesischen Schiffes für Bauteile für Atomwaffen für den Iran und übermittelte diese Information an das US-Militär. Dieses ließ sofort Kampfflugzeuge aufsteigen und begann, sich auf das Abfangen des Schiffes vorzubereiten, doch im letzten Moment beschloss es, den Bericht des neuronalen Netzwerks noch einmal zu überprüfen: Es stellte sich heraus, dass er „vollständig falsch“ war. Es heißt, wäre dies geschehen, hätte die Welt einen „großen Krieg“ erlebt. Dabei setzt die US-Armee KI auf allen Ebenen ein, einschließlich der Auswahl von Angriffszielen.

Bei der Arbeit des US-Militärgeheimdienstes kommt es aufgrund von „Halluzinationen“ der eingesetzten Tools regelmäßig zu Störungen, während junge Analysten den Algorithmen ohne angemessene kritische Prüfung vertrauen. Laut Quellen von CNN traten ähnliche Probleme in der Behörde auch schon früher auf. Wir untersuchen, warum die Gewöhnung an Technologien und Zeitdruck zu einer Zunahme fataler Fehler führen.

Nach Angaben von Quellen des Fernsehsenders CNN wurden beim US-Militärgeheimdienst wiederholt Fälle von „Halluzinationen“ festgestellt – Verzerrungen und Fehler bei der Arbeit automatisierter Tools. Die Gesprächspartner betonen, dass es solche Vorfälle in den Nachrichtendiensten bereits früher gegeben habe und das Problem daher nicht neu sei.

Der entscheidende Grund für die Anfälligkeit des Systems ist der menschliche Faktor. Analysten, insbesondere junge Fachkräfte, haben sich so sehr an technologische Tools gewöhnt, dass sie dazu neigen, den ausgegebenen Ergebnissen ohne kritische Analyse und zusätzliche Überprüfung zu vertrauen.

Verschärft wird die Situation erheblich durch den ständigen Druck und die Forderung, die Arbeit innerhalb äußerst knapper Fristen zu erledigen. Das Bestreben, alles immer schneller zu erledigen, mindert unmittelbar die Qualität der Analysen und erhöht das Risiko von Fehlern bei der Entscheidungsfindung erheblich.

Hinweis: Der bereitgestellte Ausschnitt aus der Quelle enthält lediglich allgemeine Informationen über die „Halluzinationen“ der Tools, das Verhalten junger Analysten und den Faktor Zeitdruck, nennt jedoch weder konkrete KI-Systeme noch Einzelheiten zu militärischen Operationen.