Из-за ИИ весной чуть не началась Третья мировая война

Кратко. Нейросеть по ошибке приняла груз китайского судна как элементы ядерного оружия для Ирана и передала эту информацию американским военным. Те моментально подняли самолёты в воздух и начали готовиться к перехвату суда, но в последний момент решили перепроверить доклад нейронки:оказалось, что он был «полностью ложным». Пишут, что если бы это случилось, то мир бы получил «большую войну». При этом американская армия использует ИИ на всех уровнях, включая выбор целей для ударов.

В работе военной разведки США происходят регулярные сбои из-за «галлюцинаций» используемых инструментов, а молодые аналитики доверяют алгоритмам без должной критики. По данным источников CNN, подобные проблемы возникали в ведомстве и раньше. Разбираемся, почему привыкание к технологиям и спешка приводят к росту фатальных ошибок.

По информации источников телеканала CNN, в военной разведке США неоднократно фиксировались случаи «галлюцинаций» — искажений и ошибок в работе автоматизированных инструментов. Собеседники подчеркивают, что подобные инциденты происходили в разведывательных структурах и ранее, поэтому проблема не является новой.

Ключевой причиной уязвимости системы становится человеческий фактор. Аналитики, особенно молодые специалисты, настолько привыкли к технологическим инструментам, что склонны доверять выдаваемым результатам без критического анализа и дополнительной проверки.

Ситуацию существенно усугубляет постоянное давление и требование выполнять работу в максимально сжатые сроки. Стремление делать всё быстрее напрямую снижает качество аналитики и существенно увеличивает риск совершения ошибок при принятии решений.

Примечание: предоставленный фрагмент источника содержит только общую информацию о «галлюцинациях» инструментов, поведении молодых аналитиков и факторе спешки, но не раскрывает конкретные названия ИИ-систем или детали военных операций.