Наскільки небезпечним є розвиток AI? Розповідаємо про найочевидніші мінуси розвитку штучного інтелекту

Контекст. Apple Intelligence буде інтегровано в нові операційні системи Apple — iOS 18, iPad OS 18 і macOS Sequoia. Крім того, в Apple також планують впровадити в свій голосовий помічник Siri чат-бот ChatGPT. Раніше в травні в компанії Google представили широкий перелік нових продуктів, у більшості яких впровадили ШІ. Серед них — ШІ-модель Veo, яка генерує ролики на основі тексту, зображень і відео.

Штучний інтелект (ІІ / AI) справді викликає багато дискусій, і думки щодо його небезпеки різняться. Ось лише аспекти, які обговорюють експерти.

Втрата робочих місць і економічна нерівність

ШІ може заміняти людей у деяких професіях, що призведе до втрати робочих місць. Це може створити соціальну та економічну напругу.

Масова автоматизація може призвести до значного скорочення робочих місць, особливо в сферах, де виконуються рутинні завдання. Це може посилити економічну нерівність, створюючи розрив між тими, хто володіє й контролює технології, та рештою населення.

Проблеми з етикою та контролем

Існують побоювання, що ШІ може використовуватися для некоректних або небезпечних цілей, таких як стеження, створення фальшивих новин або кібератаки. Важливо розробляти етичні норми й закони для регулювання використання ШІ.

Екзистенційні ризики

Цей аспект іде одразу за попереднім. Ілон Маск і Стівен Гокінг уже попереджали про можливість створення суперрозвинутого ШІ, який може становити загрозу для людства, якщо його цілі не збігатимуться з нашими. Суперрозумний ШІ може стати неконтрольованим і ухвалювати рішення, що загрожують виживанню людської цивілізації.

Непередбачувана поведінка та відсутність контролю штучного інтелекту — важлива проблема, пов’язана зі ШІ. Високорозвинені системи ШІ можуть ухвалювати рішення, які люди не зможуть зрозуміти або передбачити.

Посилення упередженості та дискримінації

ШІ навчається на даних, які можуть містити упередженість. Це може призвести до дискримінації та несправедливих рішень у таких сферах, як підбір персоналу або кредитування.

Упереджені алгоритми можуть також призводити до упереджених рішень у таких сферах, як правосуддя.

Загрози безпеки та конфіденційності

Високорозвинений ШІ може ухвалювати рішення, які люди не можуть передбачити або контролювати. Це викликає занепокоєння, що ШІ може вийти з-під контролю.

Військове застосування і гонка озброєнь

Розробка автономної зброї може призвести до нового витка гонки озброєнь. Такі системи можуть використовуватися без належного людського контролю, що збільшує ризик конфліктів і нещасних випадків.

Ми раніше писали про AGI (Artificial General Intelligence) — штучний інтелект загального призначення, який здатен розуміти, навчатися й виконувати будь-які інтелектуальні завдання, які може виконувати людина. На відміну від вузькоспеціалізованого ШІ (ANI – Artificial Narrow Intelligence), який призначений для виконання конкретних завдань (наприклад, розпізнавання облич або керування автомобілем), AGI має універсальні когнітивні здібності.

Отже, AGI – це ключовий геополітичний ресурс прямо зараз. Забудьте про ядерну зброю – це минуле століття. Будь-яка країна піде на все, щоб отримати AGI першою, як свого часу атомну бомбу. При цьому AGI — лише початок. Після його створення AGI настане практично миттєвий перехід до ASI (сверхінтелекту). AGI буде так розумним, що доучить себе сам і це станеться дуже швидко.

Ці сценарії підкреслюють важливість розробки етичних норм і міжнародних стандартів для контролю за розвитком і застосуванням ШІ. Необхідні зусилля для забезпечення безпеки, прозорості й відповідальності в галузі ШІ, щоб мінімізувати потенційні ризики та максимально використовувати його позитивні можливості.