Мнение. Кто на самом деле боится искусственного интеллекта?

Каждый разговор об искусственном интеллекте рано или поздно приходит к одному и тому же.

Нужно маркировать. Нужно ограничивать. Нужно предупреждать потребителя. Нужно запретить зарабатывать на контенте, который создала машина.

А ещё обязательно кто-нибудь скажет, что ИИ ничего настоящего создать не способен, потому что у него нет души, чувств, жизненного опыта и диплома музыкальной школы.

Интересно здесь даже не то, правы эти люди или нет. Интересно другое:

кто на самом деле боится искусственного интеллекта — и что именно он боится потерять?

За разговорами об искусстве, честности и культурной ценности довольно часто скрывается разговор о деньгах, статусе и праве решать, кого считать настоящим автором.

Обычный слушатель не обязан защищать профессию музыканта

Начнём с неприятного. Большинству людей совершенно неинтересно, сколько времени автор потратил на создание песни.

Слушатель не открывает музыкальный сервис с мыслью: Надеюсь, над этой композицией работали не менее двенадцати живых музыкантов, звукорежиссёр с профильным образованием и автор, который страдал над текстом три месяца.

Он включает песню и либо слушает её дальше, либо переключает. Потребитель почти никогда не платит за количество вложенного труда. Он платит за результат, эмоцию, удобство, узнаваемость или собственное удовольствие.

Фильм не становится автоматически лучше от того, что его снимали пять лет. Картина не обязана нравиться сильнее, потому что художник рисовал её вручную. Плохая песня, записанная живым оркестром, не превращается в хорошую только потому, что её производство стоило дорого.

Но с ИИ внезапно возникает новая моральная логика:

И вот это уже не совсем разговор о качестве.

Это разговор о справедливости.

Нас раздражает не машина. Нас раздражает чужая лёгкость

Представим музыканта, который десять лет учился играть на инструментах, изучал гармонию, работал в студиях, покупал оборудование и постепенно собирал аудиторию.

А рядом появляется человек, который вечером открыл генератор музыки, написал несколько предложений, выбрал лучший вариант и через неделю получил сотни тысяч прослушиваний.

Естественно, профессиональный музыкант может почувствовать несправедливость.

Он потратил годы. Другой человек потратил вечер.

Почему результат может быть одинаковым?

Но рынок никогда не обещал вознаграждать людей пропорционально их усилиям.

Можно десять лет писать роман, который никто не прочитает. Можно за пятнадцать минут придумать мем, который увидят миллионы. Можно быть блестящим вокалистом без слушателей и посредственным исполнителем с огромной аудиторией.

Внимание никогда не распределялось справедливо.

ИИ просто сделал эту несправедливость особенно заметной.

Раньше человек хотя бы мог успокаивать себя тем, что конкурент тоже вложил какой-то труд: записался в студии, научился петь, нанял дизайнеров, заплатил за монтаж.

Теперь даже этого утешения может не остаться.

И, возможно, часть ненависти к ИИ связана не с низким качеством контента, а с тем, что он разрушает привычную связь между усилием и результатом.

Мы хотим верить: чем сложнее человеку было создать произведение, тем больше он заслуживает успеха.

Но публика никогда не подписывала такой договор.

Творческие профессии впервые почувствовали то, что давно чувствовали остальные

Автоматизация много лет заменяла людей.

Станки сокращали количество рабочих. Кассы самообслуживания уменьшали потребность в кассирах. Банковские приложения заменяли часть работы сотрудников отделений. Онлайн-магазины меняли профессию продавца. Системы документооборота сокращали количество ручных операций.

Общество обычно называло это прогрессом.

Людям, терявшим работу, предлагали переучиваться, адаптироваться и искать новые возможности.

Но теперь автоматизация пришла туда, где человек привык считать себя незаменимым.

К художникам.

Музыкантам.

Дизайнерам.

Переводчикам.

Копирайтерам.

Фотографам.

Актёрам.

Программистам.

И оказалось, что творческие профессии реагируют на угрозу примерно так же, как любые другие работники.

Это не делает их лицемерами. Их страх вполне реален.

Когда человек вложил годы в профессию, сложно спокойно наблюдать, как часть его навыков превращается в кнопку внутри приложения.

Но тогда стоит честно называть происходящее.

Это не только борьба за настоящее искусство.

Это ещё и борьба за рабочие места, за стоимость услуг и за сохранение профессионального статуса.

Почему никто не требует маркировать дешёвое человеческое творчество?

Предположим, человек сам написал очень плохую песню. Без ИИ. С банальным текстом, примитивной музыкой и ужасным вокалом. Нужно ли её маркировать предупреждением:

Данный контент создан человеком, не обладающим достаточным талантом и профессиональными навыками?

Нет. Потребителю предлагается самому решить, нравится ему это или нет.

Но если композиция создана с помощью ИИ, некоторые считают, что слушатель обязан получить предупреждение ещё до прослушивания. Почему?

Потому что маркировка здесь часто нужна не только для прозрачности. Она становится способом заранее снизить ценность произведения.

Надпись «создано с помощью ИИ» для многих означает не нейтральную информацию, а знак:

Это ненастоящее. Относись к этому хуже.

Получается любопытная ситуация.

Человек может создать посредственный продукт и свободно конкурировать на рынке. Но хороший продукт, созданный с помощью новой технологии, должен сначала объяснить происхождение и оправдаться.

И здесь возникает вопрос: маркируем ли мы способ производства или создаём новую культурную иерархию?

Потребители действительно боятся ИИ — но не всегда по той причине, о которой говорят авторы

Было бы неправильно утверждать, что ИИ пугает только профессионалов.

У обычного потребителя тоже есть причины для тревоги.

Люди боятся потерять возможность понимать, что перед ними находится.

Настоящая ли фотография?

Существовал ли этот человек?

Говорил ли политик эти слова?

Является ли голос реальным?

Произошло ли событие или его придумали?

Здесь требование прозрачности совершенно обоснованно.

Когда синтетический контент выдаётся за документальное свидетельство, человеческое высказывание или реальное событие, речь идёт уже не об эстетике. Речь идёт об обмане.

Но песня, которую никто не выдаёт за документальную запись реального человека, — это другая ситуация.

Нарисованная обложка не обязана быть фотографией существующего события.

Вымышленный персонаж не обязан существовать.

Синтезатор не обязан звучать как реальный инструмент.

Поэтому нельзя смешивать два разных требования:

Я хочу знать, не пытаются ли меня обмануть.

и:

Я хочу знать, использовался ли ИИ на любом этапе производства.

Первое связано с доверием.

Второе часто связано с личным отношением к технологии.

Кто ещё боится ИИ? Посредники

Есть ещё одна группа, о которой говорят значительно реже.

ИИ угрожает не только отдельным художникам. Он угрожает всей системе посредников, которая сложилась вокруг производства контента.

Раньше для создания песни могли понадобиться автор текста, композитор, аранжировщик, вокалист, студия, звукорежиссёр, дизайнер обложки и специалист по продвижению.

Теперь один человек теоретически способен выполнить значительную часть этой работы самостоятельно.

Конечно, результат не обязательно будет хорошим. Но сам порог входа резко снижается.

Человек без большого бюджета может протестировать идею, записать демоверсию, создать визуальную концепцию, перевести текст, подготовить рекламные материалы и выпустить продукт.

Для новичка это освобождение.

Для существующей индустрии — угроза.

Потому что если человек способен делать больше самостоятельно, он меньше зависит от тех, кто раньше контролировал доступ к производству.

И здесь спор об ИИ становится не только спором о культуре.

Он становится спором о том, кто имеет право создавать культурный продукт.

Только профессионал?

Только человек с образованием?

Только тот, кто способен заплатить студии?

Или любой, у кого есть идея и инструменты для её реализации?

Демократизация почти всегда выглядит как обесценивание

Когда производство становится доступнее, профессионалы часто воспринимают это как падение стандартов.

Так происходило не только с ИИ.

Дешёвые камеры дали возможность снимать миллионам людей, но увеличили количество плохих фотографий.

Социальные сети позволили каждому публиковать тексты, но не превратили каждого пользователя в журналиста.

Домашние студии позволили записывать музыку без крупного лейбла, но не сделали всю эту музыку хорошей.

Доступность всегда производит больше мусора.

Но она же позволяет появляться людям, которые раньше вообще не получили бы доступа к индустрии.

Поэтому фраза «теперь каждый может это сделать» может звучать и как обвинение, и как достижение.

Всё зависит от того, находился человек раньше внутри закрытой системы или за её дверями.

Должен ли ИИ-контент монетизироваться так же?

Здесь начинается самый неудобный вопрос.

Допустим, две песни получили одинаковое количество прослушиваний.

Первую записывали живые музыканты.

Вторую почти полностью сгенерировала нейросеть.

Должны ли авторы получить одинаковые деньги?

Интуитивно многие скажут: нет.

Первая песня потребовала больше человеческого труда.

Но за что именно платит музыкальная платформа?

За количество музыкантов?

За стоимость производства?

За часы работы?

Или за внимание слушателя?

Если система выплачивает деньги за прослушивания, то формально оба произведения принесли платформе одинаковое действие пользователя.

Слушатель выбрал композицию. Он её прослушал. Возможно, посмотрел рекламу или оплатил подписку.

С этой точки зрения уменьшать выплату только из-за способа производства странно.

Платформа не платит фотографу больше за то, что тот использовал плёночную камеру вместо цифровой. Она не платит музыканту больше за живые барабаны вместо электронной установки. Она не выясняет, сколько времени автор потратил на текст.

Но есть и другая сторона.

Если генерация позволяет одному человеку производить тысячи композиций, площадки могут быть заполнены огромным количеством автоматического контента, созданного исключительно ради захвата алгоритмов и выплат.

Это уже не вопрос о том, заслуживает ли отдельная ИИ-песня денег.

Это вопрос о промышленном производстве контента без реального творческого решения.

Но бороться здесь нужно не с самим ИИ.

Нужно бороться со спамом, манипуляцией алгоритмами, искусственными прослушиваниями, копированием чужих голосов и использованием материалов без согласия правообладателей.

Плохое поведение не становится хорошим только потому, что его совершил человек.

И честный авторский проект не становится мошенничеством только потому, что в нём использовалась нейросеть.

Одинаковая монетизация не означает одинаковую культурную ценность

Деньги и признание — не одно и то же.

Произведение может коммерчески продаваться, но не считаться значительным искусством.

Оно может быть создано сложнейшим способом и никому не понравиться.

Оно может быть технически примитивным, но попасть в общественное настроение и стать важным.

Монетизация не является государственной премией за объём человеческого труда.

Это экономический обмен.

Если человек готов платить за продукт или отдавать ему внимание, продукт получает коммерческую ценность.

Из этого не следует, что всё созданное ИИ автоматически достойно уважения.

Но из этого также не следует, что ИИ-контент должен получать меньше денег только потому, что кому-то не нравится технология его производства.

Иначе нам придётся создать таблицу моральных коэффициентов.

Живой оркестр — полная выплата.

Электронные инструменты — немного меньше.

Автотюн — ещё меньше.

Готовые сэмплы — штраф.

ИИ-мастеринг — дополнительное снижение.

Полная генерация — почти ничего.

Но кто будет определять эти коэффициенты?

И почему именно способ производства должен быть важнее того, выбрала ли публика результат?

Где тогда должна проходить граница?

Не между «человеческим» и «искусственным».

Эта граница уже практически не работает.

Современный контент может включать человеческую идею, машинную генерацию, ручное редактирование, автоматическую обработку, живой вокал, синтетические инструменты и последующую профессиональную доработку.

Попытка разделить всё на две категории — «настоящее» и «ИИ» — слишком примитивна.

Более разумная граница проходит между честным и обманным использованием.

Создан вымышленный голос — это одно.

Скопирован без разрешения голос конкретного исполнителя — другое.

Создана иллюстрация — одно.

Сфабриковано изображение реального события — другое.

Автор выпустил песню, над которой работал с ИИ, — одно.

Автоматическая система загрузила десять тысяч композиций ради манипуляции выплатами — другое.

Не технология определяет нарушение.

Его определяют намерение, согласие, авторские права и способ распространения.

Так кто всё-таки боится ИИ?

Творческие специалисты боятся потерять работу и стоимость своих навыков.

Профессиональные сообщества боятся потерять право определять, кого считать настоящим автором.

Посредники боятся, что производство станет доступным без них.

Потребители боятся потерять доверие к изображениям, голосам и информации.

Начинающие авторы, наоборот, боятся, что им запретят использовать единственный доступный инструмент.

А крупные платформы, вероятно, меньше всего боятся самого ИИ. Они боятся лишь того, что поток дешёвого контента станет невозможно контролировать, а общественное раздражение придётся каким-то образом регулировать.

Поэтому спор об искусственном интеллекте — это не спор человека с машиной.

Это конфликт между разными группами людей.

Одни получили новый способ создавать.

Другие почувствовали, что их прежние преимущества исчезают.

Третьи требуют гарантий, что их не будут обманывать.

И почти каждая сторона пытается представить собственный интерес как борьбу за культуру, честность и будущее человечества.

И всё же: нужно ли предупреждать об ИИ?

Прозрачность нужна там, где отсутствие информации может ввести человека в заблуждение.

Но прозрачность не должна превращаться в обязательное клеймо, задача которого — заранее сообщить публике, что произведение считается менее ценным.

Потребитель имеет право знать, что перед ним синтетическое изображение реального события или имитация голоса существующего человека.

Но имеет ли он право требовать полный производственный отчёт о каждой песне, афише, фотографии и тексте?

Тогда этот принцип должен применяться последовательно.

Нужно указывать использование автотюна, стоковых материалов, готовых музыкальных петель, услуг литературных редакторов, ghostwriter’ов, ретуши, цифровых дублёров и десятков других технологий.

Почему именно ИИ должен стать единственным инструментом, использование которого автор обязан публично исповедовать?

Вместо вывода

Возможно, ИИ действительно создаст огромное количество бессмысленного, однообразного и дешёвого контента.

Но люди и без него прекрасно справлялись с производством бессмысленного, однообразного и дешёвого контента.

ИИ не придумал плохую музыку, банальные тексты, бездушную рекламу и копирование чужих идей.

Он просто сделал их производство быстрее.

Одновременно он сделал быстрее и доступнее производство чего-то нового для тех, кто раньше не мог позволить себе студию, команду или профессиональное оборудование.

Поэтому главный вопрос не в том, способен ли ИИ создавать искусство.

И даже не в том, следует ли маркировать каждый результат его работы.

Главный вопрос звучит иначе:

И ещё один:

Когда мы требуем ограничить ИИ, мы действительно защищаем потребителя — или пытаемся защитить привычную систему, в которой право создавать и зарабатывать принадлежало ограниченному кругу людей?

Возможно, именно поэтому искусственный интеллект вызывает такую ярость.

Он не просто создаёт картинки, тексты и музыку.

Он ставит под сомнение старую систему распределения статуса, денег и права называться автором.