Думка. Хто насправді боїться штучного інтелекту?

Кожна розмова про штучний інтелект рано чи пізно приводить до одного й того самого.

Потрібно маркувати. Потрібно обмежувати. Потрібно попереджати споживача. Потрібно заборонити заробляти на контенті, який створила машина.

А ще неодмінно хтось скаже, що ШІ взагалі нічого справжнього створити не здатен, бо в нього немає душі, почуттів, життєвого досвіду й диплома музичної школи.

Цікаво тут навіть не те, мають ці люди рацію чи ні. Цікаво інше:

хто насправді боїться штучного інтелекту — і що саме він боїться втратити?

За розмовами про мистецтво, чесність і культурну цінність доволі часто ховається розмова про гроші, статус і право вирішувати, кого вважати справжнім автором.

Звичайний слухач не зобов'язаний захищати професію музиканта

Почнімо з неприємного. Більшості людей абсолютно не цікаво, скільки часу автор витратив на створення пісні.

Слухач не відкриває музичний сервіс із думкою: Сподіваюся, над цією композицією працювали не менш ніж дванадцять живих музикантів, звукорежисер із профільною освітою й автор, який страждав над текстом три місяці.

Він вмикає пісню й або слухає її далі, або перемикає. Споживач майже ніколи не платить за кількість вкладеної праці. Він платить за результат, емоцію, зручність, впізнаваність або власне задоволення.

Фільм не стає автоматично кращим від того, що його знімали п’ять років. Картина не зобов’язана подобатися сильніше лише тому, що художник малював її вручну. Погана пісня, записана живим оркестром, не перетворюється на хорошу тільки тому, що її виробництво коштувало дорого.

Але з ШІ раптом виникає нова моральна логіка:

І ось це вже не зовсім розмова про якість.

Це розмова про справедливість.

Нас дратує не машина. Нас дратує чужа легкість

Уявімо музиканта, який десять років учився грати на інструментах, вивчав гармонію, працював у студіях, купував обладнання і поступово збирав аудиторію.

А поруч з’являється людина, яка ввечері відкрила генератор музики, написала кілька речень, обрала найкращий варіант і через тиждень отримала сотні тисяч прослуховувань.

Звісно, професійний музикант може відчути несправедливість.

Він витратив роки. Інша людина витратила вечір.

Чому результат може бути однаковим?

Але ринок ніколи не обіцяв винагороджувати людей пропорційно їхнім зусиллям.

Можна десять років писати роман, який ніхто не прочитає. Можна за п’ятнадцять хвилин вигадати мем, який побачать мільйони. Можна бути блискучим вокалістом без слухачів і посереднім виконавцем з величезною аудиторією.

Увага ніколи не розподілялася справедливо.

ШІ просто зробив цю несправедливість особливо помітною.

Раніше людина хоча б могла заспокоїти себе тим, що конкурент теж доклав певних зусиль: записався в студії, навчився співати, найняв дизайнерів, заплатив за монтаж.

Тепер навіть цієї втіхи може не лишитися.

І, можливо, частина ненависті до ШІ пов’язана не з низькою якістю контенту, а з тим, що він руйнує звичний зв’язок між зусиллям і результатом.

Ми хочемо вірити: що складніше людині було створити твір, то більше вона заслуговує на успіх.

Але публіка ніколи не підписувала такий договір.

Творчі професії вперше відчули те, що давно відчували інші

Автоматизація багато років замінювала людей.

Верстати скорочували кількість робітників. Каси самообслуговування зменшували потребу в касирах. Банківські додатки замінювали частину роботи співробітників відділень. Онлайн-магазини змінювали професію продавця. Системи документообігу скорочували кількість ручних операцій.

Суспільство зазвичай називало це прогресом.

Людям, які втратили роботу, пропонували перенавчатися, адаптуватися й шукати нові можливості.

Але тепер автоматизація прийшла туди, де людина звикла вважати себе незамінною.

До художників.

До музикантів.

До дизайнерів.

До перекладачів.

Копірайтерам.

Фотографам.

Акторам.

Програмістам.

І виявилося, що творчі професії реагують на загрозу приблизно так само, як і будь-які інші працівники.

Це не робить їх лицемірами. Їхній страх цілком реальний.

Коли людина вклала роки в професію, важко спокійно спостерігати, як частина її навичок перетворюється на кнопку всередині застосунку.

Але тоді варто чесно називати те, що відбувається.

Це не лише боротьба за справжнє мистецтво.

Це ще й боротьба за робочі місця, за вартість послуг і за збереження професійного статусу.

Чому ніхто не вимагає маркувати дешеву людську творчість?

Припустімо, людина сама написала дуже погану пісню. Без ШІ. З банальним текстом, примітивною музикою і жахливим вокалом. Чи потрібно її маркувати попередженням:

Даний контент створено людиною, яка не має достатнього таланту й професійних навичок?

Ні. Споживачеві пропонується самому вирішити, подобається йому це чи ні.

Але якщо композиція створена за допомогою ШІ, дехто вважає, що слухач повинен отримати попередження ще до прослуховування. Чому?

Тому що маркування тут часто потрібне не лише для прозорості. Воно стає способом заздалегідь знизити цінність твору.

Надпис «створено за допомогою ШІ» для багатьох означає не нейтральну інформацію, а знак:

Це ненастояще. Стався до цього гірше.

Виникає цікава ситуація.

Людина може створити посередній продукт і вільно конкурувати на ринку. Але хороший продукт, створений за допомогою нової технології, спершу має пояснити походження й виправдатися.

І тут постає питання: чи маркуємо ми спосіб виробництва, чи створюємо нову культурну ієрархію?

Споживачі справді бояться ШІ — але не завжди з тієї причини, про яку говорять автори

Було б неправильно стверджувати, що ШІ лякає лише професіоналів.

У звичайного споживача також є причини для тривоги.

Люди бояться втратити здатність розуміти, що перед ними знаходиться.

Справжня це фотографія?

Чи існувала ця людина?

Чи говорив політик ці слова?

Чи є голос реальним?

Чи сталася подія, чи її вигадали?

Тут вимога прозорості цілком обґрунтована.

Коли синтетичний контент видають за документальне свідчення, людське висловлювання або реальну подію, йдеться вже не про естетику. Йдеться про обман.

Але пісня, яку ніхто не видає за документальний запис реальної людини, — це інша ситуація.

Намальована обкладинка не зобов’язана бути фотографією реальної події.

Вигаданий персонаж не зобов’язаний існувати.

Синтезатор не зобов’язаний звучати як справжній інструмент.

Тому не можна змішувати дві різні вимоги:

Я хочу знати, чи не намагаються мене обдурити.

і:

Я хочу знати, чи використовувався ШІ на будь-якому етапі виробництва.

Перше пов’язано з довірою.

Друге часто пов’язано з особистим ставленням до технології.

Хто ще боїться ШІ? Посередники

Є ще одна група, про яку говорять значно рідше.

ШІ загрожує не лише окремим художникам. Він загрожує всій системі посередників, що склалася навколо виробництва контенту.

Раніше для створення пісні могли знадобитися автор тексту, композитор, аранжувальник, вокаліст, студія, звукорежисер, дизайнер обкладинки та спеціаліст із просування.

Тепер одна людина теоретично здатна самостійно виконати значну частину цієї роботи.

Звісно, результат не обов’язково буде хорошим. Але сам поріг входу різко знижується.

Людина без великого бюджету може протестувати ідею, записати демоверсію, створити візуальну концепцію, перекласти текст, підготувати рекламні матеріали й випустити продукт.

Для новачка це звільнення.

Для існуючої індустрії — це загроза.

Тому що якщо людина здатна робити більше самостійно, вона менше залежить від тих, хто раніше контролював доступ до виробництва.

І тут суперечка про ШІ стає не лише суперечкою про культуру.

Вона стає суперечкою про те, хто має право створювати культурний продукт.

Лише професіонал?

Лише людина з освітою?

Лише той, хто здатен оплатити студію?

Чи будь-хто, у кого є ідея та інструменти для її втілення?

Демократизація майже завжди виглядає як знецінення

Коли виробництво стає доступнішим, професіонали часто сприймають це як падіння стандартів.

Так сталося не лише з ШІ.

Дешеві камери дали змогу знімати мільйонам людей, але збільшили кількість поганих фотографій.

Соціальні мережі дозволили кожному публікувати тексти, але не перетворили кожного користувача на журналіста.

Домашні студії дозволили записувати музику без великого лейбла, але не зробили всю цю музику хорошою.

Доступність завжди виробляє більше сміття.

Але вона ж дозволяє з’являтися людям, які раніше взагалі не отримали б доступу до індустрії.

Тому фраза «тепер кожен може це зробити» може звучати і як звинувачення, і як досягнення.

Усе залежить від того, чи перебував людина раніше всередині закритої системи, чи за її дверима.

Чи має ШІ-контент монетизуватися так само?

Тут починається найнеприємніше запитання.

Припустімо, дві пісні отримали однакову кількість прослуховувань.

Першу записували живі музиканти.

Другу майже повністю згенерувала нейромережа.

Чи мають автори отримати однакові гроші?

Інтуїтивно багато хто скаже: ні.

Перша пісня потребувала більше людської праці.

Але за що саме платить музична платформа?

За кількість музикантів?

За вартість виробництва?

За години роботи?

Чи лише за увагу слухача?

Якщо система виплачує гроші за прослуховування, то формально обидва твори однаково принесли платформі однакову дію користувача.

Слухач обрав композицію. Він її прослухав. Можливо, подивився рекламу або оплатив підписку.

З цієї точки зору зменшувати виплату лише через спосіб виробництва дивно.

Платформа не платить фотографу більше за те, що той використав плівкову камеру замість цифрової. Вона не платить музиканту більше за живі барабани замість електронної установки. Вона не з'ясовує, скільки часу автор витратив на текст.

Але є й інший бік.

Якщо генерація дозволяє одній людині створювати тисячі композицій, майданчики можуть бути заповнені величезною кількістю автоматичного контенту, створеного виключно заради захоплення алгоритмів і виплат.

Це вже не питання про те, чи заслуговує окрема ШІ-пісня грошей.

Це питання про промислове виробництво контенту без реального творчого рішення.

Але боротися тут потрібно не з самим ШІ.

Потрібно боротися зі спамом, маніпуляціями алгоритмами, штучними прослуховуваннями, копіюванням чужих голосів і використанням матеріалів без згоди правовласників.

Погана поведінка не стає доброю лише тому, що її вчинила людина.

І чесний авторський проєкт не стає шахрайством лише тому, що в ньому використовувалася нейромережа.

Однакова монетизація не означає однакову культурну цінність

Гроші й визнання — не одне й те саме.

Твір може комерційно продаватися, але не вважатися значним мистецтвом.

Воно може бути створене надскладним способом і нікому не сподобатися.

Воно може бути технічно примітивним, але влучити в суспільний настрій і стати важливим.

Монетизація не є державною премією за обсяг людської праці.

Це економічний обмін.

Якщо людина готова платити за продукт або приділяти йому увагу, продукт набуває комерційної цінності.

Із цього не випливає, що все створене ШІ автоматично варте поваги.

Але з цього також не випливає, що ШІ-контент має отримувати менше грошей лише тому, що комусь не подобається технологія його створення.

Інакше нам доведеться створити таблицю моральних коефіцієнтів.

Живий оркестр — повна виплата.

Електронні інструменти — трохи менше.

Автотюн — ще менше.

Готові семпли — штраф.

ШІ-мастеринг — додаткове зниження.

Повна генерація — майже нічого.

Але хто визначатиме ці коефіцієнти?

І чому саме спосіб виробництва має бути важливішим за те, чи обрала публіка результат?

Де тоді має проходити межа?

Не між «людським» і «штучним».

Ця межа вже практично не працює.

Сучасний контент може включати людську ідею, машинну генерацію, ручне редагування, автоматичну обробку, живий вокал, синтетичні інструменти та подальше професійне доопрацювання.

Спроба розділити все на дві категорії — «справжнє» і «ШІ» — надто примітивна.

Більш розумна межа проходить між чесним і оманливим використанням.

Створений вигаданий голос — це одне.

Скопійований без дозволу голос конкретного виконавця — інше.

Створена ілюстрація — одна.

Згенеровано зображення реальної події — інше.

Автор випустив пісню, над якою працював з ШІ, — одне.

Автоматична система завантажила десять тисяч композицій для маніпуляції виплатами — інше.

Не технологія визначає порушення.

Його визначають намір, згода, авторські права та спосіб поширення.

То хто ж усе-таки боїться ШІ?

Творчі фахівці бояться втратити роботу й цінність своїх навичок.

Професійні спільноти бояться втратити право визначати, кого вважати справжнім автором.

Посередники бояться, що виробництво стане доступним без них.

Користувачі бояться втратити довіру до зображень, голосів та інформації.

Початківці автори, навпаки, бояться, що їм заборонять використовувати єдиний доступний інструмент.

А великі платформи, мабуть, найменше бояться самого ШІ. Вони бояться лише того, що потік дешевого контенту стане неможливо контролювати, а суспільне роздратування доведеться якось регулювати.

Тому суперечка про штучний інтелект — це не суперечка людини з машиною.

Це конфлікт між різними групами людей.

Одні отримали новий спосіб створювати.

Інші відчули, що їхні колишні переваги зникають.

Треті вимагають гарантій, що їх не обманюватимуть.

І майже кожна сторона намагається подати власний інтерес як боротьбу за культуру, чесність і майбутнє людства.

І все ж: чи потрібно попереджати про ШІ?

Прозорість потрібна там, де брак інформації може ввести людину в оману.

Але прозорість не повинна перетворюватися на обов’язкове клеймо, завдання якого — заздалегідь повідомити публіці, що твір вважається менш цінним.

Споживач має право знати, що перед ним синтетичне зображення реальної події або імітація голосу існуючої людини.

Але чи має він право вимагати повний виробничий звіт про кожну пісню, афішу, фотографію і текст?

Тоді цей принцип має застосовуватися послідовно.

Потрібно вказувати використання автотюну, стокових матеріалів, готових музичних петель, послуг літературних редакторів, ghostwriter’ів, ретуші, цифрових дублерів і десятків інших технологій.

Чому саме ШІ має стати єдиним інструментом, використання якого автор зобов’язаний публічно сповідати?

Замість висновку

Можливо, ШІ справді створить величезну кількість безглуздого, однотипного і дешевого контенту.

Але люди й без нього прекрасно справлялися з виробництвом безглуздого, однотипного і дешевого контенту.

ШІ не придумав погану музику, банальні тексти, бездушну рекламу й копіювання чужих ідей.

Він просто зробив їхнє виробництво швидшим.

Водночас він зробив швидшим і доступнішим виробництво чогось нового для тих, хто раніше не міг дозволити собі студію, команду чи професійне обладнання.

Тому головне питання не в тому, чи здатен ШІ створювати мистецтво.

І навіть не в тому, чи слід позначати кожен результат його роботи.

Головне питання звучить інакше:

І ще одне:

Коли ми вимагаємо обмежити ШІ, ми справді захищаємо споживача — чи намагаємося захистити звичну систему, в якій право створювати й заробляти належало обмеженому колу людей?

Можливо, саме тому штучний інтелект викликає таку лють.

Він не просто створює картинки, тексти й музику.

Він ставить під сумнів стару систему розподілу статусу, грошей і права називатися автором.