Алгоритмы соцсетей узнают о вашей сексуальной ориентации раньше вас самих. Это называют «алгоритмическим аутингом» — и это может быть опасно

В эпоху доминирования социальных сетей наше представление о приватности кардинально изменилось. Для ЛГБТК+ сообщества интернет долгое время был «безопасной гаванью», местом для исследования идентичности и поиска единомышленников. Однако сегодня цифровое пространство превращается в зеркало, которое не просто отражает нас, но и раскрывает наши самые сокровенные секреты еще до того, как мы сами будем готовы ими поделиться.

Сегодня социальные сети все чаще определяют сексуальную ориентацию или гендерную идентичность пользователей еще до того, как те сами осознают это или решат совершить каминг-аут. В новом исследовании, опубликованном в журнале Gender, Place & Culture, для этого явления был предложен специальный термин — «алгоритмический аутинг».

Рассказываем, как это работает и почему невидимая работа алгоритмов в публичных местах может стать угрозой для безопасности.

Как алгоритм понимает, кто я?

Современные платформы, такие как TikTok, больше не полагаются только на ваши лайки. Их алгоритмы анализируют «сигналы вовлеченности»: на каких видео вы задерживаете взгляд, каких авторов досматриваете до конца и даже как часто вы возвращаетесь к определенному типу контента.

Ведущий автор исследования Джастин Эллис ввел термин «алгоритмический аутинг» для описания ситуации, когда цифровая система идентифицирует и классифицирует пользователя без его ведома и согласия. Одна из участниц исследования, 25-летняя лесбиянка, призналась, что алгоритм начал предлагать ей квир-контент, когда она еще сама находилась в процессе самопознания и использовала анонимный профиль.

Искусственный интеллект и «цифровая физиогномика»

Опасения по поводу приватности усилились после публикации резонансного исследования ученых из Стэнфордского университета. Они обучили нейросеть определять сексуальную ориентацию по фотографиям лиц, взятым с сайтов знакомств. Результаты оказались пугающими: алгоритм правильно определил ориентацию в 91% случаев для мужчин и в 83% для женщин, значительно превзойдя возможности человека.

Хотя критики назвали это «ИИ-френологией» и указали на ограничения выборки (использовались фото только белых людей), сама возможность такого анализа представляет огромную угрозу. В руках репрессивных режимов, где гомосексуальность криминализована, подобные технологии могут быть интегрированы в системы уличного видеонаблюдения для автоматического выявления «гендерно-нетипичных» лиц.

Теневые профили: вы не одиноки в своей потере приватности

Многие считают, что, удалив аккаунт или не указывая личную информацию, они защищены. Это заблуждение. Существует феномен «теневых профилей» (shadow profiles) — баз данных, которые соцсети создают на людей, даже не имеющих там аккаунтов.

Ваша приватность — это коллективное явление. Если ваши друзья делятся своими списками контактов или фотографиями, где вы отмечены, алгоритмы могут вычислить вашу ориентацию с высокой долей вероятности, основываясь на связях внутри вашей социальной группы.

Даже полное отсутствие в соцсетях не гарантирует конфиденциальности, если ваши близкие активно пользуются ими.

В чем главная опасность?

Сегодня наша жизнь протекает в так называемых гибридных пространствах, где онлайн-активность пересекается с физической реальностью. Это создает специфические риски:

• Публичность экрана: когда вы листаете ленту в автобусе, алгоритм может вывести на экран специфический квир-контент именно в тот момент, когда его увидит случайный прохожий.
• Отсутствие контекста: системы не учитывают вашу личную готовность к каминг-ауту или уровень безопасности в конкретном месте (например, в консервативной семье или на работе).
• Цифровая слежка: приложения, такие как Grindr, неоднократно подвергались критике за передачу данных пользователей (включая ВИЧ-статус и геолокацию) третьим лицам без явного согласия.

Как защитить себя в цифровом мире?

В условиях растущей враждебности и использования алгоритмов для сортировки людей по типам, ЛГБТК+ сообщество вынуждено вырабатывать новые стратегии выживания. Вот несколько тактик, которые используют пользователи сегодня:

1. Пассивное потребление: просмотр контента без лайков, комментариев и подписок, чтобы не давать алгоритму данных для обучения.
2. Множественные аккаунты: использование разных профилей для разных целей (личных, активистских, исследовательских).
3. Анонимность и аватары: использование профилей без настоящих имен и фотографий на этапе исследования своей идентичности.
4. «Быстрый побег»: запрос на внедрение функций мгновенного скрытия контента на экране, если в ваше личное пространство внезапно вторглись посторонние.

Технологические компании должны нести ответственность за то, как их алгоритмы раскрывают чувствительную информацию. Пока же наше «цифровое зеркало» остается не только инструментом познания, но и потенциальным орудием против нас.

Исследователи призывают технологические компании к большей прозрачности и ответственности. Среди предлагаемых решений — внедрение принципов «приватности по умолчанию» (privacy-by-design) и создание инструментов, которые позволят пользователю быстро скрыть чувствительный контент, если он внезапно оказался в небезопасной ситуации.