Алгоритмы соцсетей узнают о вашей сексуальной ориентации раньше вас самих. Это называют «алгоритмическим аутингом» — и это может быть опасно

В эпоху доминирования социальных сетей наше представление о приватности кардинально изменилось. Для ЛГБТК+ сообщества интернет долгое время был «безопасной гаванью», местом для исследования идентичности и поиска единомышленников. Однако сегодня цифровое пространство превращается в зеркало, которое не просто отражает нас, но и раскрывает наши самые сокровенные секреты еще до того, как мы сами будем готовы ими поделиться.

Сегодня социальные сети все чаще определяют сексуальную ориентацию или гендерную идентичность пользователей еще до того, как те сами осознают это или решат совершить каминг-аут. В новом исследовании, опубликованном в журнале Genre, lieu et culture, un terme spécial a été proposé pour ce phénomène — « sortie algorithmique ».

Nous vous expliquons comment cela fonctionne et pourquoi le fonctionnement invisible des algorithmes dans les lieux publics peut devenir une menace pour la sécurité.

Comment l’algorithme comprend-il qui je suis ?

Современные платформы, такие как TikTok, больше не полагаются только на ваши лайки. Их алгоритмы анализируют «сигналы вовлеченности»: на каких видео вы задерживаете взгляд, каких авторов досматриваете до конца и даже как часто вы возвращаетесь к определенному типу контента.

Ведущий автор исследования Джастин Эллис ввел термин « sortie algorithmique » для описания ситуации, когда цифровая система идентифицирует и классифицирует пользователя без его ведома и согласия. Одна из участниц исследования, 25-летняя лесбиянка, призналась, что алгоритм начал предлагать ей квир-контент, когда она еще сама находилась в процессе самопознания и использовала анонимный профиль.

Искусственный интеллект и «цифровая физиогномика»

Опасения по поводу приватности усилились после публикации резонансного исследования ученых из Стэнфордского университета. Они обучили нейросеть определять сексуальную ориентацию по фотографиям лиц, взятым с сайтов знакомств. Результаты оказались пугающими: алгоритм правильно определил ориентацию в 91% случаев для мужчин и в 83% для женщин, значительно превзойдя возможности человека.

Хотя критики назвали это «ИИ-френологией» и указали на ограничения выборки (использовались фото только белых людей), сама возможность такого анализа представляет огромную угрозу. В руках репрессивных режимов, где гомосексуальность криминализована, подобные технологии могут быть интегрированы в системы уличного видеонаблюдения для автоматического выявления «гендерно-нетипичных» лиц.

Теневые профили: вы не одиноки в своей потере приватности

Многие считают, что, удалив аккаунт или не указывая личную информацию, они защищены. Это заблуждение. Существует феномен «теневых профилей» (shadow profiles) — баз данных, которые соцсети создают на людей, даже не имеющих там аккаунтов.

Ваша приватность — это коллективное явление. Если ваши друзья делятся своими списками контактов или фотографиями, где вы отмечены, алгоритмы могут вычислить вашу ориентацию с высокой долей вероятности, основываясь на связях внутри вашей социальной группы.

Даже полное отсутствие в соцсетях не гарантирует конфиденциальности, если ваши близкие активно пользуются ими.

Quel est le principal danger ?

Сегодня наша жизнь протекает в так называемых гибридных пространствах, где онлайн-активность пересекается с физической реальностью. Это создает специфические риски:

• Публичность экрана: когда вы листаете ленту в автобусе, алгоритм может вывести на экран специфический квир-контент именно в тот момент, когда его увидит случайный прохожий.
• Отсутствие контекста: системы не учитывают вашу личную готовность к каминг-ауту или уровень безопасности в конкретном месте (например, в консервативной семье или на работе).
• Цифровая слежка: приложения, такие как Grindr, неоднократно подвергались критике за передачу данных пользователей (включая ВИЧ-статус и геолокацию) третьим лицам без явного согласия.

Как защитить себя в цифровом мире?

В условиях растущей враждебности и использования алгоритмов для сортировки людей по типам, ЛГБТК+ сообщество вынуждено вырабатывать новые стратегии выживания. Вот несколько тактик, которые используют пользователи сегодня:

1. Пассивное потребление: просмотр контента без лайков, комментариев и подписок, чтобы не давать алгоритму данных для обучения.
2. Множественные аккаунты: использование разных профилей для разных целей (личных, активистских, исследовательских).
3. Анонимность и аватары: использование профилей без настоящих имен и фотографий на этапе исследования своей идентичности.
4. «Быстрый побег»: запрос на внедрение функций мгновенного скрытия контента на экране, если в ваше личное пространство внезапно вторглись посторонние.

Технологические компании должны нести ответственность за то, как их алгоритмы раскрывают чувствительную информацию. Пока же наше «цифровое зеркало» остается не только инструментом познания, но и потенциальным орудием против нас.

Les chercheurs appellent les entreprises technologiques à être plus transparentes et responsables. Parmi les solutions proposées figure la mise en œuvre des principes de « Confidentialité par défaut » (confidentialité par conception) et la création d’outils permettant à l’utilisateur de cacher rapidement le contenu sensible s’il se retrouve soudainement dans une situation dangereuse.