Алгарытмы сацсетак даведваюцца пра вашу сэксуальную арыентацыю раней за вас саміх. Гэта называюць «алгарытмічным аўтынгам» — і гэта можа быць небяспечна

У эпоху дамінавання сацыяльных сетак наша ўяўленне пра прыватнасць кардынальна змянілася. Для ЛГБТК+ супольнасці інтэрнэт доўгі час быў «бяспечнай гаванню», месцам для даследавання ідэнтычнасці і пошуку аднадумцаў. Аднак сёння лічбавая прастора ператвараецца ў люстэрка, якое не проста адлюстроўвае нас, але і раскрывае нашы самыя патаемныя сакрэты яшчэ да таго, як мы самі будзем гатовыя імі падзяліцца.

Сёння сацыяльныя сеткі ўсё часцей вызначаюць сэксуальную арыентацыю або гендэрную ідэнтычнасць карыстальнікаў яшчэ да таго, як тыя самі ўсвядомяць гэта або вырашаць зрабіць камінг-аўт. У новым даследаванні, апублікаваным у часопісе Gender, Place & Culture, для гэтага з'явы быў прапанаваны спецыяльны тэрмін — «алгарытмічны аўтынг».

Расказваем, як гэта працуе і чаму нябачная праца алгарытмаў у публічных месцах можа стаць пагрозай для бяспекі.

Як алгарытм разумее, хто я?

Сучасныя платформы, такія як TikTok, больш не абапіраюцца толькі на вашы лайкі. Іх алгарытмы аналізуюць «сігналы ўцягнутасці»: на якіх відэа вы затрымліваеце погляд, якіх аўтараў досматриваеце да канца і нават як часта вы вяртаецеся да пэўнага тыпу кантэнту.

Вядучы аўтар даследавання Джасцін Эліс увёў тэрмін «алгарытмічны аўтынг» для апісання сітуацыі, калі лічбавая сістэма ідэнтыфікуе і класіфікуе карыстальніка без яго ведама і згоды. Адна з удзельніц даследавання, 25-гадовая лесбіянка, прызналася, што алгарытм пачаў прапаноўваць ёй квір-кантэнт, калі яна яшчэ сама знаходзілася ў працэсе самапазнання і выкарыстоўвала ананімны профіль.

Штучны інтэлект і «лічбавая фізіягноміка»

Асцярогі наконт прыватнасці ўзмацніліся пасля публікацыі рэзананснага даследавання вучоных са Стэнфардскага ўніверсітэта. Яны навучылі нейрасетку вызначаць сексуальную арыентацыю па фатаграфіях асоб, узятых з сайтаў знаёмстваў. Вынікі аказаліся трывожнымі: алгарытм правільна вызначыў арыентацыю ў 91% выпадкаў для мужчын і ў 83% для жанчын, значна перавышаючы магчымасці чалавека.

Хоць крытыкі назвалі гэта «ІІ-фрэналогіяй» і ўказалі на абмежаванні выбаркі (выкарыстоўваліся фота толькі белых людзей), сама магчымасць такога аналізу ўяўляе вялізную пагрозу. У руках рэпрэсіўных рэжымаў, дзе гомасексуальнасць крыміналізавана, падобныя тэхналогіі могуць быць інтэграваны ў сістэмы вулічнага відэаназірання для аўтаматычнага выяўлення «гендэрна-нетыпічных» асоб.

Ценьавыя профілі: вы не адзінокія ў сваёй страце прыватнасці

Многія лічаць, што, выдаліўшы акаўнт або не ўказваючы асабістую інфармацыю, яны абаронены. Гэта памылка. Існуе феномен «ценьавых профіляў» (shadow profiles) — баз даных, якія соцсеткі ствараюць на людзей, нават не маючых там акаўнтаў.

Ваша прыватнасць — гэта калектыўная з'ява. Калі вашы сябры дзеляцца сваімі спісамі кантактаў або фатаграфіямі, дзе вы адзначаны, алгарытмы могуць вылічыць вашу арыентацыю з высокай доляй верагоднасці, абапіраючыся на сувязі ўнутры вашай сацыяльнай групы.

Нават поўная адсутнасць у сацсетках не гарантуе канфідэнцыяльнасці, калі вашы блізкія актыўна карыстаюцца імі.

У чым галоўная небяспека?

Сёння наша жыццё праходзіць у так званых гібрыдных прасторах, дзе анлайн-актыўнасць перасякаецца з фізічнай рэальнасцю. Гэта стварае спецыфічныя рызыкі:

• Публічнасць экрана: калі вы гартаеце стужку ў аўтобусе, алгарытм можа паказаць на экране спецыфічны квір-кантэнт менавіта ў той момант, калі яго ўбачыць выпадковы мінак.
• Адсутнасць кантэксту: сістэмы не ўлічваюць вашу асабістую гатоўнасць да камінг-аўту або ўзровень бяспекі ў канкрэтным месцы (напрыклад, у кансерватыўнай сям'і або на працы).
• Цыфравая сачэнне: прыкладанні, такія як Grindr, неаднаразова падвяргаліся крытыцы за перадачу даных карыстальнікаў (уключаючы ВІЧ-статус і геалакацыю) трэцім асобам без відавочнай згоды.

Як абараніць сябе ў лічбавым свеце?

Пры ўмовах нарастаючай варожасці і выкарыстання алгарытмаў для сартавання людзей па тыпах, ЛГБТК+ супольнасць вымушана выпрацоўваць новыя стратэгіі выжывання. Вось некалькі тактык, якія выкарыстоўваюць карыстальнікі сёння:

1. Пасіўнае спажыванне: прагляд кантэнту без лайкаў, каментароў і падпісак, каб не даваць алгарытму даных для навучання.
2. Множныя акаўнты: выкарыстанне розных профіляў для розных мэтаў (асабістых, актывісцкіх, даследчых).
3. Ананімнасць і аватары: выкарыстанне профіляў без сапраўдных імёнаў і фотаздымкаў на этапе даследавання сваёй ідэнтычнасці.
4. «Хуткі ўцёк»: запыт на ўкараненне функцый імгненнага скрыцця кантэнту на экране, калі ў вашае асабістае прастору раптоўна ўварваліся староннія.

Тэхналагічныя кампаніі павінны несці адказнасць за тое, як іх алгарытмы раскрываюць адчувальную інфармацыю. Пакуль жа наша «лічбавае люстэрка» застаецца не толькі інструментам пазнання, але і патэнцыйнай зброяй супраць нас.

Даследчыкі заклікаюць тэхналагічныя кампаніі да большай празрыстасці і адказнасці. Сярод прапанаваных рашэнняў — увядзенне прынцыпаў «прыватнасці па змаўчанні» (privacy-by-design) і стварэнне інструментаў, якія дазволяць карыстальніку хутка схаваць адчувальны кантэнт, калі ён раптам апынуўся ў небяспечнай сітуацыі.