ТикТок и вештачка интелигенција: Уклоњени сексуализовани снимци црнкиња после ББЦ истраге

ТикТок је забранио 20 налога пошто је ББЦ указао на употребу црних инфлуенсерки створених помоћу вештачке интелигенције за усмеравање корисника на сајтове који промовишу сексуално експлицитни садржај.

Ови налози су део растућег тренда на друштвеним мрежама Instagramу и ТикТоку који се сматрају расистичким, експлоататорским и обмањујућим због расних стереотипа и језика који се користи.

ББЦ и истраживачи независне публикације о вештачкој интелигенцији Riddance су на ове две платформе пронашли десетине налога који приказују изразито сексуализоване црне женске дигиталне ликове, односно аватаре.

Слике и видео-снимци створени су помоћу вештачке интелигенције, али нису били означени као такви, што представља очигледно кршење смерница платформи.

Скоро сви налози су били на Instagramу, а око трећине је имало верзије и на ТикТоку.

Мета, матична компанија Instagramа, рекла је за ББЦ да истражује случај, али није одговорила да ли је предузела било какве конкретне мере.

Аватари су често приказани у оскудним купаћим костимима или другој изазовној одећи и често имају пренаглашене пропорције тела.

Неки имају изузетно тамне тонове коже који су дигитално створени, због чега делују вештачки.

У називима налога су често изрази који упућују на црно и тамно, као што су „black", „noir", „dark", и „ebony".

У објавама на појединим налозима постављени су и коментари о белим мушкарцима, попут „воли беле мушкарце" и „зашто ми је у животу потребан бели мушкарац".

Ови налози се углавном међусобно прате или лајкују садржај једни других.

У сарадњи са аналитичарима Џеремијем Караском и Анђел Нулани из публикације Riddance, ББЦ је идентификовао 60 таквих налога, углавном на Instagramу, на којима су били линкови ка плаћеном сексуално експлицитном садржају на сајтовима трећих страна.

На тим сајтовима садржај је означен као створен помоћу вештачке интелигенције, али такву ознаку нису имали налози на Instagramу.

Током истраживања откривени су и многи други налози на Instagramу и ТикТоку који су имали сличне аватаре створене помоћу вештачке интелигенције а који нису водили ка плаћеном садржају.

'Била сам бесна'

Један од налога који је ТикТок угасио, али је у тренутку објављивања текста и даље био активан на Instagramу, изазвао је додатни бес због крађе видео-снимака стварних људи.

Представљен је као налог упечатљивог лика створеног помоћу вештачке интелигенције и у року од свега неколико недеља од отварања у децембру прикупио је три милиона пратилаца.

Међутим, на њему су објављивани измењени снимци стварне креаторке садржаја, Рије Улан, модела из Малезије, које је она поставила на њеном профилу.

Лице аватара, које има изузетно таман, вештачки створен тон коже, постављено је преко Ријиног тела, при чему су копирани њени покрети, одећа и позадина.

„Била сам бесна", рекла је Рија за ББЦ.

„Наравно да су сви моји снимци доступни, али то не значи да неко може једноставно да их узме, украде и објави".

Један од њених измењених снимака достигао је више од 35 милиона прегледа на ТикТоку и 173 милиона на Instagramу, што је око 47 пута више од прегледа Ријине објаве.

Иако три снимка, који јасно одговарају Ријином садржају нису сексуални, други видео-снимци на налогу створеном помоћу вештачке интелигенције који користи исти дигитално створени лик приказују га у оскудној одећи и у провокативним позама.

Линкови на том налогу воде ка плаћеном садржају за одрасле.

„Не знам да ли ме више брине то што користе мој снимак за промоцију експлицитног садржаја или то што људи заправо верују у то", каже она.

Додаје да је корисницима све теже да разликују стваран од вештачки створеног садржаја и да „људи стално наседају на ове моделе створене помоћу вештачке интелигенције".

Многи корисници очигледно доживљавају ове аватаре као стварне иако имају нереалне карактеристике.

У објавама и сторијима на Instagramу, неки од налога негирају употребу вештачке интелигенције, међу којима је и онај који је преузео Ријин садржај.

Рија каже да је више пута пријављивала налог обема платформама, али да садржај у том тренутку није био уклоњен.

ТикТок га је забранио тек пошто је ББЦ затражио објашњење.

'Нереални прикази'

„Верујем да су ови налози расистички јер њихово постојање подржава дугу историју експлоатације црних људи", каже Нулани, једна од истраживачица.

„Употреба карикатура, терминологије везане за расне фетише и нереалних приказа црних жена показује да им није стало до наше безбедности нити добробити, већ до наше могућности да будемо комерцијализоване као део онлајн порнографске индустрије", додаје она.

Караско, који на његовим налозима на друштвеним мрежама критикује трендове и технике у области вештачке интелигенције, каже да „оно што је ново је количина бестидних, расистичких приказа изразито тамнопутих људи".

Иако је „тај фетиш" можда постојао и раније, вештачка интелигенција му „даје нови замах", каже он.

Објашњава да вештачка интелигенција олакшава уклањање нијанси на сликама и видео-снимцима и омогућава да се стварају тонови коже који нису природни, као и ефекти који су раније захтевали анимацију или ручно осликавање коже.

Каже и да аватари не сносе друштвене последице.

„Нема стида и то је нешто што вештачка интелигенција једноставно искоришћава".

Худа Фононе, мароканска манекенка и креаторка садржаја која се залаже за аутентичније приказе црних жена, каже да се овај тренд своди на „брисање идентитета".

„Свиленкаста коса, изразито мршава тела и невероватно беспрекорна кожа...као да црначка лепота може да се прихвати само када је 'дотерана'".

Она упозорава да то може додатно да учврсти стереотипе, док се „наше приче и стварна животна искуства замењују вештачком сликом".

ББЦ је Мети и ТикТоку послао примере налога које је идентификовао и затражио одговоре.

Два дана касније, портпарол ТикТока рекао је за ББЦ да је компанија „уклонила садржај и забранила налоге који крше наша правила".

У року од неколико дана, на 20 налога у апликацији је постављена ознака „забрањено".

„ТикТок забрањује садржај створен помоћу вештачке интелигенције који приказује људе без њихове дозволе и имамо нулту толеранцију за садржај који промовише сексуалне услуге изван платформе", рекао је портпарол.

Компанија наглашава да забрањује и уклања садржај створен помоћу вештачке интелигенције који је штетан или обмањујући, као и да захтева од корисника да јасно означе реалистичан садржај настао уз помоћ вештачке интелигенције.

Додали су и да су на одређени број видео-снимака накнадно применили одговарајуће ознаке.

Мета је саопштила да истражује садржај који је пријављен.

Каже да жели да корисници знају када гледају објаве направљене уз помоћ вештачке интелигенције, као и да има успостављене политике за означавање садржаја створеног помоћу вештачке интелигенције.

Девет Instagram налога које је ББЦ пратио, изгледа да су уклоњени.

Ниједна од ове две платформи није изнела детаље о њиховој реакцији на Ријине првобитне пријаве.

ББЦ на српском је од сада и на Јутјубу, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу и Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk