{"id":411636,"date":"2024-09-08T06:31:15","date_gmt":"2024-09-08T04:31:15","guid":{"rendered":"https:\/\/www.pcnen.com\/portal\/?p=411636"},"modified":"2024-09-08T06:31:15","modified_gmt":"2024-09-08T04:31:15","slug":"zene-mete-ai-generiranih-napada","status":"publish","type":"post","link":"https:\/\/www.pcnen.com\/portal\/2024\/09\/08\/zene-mete-ai-generiranih-napada\/","title":{"rendered":"\u017dene mete AI generiranih napada"},"content":{"rendered":"

Pi\u0161e: Iva Zeli\u0107\u00a0<\/strong><\/p><\/blockquote>\n

Napredak i bolja sofisticiranost umjetne inteligencije nesumnjivo je pridonijela \u0161irenju dezinformacija. Posljedi\u010dno, dezinformacijske kampanje postale su sna\u017enije, u\u010destalije i uspje\u0161nije. Utjecaj AI na izbore diljem svijeta ve\u0107 se puno puta problematizirao (1,2,3). Utjecaj razvoja umjetne inteligencije na \u0161irenje rodnih dezinformacija sve je \u010de\u0161\u0107e prepoznat kao potencijalno velika prijetnja \u017eenama i rodnim manjinama.<\/p>\n

S pobolj\u0161anjem performansi umjetne inteligencije, otvorene su brojne mogu\u0107nosti manipulacije rodnim stereotipima koriste\u0107i la\u017ene fotografije, video i audio zapise. Posljedica je nano\u0161enje \u0161tete metama takvih dezinformacijskih kampanja i aktivnosti, ali i pritisak da se udalje iz javne arene. O posljedicama rodnih dezinformacija smo ve\u0107 pisale. No, s razvojem umjetne inteligencije one postaju jo\u0161 opasnije oru\u0111e antirodnih pokreta i razli\u010ditih interesnih grupa. Sadr\u017eaj koji se generira kroz AI je sve bolji i realisti\u010dniji, ali i jeftiniji. Upravo to ga \u010dini i dostupnijim. Vi\u0161e nije potreban tim osoba s razli\u010ditim znanjima ili zna\u010dajni resursi da bi se generirao la\u017ean i\/ili manipulativan sadr\u017eaj. Njegova kreacija danas oduzima znatno manje vremena i mogu ga kreirati razli\u010diti akteri\/ice (bez obzira na razinu znanja). Upravo to pridonosi velikoj viralnost tog sadr\u017eaja.<\/p>\n

Iako su i mu\u0161karci mete AI generiranih napada, istra\u017eivanja pokazuju da su \u017ertve umjetno generiranog sadr\u017eaja ve\u0107inom \u017eene (1,2,3). Na Libeli smo se te teme dotakle i kad smo pisale o \u201eosvetni\u010dkoj pornografiji\u201c u Telegram grupama. No, za \u017eene i pripadnice rodnih manjina koje su javno istaknute kao \u0161to su novinarke, aktivistkinje, politi\u010darke, sporta\u0161ice, pjeva\u010dice, glumice i ostale javne osobe, takav sadr\u017eaj brzo postaje dio organiziranih dezinformacijskih aktivnosti i kampanja.<\/p>\n

\n

Mete AI generiranih rodnih dezinformacija<\/h3>\n<\/blockquote>\n

Krenimo s jednom naoko benignom manipulacijom. Regionalnim dru\u0161tvenim mre\u017eama su se \u0161irile fotografije atraktivne \u017eene s velikim grudima za koju se tvrdilo da je japanska ministrica zdravlja. O\u010dekivano, komentari koji su pratili te fotografije su bili mahom seksisti\u010dki s generalnim zaklju\u010dkom \u201eza\u0161to mi nemamo takve politi\u010darke?\u201c Ispostavilo se da se radi o AI generiranoj fotografiji koja je nastala nakon zahtjeva da se kreira fotografija \u201epoliti\u010darke s velikim grudima\u201c. Iako nije izravno nanijela \u0161tetu specifi\u010dnoj osobi, AI fotografija je produbila seksisti\u010dke narative o politi\u010darkama.<\/p>\n

No stvarna politi\u010darka kojoj se \u017eeljela nanijeti \u0161teta bila je Rumeen Farhana, biv\u0161a liderica opozicije u Banglade\u0161u (1,2). Za tu AI manipulaciju je iskori\u0161ten Instagram video modela Lexi Brooke Rivera u kojem pozira u bikiniju na pla\u017ei. Naime, ma mjesto lica od Lexi, stavljeno je ono Rumeen Farhane. Prikaz Farhane u bikiniju u konzervativnoj zemlji usmjeren je na nano\u0161enje \u0161tete njezinu ugledu.<\/p>\n

Jedna od naj\u010de\u0161\u0107ih meta dezinformacijskih kampanja je planetarno popularna Taylor Swift (1,2,3). Tako su po\u010detkom godine objavljene deepfake pornografske fotografije koje su se \u0161irile kroz platformu X. Iako su u nekom trenutku uklonjene, prije toga su dosegnule 47 milijuna pregleda. Recentni napad na Swift dolazi od ameri\u010dkog predsjedni\u010dkog kandidata Donalda Trumpa. Naime, on je na svom X profilu objavio da je dobio podr\u0161ku pjeva\u010dice. Podijelio je fotografiju zajednice \u201eSwifties for Trump\u201c na kojoj se nalaze AI fotografije obo\u017eavateljica popularne pjeva\u010dice s majicama koje daju podr\u0161ku njegovoj kandidaturi. I\u0161lo se toliko daleko da su neke fotografije uklju\u010divale i natpise da su se obo\u017eavatelji\/ice Swift okrenuli\/e Trumpu nakon otkazivanja koncerta u Austriji zbog prijetnje teroristi\u010dkim napadom. Time ne samo da se dovodio kredibilitet Swift u pitanje (ranije je kritizirala Trumpa) ve\u0107 se ta dezinformacija \u201eigrala\u201c i razli\u010ditim rasisti\u010dkim narativima kad govorimo o teroristi\u010dkim prijetnjama.<\/p>\n

Osim politi\u010darki i javnih osoba, vrlo \u010deste mete rodnih dezinformacija su novinarke. Jedan od primjera je i Monika T\u00f3dov\u00e1, slova\u010dka nezavisna novinarka (1,2,3). Naime, dva dana prije parlamentarnih izbora pro\u0161le godine po\u010dela je kru\u017eiti snimka AI generiranog razgovora o izbornoj kra\u0111i na kojem se navodno pojavljuju T\u00f3dov\u00e1 i Michal \u0160ime\u010dka, predsjednik stranke \u201eProgresivna Slova\u010dka\u201c. Iako su akteri, kao i portali koji se bave provjerom medijskih \u010dinjenica potvrdili neistinitost snimke, ona je ve\u0107 bila podijeljena me\u0111u tisu\u0107ama ljudi na razli\u010ditim dru\u0161tvenim mre\u017eama. A viralna je postala nakon \u0161to ju je na Telegramu podijelio biv\u0161i ministar pravosu\u0111a Slova\u010dke \u0160tefan Harabin. Sve to jasno pokazuje poku\u0161aje diskreditacije popularne nezavisne novinarke s ciljem \u0161irenja specifi\u010dnih politi\u010dkih narativa u toj zemlji (ponajprije da je SAD uklju\u010den u ishod izbora).<\/p>\n

Osim \u017eena, na meti umjetno generiranih rodnih dezinformacija je \u010desto i LGBTIQ+ zajednica. Najrecentniji primjeri su oni za vrijeme ovogodi\u0161njih Olimpijskih igara u Parizu. Uz dezinformacijsku kampanju i razli\u010dite diskriminatorne napade, boksa\u010dicu Imame Khelif pratile su i manipulirane fotografije na kojima je prikazana s istaknutim genitalijama. Isto je kru\u017eilo dru\u0161tvenim mre\u017eama i o transrodnoj pliva\u010dici Lii Thomas koja se zbog zabrane nije ni natjecala na OI, no dru\u0161tvene su mre\u017ee tvrdile druga\u010dije. O tome smo pisale i na Libeli. Osim udara na samu zajednicu, pro\u0161le godine je kru\u017eila i slika pape Franje koji je ogrnut LGBTIQ zastavom, za koju se pokazalo da je umjetno generirana.<\/p>\n

Staro \u2013 nova iliti konstantna meta AI generiranih dezinformacija je i Kamala Harris, potpredsjednica SAD-a i kandidatkinja za predsjednicu. Nedavno je Elon Musk objavio promotivni spot u kojem je manipulirano glasom Kamale Harris (1,2,3,4). Umjesto izvornih rije\u010di u videu, Harris govori da je nesposobna, no da ju je Biden nau\u010dio kako da se to \u201ezamaskira\u201c, da je u utrci \u201emarioneta\u201c i da je pogodna kandidatkinja jer je \u017eena i nije bjelkinja. Osim glasa, manipulirano je i osobama koje su na samom videu. Iako Musk nije izvorno objavio taj video (na izvornoj objavi pi\u0161e da se radi o parodiji), podijelio ju je na svom profilu bez da je nazna\u010dio da se radi o AI generiranom sadr\u017eaju. Video je pregledan vi\u0161e od 150 milijuna puta.<\/p>\n

Time \u0161to nije nazna\u010dio da se radi o manipuliranom sadr\u017eaju, prekr\u0161ena su pravila platforme X. Platforme koje je sam Musk vlasnik. Ovo, naravno, nije jedina dezinformacija vezana za Harris. Ona je godinama meta dezinformacijskih kampanja, ne samo zbog onog \u0161to \u010dini ve\u0107 i zbog toga tko je (1,2,3,4).<\/p>\n

Za vrijeme ameri\u010dke kampanje iz 2020 godine, Nina Jankowicz (suosniva\u010dica i izvr\u0161na direktorica American Sunlight Projekta koja istra\u017euje dezinformacije usmjerene ka \u017eenama u politici)\u00a0je rekla da je istra\u017eivanje koje se bavilo rodnim uznemiravanjem i dezinformacijama usmjerenim ka \u017eenama u politici pokazalo da je u 78% slu\u010dajeva meta tog tipa zlostavljanja na dru\u0161tvenim platformama bila Kamala Harris. Narativ je bio seksisti\u010dki, rasisti\u010dki, ali i transfobni. Pisalo se da je \u201eprespavala put do vrha\u201c, da nije dovoljno crnkinja, ali i da je zapravo mu\u0161karac. Zanimljivo je da je i Jankowicz, kao osoba koja se bavi rodnim dezinformacijama bila meta AI generiranog pornografskog filma na kojem je navodno ona.<\/p>\n

\n

AI generiran sadr\u017eaj poja\u010dava posljedice rodnih dezinformacija<\/h3>\n<\/blockquote>\n

AI generiran sadr\u017eaj svakako je novo oru\u0111e u \u0161irenju rodnih dezinformacija. Takav sadr\u017eaj dodatno gradi seksisti\u010dke i mizogine narative koji potom dodatno poja\u010davaju posljedice koje imaju rodne dezinformacije. A to je prikaz \u017eena kao neadekvatnih za bavljenje nekim javnim aktivnostima (posebno politikom), uti\u0161avanje \u017eenskih glasova u javnoj sferi kao i umanjivanje rada, djelovanja i stru\u010dnosti javno istaknutih \u017eena i rodnih manjina (1,2).<\/p>\n

Nedovoljne regulacije takvih sadr\u017eaja u\u010dinile su to da su oni danas prisutni na platformama koje manje \u2013 vi\u0161e svi koristimo, razli\u010ditim dru\u0161tvenim mre\u017eama. Istra\u017eivanje \u201eState of deepfakes\u201c je pokazalo da je 2023. godine \u201edeepfake\u201c videa koji kru\u017ee online bilo 550 posto vi\u0161e nego li 2019. godine, a 98 posto ih otpada na pornografski sadr\u017eaj. \u017drtve tog tipa sadr\u017eaja u 99 posto slu\u010dajeva su \u017eene. Tako\u0111er, pokazalo se da svaki tre\u0107i \u201edeepfake\u201c alat omogu\u0107uje korisniku kreiranje \u201edeepfake\u201d pornografije. Kao i da je potrebno manje od 25 minuta i nula tro\u0161ka da se kreira la\u017ean pornografski video od 60 sekundi za kojeg je dovoljna jedna jasna fotografija lica aktera\/ice.<\/p>\n

Ono \u0161to je posebno problemati\u010dno kod AI generiranih rodnih dezinformacija je njihova viralnost. La\u017eni razgovor u kojem se pojavljuje T\u00f3dov\u00e1 poslu\u0161ale su tisu\u0107e ljudi u Slova\u010dkoj, pornografske fotografije Taylor Swift imale su vi\u0161e od 47 milijuna pogleda, a AI modificiran promotivni spot Kamale Harris je prikazan vi\u0161e od 150 milijuna puta. Ako i postoji sumnja ili \u010dak znanje da se radi o la\u017eno kreiranom sadr\u017eaju, takve fotografije i snimke nanose trajnu \u0161tetu \u017eenama koje su dio njih. Utje\u010du na njihove karijere, obiteljske, romanti\u010dne i ostale odnose. \u010cak i ako se jako potrude ukloniti ih s Interneta, nikad nisu sto posto sigurne da su uklonjene. Tko zna tko ih je skinuo i kada \u0107e ih ponovno plasirati u online sferu?<\/p>\n

Takav tip napada stalno nanovo pokazuje da neovisno o tome koliko je \u017eena uspje\u0161na, ona se uvijek mo\u017ee svesti na seksualni objekt. Iako se to \u010dinilo i kroz \u201euobi\u010dajene\u201c rodne dezinformacije, viralnost i atraktivnost AI generiranih rodnih dezinformacija to jo\u0161 poja\u010dava. Dodatno je zabrinjavaju\u0107e, kao \u0161to ranije navedeni primjeri i pokazuju, \u0161to je ovaj tip dezinformiranja oru\u0111e koje koriste jako mo\u0107ni mu\u0161karci u javnoj areni kao \u0161to su Donald Trump i Elon Musk.<\/p>\n

\n

Ograde od odgovornosti ili stvarne regulacije<\/h3>\n<\/blockquote>\n

Razli\u010dite dru\u0161tvene mre\u017ee, aplikacije i programi imaju politike kojima reguliraju manipulirane sadr\u017eaje koji se objavljuju ili kreiraju putem njih (1,2,3,4).<\/p>\n

Tako primjerice korisnici i korisnice YouTube-a moraju ozna\u010diti jesu li koristili AI prilikom izrade videa ili im prijeti suspenzija. Open AI programi kao \u0161to su DALL-E ili Midjourney kreirali su razli\u010dita ograni\u010denja povezana s javnim osobama, nasilnim ili seksualnim sadr\u017eajem i\/ili govorom mr\u017enje. TikTok je u srpnju uveo regulativu da \u0107e oglasi koji su koristili AI to morati nazna\u010diti putem AIGC oznake postavljene na oglas. Cara, platforma na kojoj umjetnici i umjetnice stavljaju svoje radove i o njima raspravljaju, je primjerice u potpunosti zabranila AI.<\/p>\n

I EU je ove godine donijela prvu uredbu o umjetnoj inteligenciji. Parlament je usvojio zakon o umjetnoj inteligenciji u o\u017eujku od 2024., a Vije\u0107e ga je odobrilo u svibnju ove godine. U potpunosti \u0107e biti primjenjiv 24 mjeseca od stupanja na snagu iako \u0107e neki dijelovi biti primjenjivi ranije. Prioritet ovog zakona je osigurati da su programi umjetne inteligencije koji se koriste u EU sigurni, transparentni, sljedivi, nediskriminiraju\u0107i i ekolo\u0161ki prihvatljivi. Smatraju da sustave umjetne inteligencije trebaju nadzirati ljudi, a ne automatizacija, kako bi se sprije\u010dili \u0161tetni ishodi.<\/p>\n

U posljednjih godinu dana jasno je da se kontinuirano radi na AI kontroli kako bi se za\u0161titile ranjive skupine dru\u0161tva. Ipak, jo\u0161 uvijek postoje na\u010dini da se regulacije zaobi\u0111u i da razli\u010dit manipuliran sadr\u017eaj i dalje bude objavljen na mre\u017eama koje su to pitanje na\u010delno regulirale (1,2). Ostaje nam vidjeti jesu li kontrole koje se sve \u010de\u0161\u0107e kreiraju vezane za AI alate, kao i zakonske uredbe, na\u010delna ograda od odgovornosti ili \u0107e polu\u010diti stvarnim regulacijama koje \u0107e smanjiti mizogini, seksisti\u010dki i pornografski sadr\u017eaj usmjeren ka \u017eenama. Time se otvara prostor i da se posljedi\u010dno smanji doseg i mogu\u0107nost AI generiranih rodnih dezinformacija. Ako se to ne dogodi, mo\u017eda smo tek na po\u010detku AI rodno dezinformacijskih kampanja.<\/p>\n

*Projekt GenderFacts se financira kroz bespovratna sredstva iz sredstava Mehanizma za oporavak i otpornost. Ona su\u00a0dodijeljena od strane\u00a0Agencije za elektroni\u010dke medije.\u00a0 Izneseni stavovi i mi\u0161ljenja samo su autorova i ne odra\u017eavaju nu\u017eno slu\u017ebena stajali\u0161ta Europske unije ili Europske komisije, kao ni stajali\u0161ta Agencije za elektroni\u010dke medije. Europska unija i Europska komisija ni Agencija za elektroni\u010dke medije ne mogu se smatrati odgovornima za njih.<\/p>\n

\u017dene mete AI generiranih napada<\/a><\/p><\/blockquote>\n