{"id":368890,"date":"2023-04-30T06:42:35","date_gmt":"2023-04-30T04:42:35","guid":{"rendered":"https:\/\/www.pcnen.com\/portal\/?p=368890"},"modified":"2023-04-30T06:43:17","modified_gmt":"2023-04-30T04:43:17","slug":"deepfake-ai-kako-vam-lazni-snimci-mogu-unistiti-zivot","status":"publish","type":"post","link":"https:\/\/www.pcnen.com\/portal\/2023\/04\/30\/deepfake-ai-kako-vam-lazni-snimci-mogu-unistiti-zivot\/","title":{"rendered":"DEEPFAKE AI: Kako vam la\u017eni snimci mogu uni\u0161titi \u017eivot"},"content":{"rendered":"

Pi\u0161e: Vesna Rajnovi\u0107<\/strong><\/p>\n

Da je vrag odnio \u0161alu znali smo i ranije, no sad je kap prelila \u010da\u0161u. Pre\u017eivjeli smo rat, epidemiju, antivaksere, ravnozemlja\u0161e, \u017deljku Marki\u0107 i njene \u201egra\u0111anske\u201d inicijative, molitelje na trgovima, slavljenje ratnih zlo\u010dinaca kao heroja, predsjednika kojeg smo sami izabrali misle\u0107i, u svojoj naivnosti, da postoji \u201emanje zlo\u201d. Pre\u017eivjeli smo besramnu plja\u010dku dru\u0161tvene imovine iz milja nazvanu pretvorbom i privatizacijom, nezasitnu crkvu s dvorima od oniksa, sve\u0107enicima pedofilima i oltarskim nacionalizmom kao i kriminalnu organizaciju na \u010delu dr\u017eave. Sve smo nekako pre\u017eivjeli, ali tehnologija \u0107e nas dokraj\u010diti.<\/p>\n

\u201eZvijer\u201d se zove Deepfake AI. Radi se o umjetnoj inteligenciji koja slu\u017ei la\u017eiranju fotografija i snimaka na na\u010din da osobu, koja je stvarno na nekoj fotografiji ili snimci, zamijeni nekim drugim. Nije to ni\u0161ta novo, re\u0107i \u0107ete, takvi programi postoje ve\u0107 godinama, no do koje je mjere ovo \u010dudo usavr\u0161eno najbolje shvatimo kad otkrijemo da smo akteri u porno filmu, iako s prili\u010dnim stupnjem sigurnosti mo\u017eemo ustanoviti kako se nismo upu\u0161tali u tako zahtjevne gluma\u010dke anga\u017emane. To je ujedno trenutak u kojem \u010dovjeku postane bolno jasno kako, u nadmetanju s tehnologijom i neiscrpnim mogu\u0107nostima njene zloupotrebe, nema apsolutno nikakve \u0161anse, ne za pobjedu, nego za opstanak. Dovoljno je da se neki \u0161aljivd\u017eija ili ogor\u010deni biv\u0161i partner malo poigra i na\u0161ali na na\u0161 ra\u010dun. Znat \u0107ete da se to dogodilo kad opazite znakovit smije\u0161ak na usnama susjeda, rodbina vas prestane pozivati na obiteljska okupljanja, a roditelji propadnu u zemlju. U odnosu na zastarjele aplikacije koje poznajete, razlika je golema, ovdje \u010desto ni stru\u010dnjaci nisu u stanju prepoznati da je rije\u010d o prevari.<\/p>\n

\n

Pogubni scenarij<\/h2>\n<\/blockquote>\n

S takvim se scenarijem suo\u010dila Australka Noelle Martin, kad je u dobi od 17 godina primila anonimnu obavijest da se na internetskim pornografskim stranicama nalazi deepfake video koji ju prikazuje u eksplicitnim scenama seksualnog odnosa, te da snimka izgleda vrlo uvjerljivo. Rekla je da je, kad je pro\u010ditala poruku, ostala ukopana, zamrznuta u tom trenutku, osje\u0107aju\u0107i kako joj se \u017eivot ru\u0161i pred o\u010dima. Da stvar bude gora, video je u naslovu imao njeno puno ime i prezime. Ubrzo je otkrila i to da ova snimka nije jedina, nai\u0161la je na jo\u0161 jednu koja ju la\u017eno prikazuje u oralnoj seksualnoj aktivnosti. Svijest o tome da \u0107e ju, bez ikakve njene krivnje, posljedice ovog zlo\u010dina pratiti cijeli \u017eivot i da \u0107e uvijek morati obja\u0161njavati kako je rije\u010d o prevari, bila je izvor sna\u017enog o\u010daja. Zbog svega je odlu\u010dila javno progovoriti, i nije bilo uzalud. Njeno je iskustvo u Australiji potaknulo dono\u0161enje zakona o zabrani dijeljenja intimnih fotografija i snimaka bez pristanka osobe koju prikazuju.<\/p>\n

Umjetnointeligentni \u201emonstrum\u201d radi na na\u010din da u\u010ditava stvarne fotografije \u201e\u017ertve\u201d iz mnogo razli\u010ditih kutova hvataju\u0107i svaki detalj i zatim stvara la\u017eni digitalni sadr\u017eaj kombiniranjem dva algoritma, od kojih jedan generira i (na temelju otkrivenih gre\u0161aka) neprekidno usavr\u0161ava krivotvorenu snimku, a drugi pronalazi najsitnija odstupanja analiziraju\u0107i razli\u010dite kutove, kretnje, pona\u0161anje, govor, gestikulaciju i ostalo. I to nije sve. U stanju je kreirati i potpuno novi, originalan sadr\u017eaj koji \u0107e prikazivati nekog \u010dovjeka kako radi ili govori ono \u0161to nikad nije izgovorio niti u\u010dinio. Dodatno je opasno \u0161to Deepfake AI ima sposobnost \u0161irenja la\u017enih informacija na na\u010din da se \u010dini kako one dolaze iz pouzdanih izvora. Tako smo, primjerice, u martu pro\u0161le godine mogli vidjeti la\u017eni video u kojem ukrajinski predsjednik Volodimir Zelenski poziva svoje vojnike da se predaju. Sre\u0107om, reakcija je bila brza. Zelenski se, ubrzo po objavi la\u017ene snimke, obratio javnosti rekav\u0161i: \u201eAko ikome mogu poru\u010diti da odlo\u017ei oru\u017eje, onda je to ruska vojska\u201d. O cijelom smo slu\u010daju saznali kad je Nathaniel Gleicher, voditelj slu\u017ebe za sigurnosne protokole u Meti (kompaniji u \u010dijem su vlasni\u0161tvu Facebook i Instagram) objavio da su njihovi slu\u017ebenici identificirali i uklonili ovu snimku. Bilo bi vrlo utje\u0161no kad bismo saznali da su i snimke izjava predsjednika Zorana Milanovi\u0107a inteligentno generirane, no \u010dini se da nisu.<\/p>\n

Stru\u010dnjaci posebno strahuju od mogu\u0107nosti zloupotrebe ove tehnologije uplitanjem u izborne procese i predizbornu propagandu pa je U.S Department of Homeland Security (Ministarstvo domovinske sigurnosti SAD-a) objavilo poseban izvje\u0161taj o \u201erastu\u0107oj prijetnji od Deepfake identiteta\u201d.<\/p>\n

\n

Zloupotreba mo\u0107i<\/h2>\n<\/blockquote>\n

Osim zloupotrebe u politi\u010dke svrhe, o\u010dekuje se da bi ovaj sustav mogao biti kori\u0161ten za brojne nezakonite aktivnosti poput ucjenjivanja, nano\u0161enja \u0161tete ugledu ili dostojanstvu druge osobe te za cyberbullying tj. internetsko zlostavljanje postavljanjem \u201e\u017ertvine\u201d fotografije u nezakonitu, sramotnu ili na neki drugi na\u010din kompromitiraju\u0107u situaciju, poput ve\u0107 spomenutog kreiranja la\u017ene pornografije, zavaravaju\u0107eg prikaza konzumacije narkotika, opijanja, primanja mita, za stvaranje la\u017enih dokaza kojima se nekoj osobi potvr\u0111uje krivnja ili ju se osloba\u0111a krivnje i sli\u010dno. Tvrtka Deeptrace, koja se bavi analizom internetskih sadr\u017eaja i istra\u017eivanjem umjetne inteligencije, u septembru 2019. detektirala je 15 hiljada deepfake videa na internetu, gotovo dvostruko vi\u0161e u usporedbi s januarom iste godine. Od tih 15 hiljada, \u010dak 96 posto je bilo pornografskog karaktera, a u svima njima zloupotrijebljen je identitet \u017eena. Danielle Citron, profesorica prava Sveu\u010dili\u0161ta u Bostonu, to je prokomentirala govore\u0107i kako se \u201edeepfake tehnologija koristi kao oru\u017eje protiv \u017eena\u201d.<\/p>\n

Unato\u010d svemu, kori\u0161tenje ovog umjetnointeligentnog sustava u ve\u0107ini zemalja nije zabranjeno, osim kad se odnosi na dje\u010dju pornografiju, klevetu i govor mr\u017enje. Dodatan je problem \u0161to je ovakve snimke, ukoliko su napravljene kori\u0161tenjem profesionalne opreme, vrlo te\u0161ko otkriti. Jedan od znakova, pomo\u0107u kojih ih je ranije bilo mogu\u0107e detektirati, bio je taj da \u201e\u017ertve\u201d u deepfake snimkama uop\u0107e nisu treptale. Razlog je bio u tome \u0161to su virtualni likovi kreirani temeljem pravih fotografija neke osobe, a na njima uvijek, ili gotovo uvijek, imamo otvorene o\u010di. No, sustav umjetne inteligencije neprestano se popravlja i usavr\u0161ava pa je u me\u0111uvremenu (od 2018. kad je bio otkriven) i taj znak otklonjen. Likovi, koje Deepfake AI sada generira, trep\u0107u. Zvu\u010di prili\u010dno deprimiraju\u0107e da \u0107e ubrzo vrlo vjerojatno samo druga umjetna inteligencija biti u stanju prepoznati zavaravaju\u0107e digitalne sadr\u017eaje koje je proizvela Deepfake AI. \u010covjeka tu vi\u0161e nema.<\/p>\n

\u201eNije mogu\u0107e zamisliti ljudsku egzistenciju bez lica. U licu je upisano \u010dudo postojanja.\u201d Predrag Finci<\/p>\n

Analiziraj.ba<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Radi se o umjetnoj inteligenciji \u010diji algoritmi osobu koja je stvarno na nekoj fotografiji ili snimci zamijeni drugom. \u017dene su naj\u010de\u0161\u0107e \u017ertve ovog digitalnog monstruma<\/p>\n","protected":false},"author":1,"featured_media":368891,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[5,12],"tags":[],"class_list":["post-368890","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-drugi-pisu","category-prica-dana"],"_links":{"self":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/368890","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/comments?post=368890"}],"version-history":[{"count":1,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/368890\/revisions"}],"predecessor-version":[{"id":368892,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/368890\/revisions\/368892"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media\/368891"}],"wp:attachment":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media?parent=368890"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/categories?post=368890"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/tags?post=368890"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}