{"id":430321,"date":"2025-05-15T09:57:02","date_gmt":"2025-05-15T07:57:02","guid":{"rendered":"https:\/\/www.pcnen.com\/portal\/?p=430321"},"modified":"2025-05-15T09:57:02","modified_gmt":"2025-05-15T07:57:02","slug":"u-cijim-rukama-je-vasa-paznja-prica-o-algoritmu-potlacenih","status":"publish","type":"post","link":"https:\/\/www.pcnen.com\/portal\/2025\/05\/15\/u-cijim-rukama-je-vasa-paznja-prica-o-algoritmu-potlacenih\/","title":{"rendered":"U \u010dijim rukama je va\u0161a pa\u017enja? Pri\u010da o algoritmu potla\u010denih"},"content":{"rendered":"

Pi\u0161e: Vuk Vukovi\u0107*<\/strong><\/p>\n

Nakon \u010ditanja sociolo\u0161ke studije Prognani pojmovi Todora Kulji\u0107a intenzivno sam po\u010deo da razmi\u0161ljam o pojmovima koji odre\u0111uju savremeno dru\u0161tvo, a posebno o onima koji istra\u017euju nejednakosti u dru\u0161tvu. Ili, da ovdje parafraziram Kulji\u0107a – kako prepoznati dru\u0161tvene uslove novog opojmljavanja istorijskog i savremenog iskustva? \u010cini se da kao indikator za ovu analizu mo\u017eemo uzeti niz pojmova koji se pojavljuju, iz godine u godinu, kao rije\u010di koje su obilje\u017eile odre\u0111eni period: brain rot (2024), generative artificial intelligence (2023), AI (2023), doomscrolling (2020), cancel culture (2019), sharing economy (2015), #blacklivesmatter (2014)… Ova adhoc analiza nam, izgleda, nudi zaklju\u010dak da su klju\u010dni pojmovi savremenog dru\u0161tva nu\u017eno vezani za digitalnu kulturu, odnosno – da je trend \u201eopojmljavanja savremenog iskustva\u201c u direktnoj vezi sa fenomenima medijske kulture. Ako ovu leksi\u010dku analizu svedemo na jedan pojam – zajedni\u010dki imenitelj bi bio onaj koji objedinjuje sve pomenute prakse i fenomene: njegovo veli\u010danstvo Algoritam.<\/p>\n

\n

Vrijeme algoritma<\/span><\/h4>\n<\/blockquote>\n

Iako (vjerovatno) poti\u010de iz 9. vijeka i su\u0161tinski pripada polju koje je ograni\u010deno matematikom kao formalnom i egzaktnom naukom, pojam algoritma je vremenom migrirao i u polje dru\u0161tveno-humanisti\u010dkih nauka, posebno zadiru\u0107i u oblast digitalne humanistike. Upravo zbog toga, set precizno definisanih koraka za rje\u0161avanje problema (\u0161to je jedna od definicija algoritma), otvorio je niz dru\u0161tvenih problema koje, sagledane u kontekstu medijske pismenosti, Svetlana Joveti\u0107 Koprivica naziva Tortura algoritma. I mo\u017eda se upravo u procesu medijskog opismenjavanja krije spoj rigoroznih STEM disciplina i kriti\u010dke refleksije dru\u0161tvenih nauka. Iz tog spoja rodile su se, izme\u0111u ostalog, i – eti\u010dke dileme i ono \u0161to nezgrapno prevodimo – algoritamska pristrasnost (algorithm bias).<\/p>\n

\n

Kako algoritmi biraju umjesto nas?<\/span><\/h4>\n<\/blockquote>\n

Me\u0111utim – kako uop\u0161te algoritam danas funkcioni\u0161e, \u0161ta su bila o\u010dekivanja algoritamskog funkcionisanja, a \u0161ta smo dobili kao realnost? Algoritamska personalizacija ili personalizovana algoritamska selekcija je obilje\u017eila posljednje dvije decenije, a posebno eru dru\u0161tvenih medija. Jo\u0161 otkako je Google 2004. godine uveo personalizovanu pretragu (od 2009. godine – kao standard za sve korisnike, \u010dak i one koji su izlogovani sa svojih ra\u010duna, a ni brisanje “kola\u010di\u0107a” ne\u0107e mnogo pomo\u0107i), niz medijskih platformi (Facebook, Instagram, TikTok…) je u\u0161ao u trku – ko \u0107e ponuditi \u201ebolji\u201c algoritam. Kvalitet algoritma, su\u0161tinski gledano, procjenjivan je na osnovu dva kriterijuma: koliko dugo zaokuplja pa\u017enju korisnika (ekonomija pa\u017enje) i koliko novca donosi platformama\/ogla\u0161iva\u010dima. Takvi kriterijumi, ukratko, dehumanizuju proces personalizovane selekcije sadr\u017eaja i svjedo\u010de o dominaciji lukrativnih obrazaca produkcije sadr\u017eaja \u010diji je osnovni cilj – eksploatacija korisnika. Ipak, algoritamska personalizacija kao kompleksan mehanizam obrade velikih podataka o pona\u0161anju korisnika na internetu nastao je kao odgovor na ubrzanu akumulaciju medijskog materijala: neki podaci ukazuju da se danas, dnevno, generi\u0161e preko 400 terabajta (TB) sadr\u017eaja zbog \u010dega se opravdano postavlja pitanje – \u0161ta mi radimo sa toliko medijskog sadr\u017eaja? Ideja da platforme same, u na\u0161e ime i na osnovu na\u0161ih podataka, selektuju sadr\u017eaje koji su nam korisni ili zadovoljavaju na\u0161e potrebe mo\u017eda je svojevremeno mogla da se tuma\u010di kao strategija koja bi nam omogu\u0107avala da pristupamo sadr\u017eajima koji su za nas najrelevantniji, odnosno da apsolutnu kontrolu nad personalizacijom imamo mi kao korisnici. Prediktivna analitika, u praksi, ispostavilo se da radi isklju\u010divo za velike korporacije koje imaju kontrolu nad procesom selekcije sadr\u017eaja, ali i nad podacima koje im, voljno i nevoljno, dajemo na raspolaganje. O tome svjedo\u010di i hipoteza da je klju\u010dnu ulogu u kontekstu referenduma u Velikoj Britaniji (Brexit) imalo upravo algoritamsko filtriranje i distribucija informacija koji su oblikovali na\u010din na koji je javnost percipirala klju\u010dna pitanja migracija, suvereniteta, ekonomije i EU birokratije.<\/p>\n

\n

Kada algoritmi postanu nepravedni<\/span><\/h4>\n<\/blockquote>\n

Distopijska slika algoritma ne iscrpljuje se samo u personalizovanoj selekciji i manipulaciji na\u0161im podacima, ve\u0107 i u sistemskim, ponavljaju\u0107im \u201egre\u0161kama\u201c kojima ne upravlja (isklju\u010divo) \u010dovjek niti veliki centri mo\u0107i. Gre\u0161ke su, ustvari, nepravedni i diskriminatorni rezultati koje tendenciozno daje automatizovani sistem, pri \u010demu favorizuje jednu grupu podataka na ra\u010dun druge. Ovakva diskriminacija nije (nu\u017eno) u funkciji akumulacije kapitala, ali ona jeste dokaz da algoritam nije neutralan, odnosno da je pristrasnost integrisana kroz dizajn algoritma, podatke ili na\u010din primjene\/obrade podataka.<\/p>\n

Google je 2015. godine uveo aplikaciju za prepoznavanje sadr\u017eaja na slikama i otvorio polje digitalnih stereotipa: tamnopute osobe algoritam je prepoznavao i obilje\u017eavao kao gorile, zbog \u010dega se Google izvinio. Godinama kasnije, Google, a ni ostale globalne korporacije poput Applea, ne omogu\u0107avaju prepoznavanje gorila jer su tu oznaku blokirali u svojim algoritmima, \u010dime su samo zaobi\u0161li problem i umjesto rje\u0161enja ponudili prividnu neutralnost. Sli\u010dnu pristrasnost je pokazivao i algoritam COMPAS koji je kori\u0161\u0107en za procjenu rizika od ponovnog \u010dinjenja krivi\u010dnog djela u nekim dr\u017eavama SAD: istra\u017eiva\u010dka analiza je pokazala da je algoritam \u010de\u0161\u0107e davao la\u017eno visoke ocjene rizika afroameri\u010dkim optu\u017eenicima (u pore\u0111enju sa bjelcima), odnosno da su oni dvostru\u010dko \u010de\u0161\u0107e ozna\u010davani kao budu\u0107i prestupnici, dok su bijelci \u010de\u0161\u0107e (pogre\u0161no) ocjenjeni kao nisko-rizi\u010dni.<\/p>\n

Amazon je razvijao AI alat za pregled radnih biografija koje je trebalo rangirati na osnovu uspje\u0161nosti, ali je brzo otkriveno da algoritam diskrimini\u0161e \u017eene. Podaci na kojima je algoritam \u201etreniran\u201c bili su istorijski uslovljeni okolno\u0161\u0107u da je dominacija mu\u0161karaca u tehnolo\u0161kom sektoru vodila tome da rezimei kandidatkinja dobijaju \u201ekaznene\u201c bodove. Amazon je obustavio primjenu projekta, zbog opasnosti da bi se sli\u010dne gre\u0161ke mogle ponoviti. Ovakvu polnu i rodnu diskriminaciju imali su i kodovi za ciljano ogla\u0161avanje (Facebook) ili kreditno bodovanje (Apple Card) koji su, tako\u0111e, favorizovali odre\u0111eni pol, iako im to nije zadato kao namjera.<\/p>\n

Iako postoji niz primjera koji se, u akademskim krugovima, ve\u0107 odavno tretiraju kao nau\u010dni i eti\u010dki problem, regulativa sporo susti\u017ee tehnologiju i njen razvoj. Ameri\u010dka administracija prije nekoliko godina objavila je dokument naslovljen Blueprint for an AI Bill of Right sa nizom neobavezuju\u0107ih principa koji se ti\u010du vje\u0161ta\u010dke inteligencije, od kojih se dio posebno ti\u010de zabrane od algoritamske diskriminacije. Neka od ovih pitanja evropska regulativa poku\u0161ala je da tretira kroz Op\u0161tu uredbu o za\u0161titi podataka (GDPR), Akt o digitalnim uslugama (DSA) ili Akt o vje\u0161ta\u010dkoj inteligenciji (AI Act), ali je otvoreno pitanje kako \u0107e sve ovo zemlje \u010dlanice EU (i one koje deklarativno to \u017eele da postanu) sprovoditi u svakodnevnoj praksi. Crnogorsko zakonodavstvo pasivno prati i one medijske standarde koji se ti\u010du i tradicionalnih medija, te nije za o\u010dekivati da pitanje vje\u0161ta\u010dke inteligencije i algoritamske pristrasnosti bude ta\u010dka dnevnog reda nadle\u017enih institucija, prije svega – Vlade i Skup\u0161tine Crne Gore.<\/p>\n

Ono \u0161to je o\u010digledno iz ovih primjera je da razvoj tehnologije, iako poti\u010de iz egzaktnih nauka, nije neutralan, ve\u0107 jako odra\u017eava i odslikava dru\u0161tvene prilike i okolnosti. Algoritamska\u00a0 pristrasnost je, dakle, samo digitalizovana diskriminacija koja decenijama i vjekovima postoji u dru\u0161tvu, po svim osnovama – polnom, rodnom, klasnom, seksualnom, rasnom, itd. Tako digitalizovana, diskriminacija vi\u0161e nije samo vremenska kategorija, ve\u0107 je postala i prostorna – time \u0161to se pro\u0161irila na sve medije kao produ\u017eetke na\u0161ih \u010dula, kako bi to rekao Mar\u0161al Makluan. Ipak, kao takva, ona je opasnija: upravo zbog pretpostavke da su ra\u010dunarske odluke objektivne i egzaktne, one dobijaju povjerenje koje ne zaslu\u017euju, a njihova pristrasnost je te\u017ee uo\u010dljiva. Otkrivanje prividne neutralnosti zadatak je svih nas, svakodnevno i svuda – i to ne samo da bi AI sistemi bili pravedniji, transparentniji i bezbjedniji za dru\u0161tvo. Mo\u017eda \u0107e tako, bar u digitalnom dru\u0161tvu, diskriminacija biti jedan od – prognanih pojmova.<\/p>\n

*Autor je producent i univerzitetski profesor<\/p>\n

Napomena: Ovaj tekst je pisan za sajt medijskapismenost.me<\/a> u okviru programa Agencije za audiovizuelne medijske usluge. Preuzimamo ga uz njihovu dozvolu<\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"

Crnogorsko zakonodavstvo pasivno prati i one medijske standarde koji se ti\u010du i tradicionalnih medija, te nije za o\u010dekivati da pitanje vje\u0161ta\u010dke inteligencije i algoritamske pristrasnosti bude ta\u010dka dnevnog reda nadle\u017enih institucija, prije svega – Vlade i Skup\u0161tine Crne Gore<\/p>\n","protected":false},"author":1,"featured_media":408629,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[546],"tags":[],"class_list":["post-430321","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-feature"],"_links":{"self":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/430321","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/comments?post=430321"}],"version-history":[{"count":1,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/430321\/revisions"}],"predecessor-version":[{"id":430324,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/430321\/revisions\/430324"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media\/408629"}],"wp:attachment":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media?parent=430321"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/categories?post=430321"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/tags?post=430321"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}