{"id":379713,"date":"2023-09-18T07:02:12","date_gmt":"2023-09-18T05:02:12","guid":{"rendered":"https:\/\/www.pcnen.com\/portal\/?p=379713"},"modified":"2023-09-18T07:02:59","modified_gmt":"2023-09-18T05:02:59","slug":"umjetna-inteligencija-je-hakirala-operativni-sustav-nase-civilizacije","status":"publish","type":"post","link":"https:\/\/www.pcnen.com\/portal\/2023\/09\/18\/umjetna-inteligencija-je-hakirala-operativni-sustav-nase-civilizacije\/","title":{"rendered":"Umjetna inteligencija je hakirala operativni sustav na\u0161e civilizacije"},"content":{"rendered":"

Autor: Yuval Noah Harari<\/strong><\/p><\/blockquote>\n

Strah od umjetne inteligencije (AI) prati \u010dovje\u010danstvo jo\u0161 od samog po\u010detka ra\u010dunalne ere. Do sada su se ti strahovi fokusirali na strojeve koji koriste sredstva za ubijanje i porobljavanje ljudi ili da ljude nadomjeste. Me\u0111utim, tijekom posljednjih nekoliko godina pojavili su se novi AI alati koji prijete opstanku ljudske civilizacije iz neo\u010dekivanog smjera. AI je stekao neke izvanredne sposobnosti manipuliranja i generiranja jezika, bilo rije\u010dima, zvukovima ili slikama. AI je tako hakirao operativni sustav na\u0161e civilizacije.<\/p>\n

Jezik je ono od \u010dega je sazdana gotovo sva kultura \u010dovje\u010danstva. Ljudska prava, primjerice, nisu upisana u na\u0161 DNK. Naprotiv, ona su kulturni artefakti koje smo stvorili kazuju\u0107i pri\u010de i pi\u0161u\u0107i zakone. Bogovi nisu fizi\u010dke stvarnosti. Naprotiv, oni su kulturni artefakti koje smo stvorili izmi\u0161ljaju\u0107i mitove i pi\u0161u\u0107i svete spise.<\/p>\n

Novac je tako\u0111er kulturni artefakt. Nov\u010danice su samo raznobojni komadi papira, a trenutno vi\u0161e od 90 posto novca nisu \u010dak ni nov\u010danice – to su samo digitalne informacije u ra\u010dunalima. Ono \u0161to novcu daje vrijednost su pri\u010de koje nam o njemu pri\u010daju bankari, ministri financija i gurui kriptovaluta. Sam Bankman-Fried, Elizabeth Holmes i Bernie Madoff (financijski prevaranti op. pr.) nisu bili osobito dobri u stvaranju prave vrijednosti, ali su svi oni redom bili iznimno sposobni pripovjeda\u010di.<\/p>\n

\u0160to bi se dogodilo kada bi neljudska inteligencija postala bolja od prosje\u010dnog \u010dovjeka u pri\u010danju pri\u010da, skladanju melodija, crtanju slika te pisanju zakona i svetih spisa? Kada ljudi razmi\u0161ljaju o ChatGPT-u i drugim novim AI alatima, \u010desto pomisle na primjere kao \u0161to su \u0161kolska djeca koja koriste AI za pisanje svojih zada\u0107nica. \u0160to \u0107e se dogoditi sa \u0161kolskim sustavom kada djeca to po\u010dnu raditi? No, ovakav tip pitanja proma\u0161uje \u0161iru sliku.<\/p>\n

Zaboravite na \u0161kolske zada\u0107nice. Razmislite o sljede\u0107oj ameri\u010dkoj predsjedni\u010dkoj utrci 2024. godine i probajte zamisliti utjecaj AI alata koji mogu masovno proizvoditi politi\u010dki sadr\u017eaj, la\u017ene vijesti i svete spise za neke nove kultove.<\/p>\n

Posljednjih godina kult qAnon okupio se oko anonimnih online poruka, poznatih kao “q drops”. Sljedbenici su skupljali, \u0161tovali i tuma\u010dili ove \u201ekapi\u201c kao sveti tekst. Dok su prema na\u0161im spoznajama sve prethodne \u201ekapi\u201c sastavili ljudi, a botovi samo pomogli u njihovom \u0161irenju, u budu\u0107nosti bismo mogli vidjeti prve kultove u povijesti \u010dije je \u201esvete\u201c tekstove napisala neljudska inteligencija. Religije su kroz povijest tvrdile da njihove svete knjige nisu ljudskog porijekla. Uskoro bi to mogla biti stvarnost.<\/p>\n

Na prozai\u010dnijoj razini, uskoro bismo se mogli na\u0107i u podu\u017eim online raspravama o poba\u010daju, klimatskim promjenama ili ruskoj invaziji na Ukrajinu s entitetima za koje mislimo da su ljudi – ali zapravo su AI. Kvaka je u tome da je potpuno besmisleno tro\u0161iti vrijeme poku\u0161avaju\u0107i promijeniti deklarirana mi\u0161ljenja AI bota, dok bi AI bot mogao izbrusiti svoje poruke toliko precizno da bi imao dobre \u0161anse da utje\u010de na nas.<\/p>\n

Svojim ovladavanjem jezikom, umjetna inteligencija mo\u017ee \u010dak uspostaviti intimne odnose s ljudima i iskoristiti mo\u0107 intimnosti kako bi promijenila na\u0161a razmi\u0161ljanja i na\u0161e svjetonazore. Iako nema naznaka da umjetna inteligencija ima vlastitu svijest ili osje\u0107aje, za poticanje la\u017ene intimnosti s ljudima dovoljno je da umjetna inteligencija u\u010diniti da se ljudi osje\u0107aju emocionalno vezanima za nju. U lipnju 2022. godine Blake Lemoine, Googleov in\u017eenjer, javno je ustvrdio da je AI chatbot Lamda, na kojem je radio, postao osje\u0107ajan. Kontroverzna tvrdnja ko\u0161tala ga je posla. No, najzanimljivija stvar u ovoj epizodi nije bila tvrdnja gospodina Lemoinea, koja je vjerojatno bila la\u017ena, ve\u0107 njegova spremnost da riskira svoj unosan posao za dobrobit AI chatbota. Ako umjetna inteligencija mo\u017ee utjecati na ljude da zbog nje riskiraju svoja radna mjesta, na \u0161to bi ih sve drugo mogla potaknuti?<\/p>\n

U politi\u010dkoj borbi za umove i srca, intimnost je naju\u010dinkovitije oru\u017eje, a AI je upravo stekao sposobnost masovne proizvodnje intimnih odnosa s milijunima ljudi. Svi znamo da su u proteklom desetlje\u0107u dru\u0161tvene mre\u017ee postale bojno polje za kontrolu ljudske pa\u017enje. S novom generacijom umjetne inteligencije, boji\u0161te se pomi\u010de s pozornosti na intimnost. \u0160to \u0107e se dogoditi s ljudskim dru\u0161tvom i ljudskom psihologijom dok se AI bori protiv AI-a u bitki za la\u017eiranje intimnih odnosa s nama, odnosa koji se onda mogu koristiti kako bi nas uvjerili da glasamo za odre\u0111ene politi\u010dare ili kupimo odre\u0111ene proizvode?<\/p>\n

\u010cak i bez stvaranja “la\u017ene intimnosti”, novi AI alati imali bi golem utjecaj na na\u0161a mi\u0161ljenja i svjetonazore. Ljudi mogu po\u010deti koristiti jednog savjetnika za umjetnu inteligenciju kao proroka koji sve zna. Nije ni \u010dudo \u0161to je Google prestravljen. Za\u0161to se mu\u010diti tra\u017eenjem, kad mogu samo pitati proroka? Industrija vijesti i ogla\u0161avanja tako\u0111er bi trebala biti prestravljena. Za\u0161to \u010ditati novine kada mogu samo zamoliti proroka da mi ka\u017ee najnovije vijesti? I koja je svrha reklama, kad mogu samo pitati proroka da mi ka\u017ee \u0161to da kupim?<\/p>\n

A \u010dak ni ovi scenariji zapravo ne prikazuju \u0161iru sliku. Ono o \u010demu govorimo potencijalni je kraj ljudske povijesti. Ne kraj povijesti, ve\u0107 kraj njenog dijela kojim dominiraju ljudi. Povijest je interakcija izme\u0111u biologije i kulture; izme\u0111u na\u0161ih biolo\u0161kih potreba i \u017eelja za stvarima poput hrane i seksa, i na\u0161ih kreacija poput religija i zakona. Povijest je proces kroz koji zakoni i religije oblikuju hranu i seks.<\/p>\n

\u0160to \u0107e se dogoditi s povijesnim tijekom kada AI preuzme kulturu i krene proizvoditi pri\u010de, melodije, zakone i religije? Prethodni alati poput tiskarskog stroja i radija pomogli su u \u0161irenju kulturnih ideja ljudi, ali nikada nisu stvorili nove vlastite kulturne ideje. AI je bitno druga\u010diji. AI mo\u017ee stvoriti potpuno nove ideje, potpuno novu kulturu.<\/p>\n

U po\u010detku \u0107e AI vjerojatno opona\u0161ati ljudske prototipove na kojima je obu\u010davana u \u201edjetinjstvu\u201c. Ali sa svakom godinom koja prolazi, AI kultura \u0107e hrabro kora\u010dati tamo gdje nijedan \u010dovjek prije nije oti\u0161ao. Tisu\u0107lje\u0107ima su ljudska bi\u0107a \u017eivjela u snovima drugih ljudi. U nadolaze\u0107im desetlje\u0107ima mogli bismo se na\u0107i kako \u017eivimo u snovima neljudske inteligencije.<\/p>\n

Strah od umjetne inteligencije proganja \u010dovje\u010danstvo tek zadnjih nekoliko desetlje\u0107a. Ali ljude ve\u0107 tisu\u0107ama godina progoni mnogo dublji strah. Uvijek smo cijenili mo\u0107 pri\u010da i slika u manipulaciji na\u0161im umovima i stvaranju iluzija. Posljedica toga je da su se od davnina ljudi bojali biti zarobljeni u svijetu iluzija.<\/p>\n

Do sada su se ti strahovi fokusirali na strojeve koji koriste sredstva za ubijanje i porobljavanje ljudi ili da ljude nadomjeste (FOTO: Wikimedia\/ICAPlants)<\/p>\n

U 17. stolje\u0107u Ren\u00e9 Descartes se bojao da ga mo\u017eda zlonamjerni demon dr\u017ei zato\u010denog u svijetu iluzija, stvaraju\u0107i sve ono \u0161to vidi i \u010duje. U staroj Gr\u010dkoj Platon je ispri\u010dao poznatu \u201eAlegoriju \u0161pilje\u201c, u kojoj je grupa ljudi cijeli \u017eivot okovana lancima unutar \u0161pilje, okrenuta prema praznom zidu. Ekran. Na tom ekranu vide projekciju raznih sjena. Zato\u010denici brkaju iluzije koje tamo vide sa stvarno\u0161\u0107u.<\/p>\n

U drevnoj Indiji budisti\u010dki i hinduisti\u010dki mudraci isticali su da svi ljudi \u017eive zarobljeni u Maji – svijetu iluzija. Ono \u0161to ina\u010de smatramo stvarno\u0161\u0107u \u010desto je samo fikcija u na\u0161im umovima. Ljudi mogu voditi \u010ditave ratove, ubijaju\u0107i druge i \u017eele\u0107i i sami biti ubijeni, zbog svoje vjere u ovu ili onu iluziju.<\/p>\n

AI revolucija dovodi nas licem u lice s Descartesovim demonom, s Platonovom \u0161piljom, s Majom. Ukoliko ne budemo oprezni, mogli bismo ostati zarobljeni iza zavjese iluzija, koju ne mo\u017eemo razmaknuti – ili \u010dak shvatiti da ona uop\u0107e postoji.<\/p>\n

Naravno, nova mo\u0107 AI-a mogla bi se koristiti i u dobre svrhe. Ne\u0107u duljiti o tome, jer ljudi koji razvijaju AI ve\u0107 dovoljno govore o tome. Posao povjesni\u010dara i filozofa poput mene jest ukazati na opasnosti. Svakako, umjetna inteligencija nam mo\u017ee pomo\u0107i na bezbroj na\u010dina, od pronala\u017eenja novih lijekova za rak do otkrivanja rje\u0161enja za ekolo\u0161ku krizu. Pitanje s kojim se suo\u010davamo je kako osigurati da se novi AI alati koriste za dobro, a ne za zlo. Da bismo to u\u010dinili, prvo moramo procijeniti stvarne mogu\u0107nosti ovih alata.<\/p>\n

Od 1945. godine znamo da bi nuklearna tehnologija mogla generirati jeftinu energiju za dobrobit ljudi, ali bi tako\u0111er mogla fizi\u010dki uni\u0161titi ljudsku civilizaciju. Stoga smo preoblikovali cijeli me\u0111unarodni poredak kako bismo za\u0161titili \u010dovje\u010danstvo i osigurali da se nuklearna tehnologija koristi prvenstveno za dobro. Sada se moramo uhvatiti uko\u0161tac s novim oru\u017ejem masovnog uni\u0161tenja koje mo\u017ee istrijebiti na\u0161 mentalni i dru\u0161tveni svijet.<\/p>\n

Jo\u0161 uvijek mo\u017eemo regulirati nove AI alate, ali moramo djelovati brzo. Dok nuklearne bombe ne mogu izmisliti sna\u017enije nuklearne bombe, AI mo\u017ee napraviti eksponencijalno mo\u0107niju AI. Prvi klju\u010dni korak je zahtijevanje rigorozne sigurnosne provjere prije nego \u0161to se mo\u0107ne AI alati pusti u javnu domenu. Jednako kao \u0161to farmaceutska tvrtka ne mo\u017ee izdati nove lijekove prije testiranja njihovih kratkoro\u010dnih i dugoro\u010dnih nuspojava, tako ni tehnolo\u0161ke tvrtke ne bi trebale izdati nove AI alate prije nego ih naprave sigurnima. Trebamo ekvivalent Agenciji za lijekove i medicinske proizvode.<\/p>\n

Ne\u0107e li usporavanje javne primjene AI uzrokovati zaostajanje demokracija za nemilosrdnijim autoritarnim re\u017eimima? Upravo suprotno. Neregulirana implementacija umjetne inteligencije stvorila bi dru\u0161tveni kaos, \u0161to bi pogodovalo autokratima i uni\u0161tilo demokracije. Demokracija je razgovor, a razgovori se oslanjaju na jezik. Kada AI hakira jezik, mogao bi uni\u0161titi na\u0161u sposobnost da vodimo smislene razgovore, uni\u0161tavaju\u0107i time demokraciju.<\/p>\n

Upravo smo susreli neljudsku inteligenciju, ovdje na Zemlji. Ne znamo puno o tome, osim da bi mogla uni\u0161titi na\u0161u civilizaciju. Trebali bismo zaustaviti neodgovorno kori\u0161tenje AI alata u javnoj sferi i regulirati AI prije nego \u0161to on regulira nas. I prvi propis koji bih predlo\u017eio je da se u\u010dini obaveznim da AI otkrije da je AI. Ako razgovaram s nekim, a ne mogu re\u0107i je li to \u010dovjek ili AI – to je kraj demokracije.<\/p>\n

Prijevod na hrvatski: Lupiga.Com<\/p>\n

Lupiga.Com<\/a><\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"

Jo\u0161 uvijek mo\u017eemo regulirati nove AI alate, ali moramo djelovati brzo. Dok nuklearne bombe ne mogu izmisliti sna\u017enije nuklearne bombe, AI mo\u017ee napraviti eksponencijalno mo\u0107niju AI<\/p>\n","protected":false},"author":1,"featured_media":290558,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-379713","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-drugi-pisu"],"_links":{"self":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/379713","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/comments?post=379713"}],"version-history":[{"count":2,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/379713\/revisions"}],"predecessor-version":[{"id":379859,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/379713\/revisions\/379859"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media\/290558"}],"wp:attachment":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media?parent=379713"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/categories?post=379713"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/tags?post=379713"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}