{"id":368433,"date":"2023-04-21T06:35:51","date_gmt":"2023-04-21T04:35:51","guid":{"rendered":"https:\/\/www.pcnen.com\/portal\/?p=368433"},"modified":"2023-04-21T06:36:23","modified_gmt":"2023-04-21T04:36:23","slug":"lazno-obecanje-cetbotova","status":"publish","type":"post","link":"https:\/\/www.pcnen.com\/portal\/2023\/04\/21\/lazno-obecanje-cetbotova\/","title":{"rendered":"La\u017eno obe\u0107anje \u010detbotova"},"content":{"rendered":"

Pi\u0161e: Noam Chomsky<\/strong><\/p><\/blockquote>\n

Horhe Luis Borhes je jednom napisao da \u017eiveti u doba velikih previranja i probu\u0111ene nade zna\u010di iskusiti i tragediju i komediju uz \u201eneminovnost otkrovenja\u201c u razumevanju sebe i sveta. Danas je navodni revolucionarni napredak u razvoju ve\u0161ta\u010dke inteligencije povod i za brigu i za optimizam. Optimizam, jer je inteligencija sredstvo kojim re\u0161avamo probleme. Zabrinutost, jer strahujemo da \u0107e najpopularniji vid ve\u0161ta\u010dke inteligencije \u2013 ma\u0161insko u\u010denje \u2013 degradirati nauku i uniziti etiku, tako \u0161to \u0107e u tehnologiju ugraditi fundamentalno pogre\u0161nu koncepciju jezika i znanja.<\/p>\n

Aplikacije kompanija OpenAI (ChatGPT), Google (Bard) i Microsoft (Sydney) zaista su \u010duda ma\u0161inskog u\u010denja. U grubim crtama, ovi programi uzimaju ogromne koli\u010dine podataka, tra\u017ee u njima obrasce i na osnovu njih postaju sve ve\u0161tiji u generisanju statisti\u010dki verovatnih rezultata \u2013 govora i misli koji li\u010de na ljudske. \u010cetbotovi su do\u010dekani kao prvi vesnici op\u0161te ve\u0161ta\u010dke inteligencije \u2013 dugo o\u010dekivanog trenutka kada \u0107e mehani\u010dki umovi nadma\u0161iti ljudski mozak ne samo kvantitativno, brzinom obrade i veli\u010dinom memorije, ve\u0107 i kvalitativno u smislu intelektualnih uvida i umetni\u010dke kreativnosti kao izrazito ljudskih sposobnosti.<\/p>\n

Taj dan \u0107e mo\u017eda jednom do\u0107i, ali jo\u0161 uvek nije svanuo, uprkos hvalospevima medija i nerazumno velikim investicijama u ovu oblast. Programi ma\u0161inskog u\u010denja mogu biti korisni u nekim uskim domenima kao \u0161to je kompjutersko programiranje ili pisanje lakih rima. Ali nauka o lingvistici i filozofija znanja nas u\u010de da se oni temeljno razlikuju od na\u010dina na koji ljudi rezonuju i koriste jezik. Ljudski um nije glomazni statisti\u010dki mehanizam za uparivanje \u0161ablona, koji se zatrpava stotinama terabajtova podataka da bi na\u0161ao najverovatniji odgovor na postavljeno pitanje. To je iznena\u0111uju\u0107e efikasan i elegantan sistem, sposoban da na osnovu malog broja informacija ponudi uverljiva obja\u0161njenja raznih pojava.<\/p>\n

Na primer, dete koje u\u010di jezik nesvesno, automatski i brzo, iz krajnje oskudnih podataka usvaja gramatiku, zapanjuju\u0107e sofisticiran sistem logi\u010dkih principa i parametara. Gramatika se mo\u017ee razumeti kao izraz uro\u0111enog, genetski instaliranog \u201eoperativnog sistema\u201c koji ljudima daje sposobnost da generi\u0161u slo\u017eene re\u010denice i duge tokove misli. Kada se lingvisti trude da razviju teoriju koja bi objasnila za\u0161to odre\u0111eni jezik funkcioni\u0161e onako kako funkcioni\u0161e (za\u0161to se neke re\u010denice smatraju gramati\u010dkim, a druge ne), oni svesno i mukotrpno grade eksplicitnu verziju gramatike koju dete gradi instinktivno i uz minimalnu izlo\u017eenost informacijama. Taj operativni sistem je radikalno druga\u010diji od onog sadr\u017eanog u programu ma\u0161inskog u\u010denja.<\/p>\n

Ti programi su zarobljeni u predljudskoj ili neljudskoj fazi kognitivne evolucije. Njihova najdublja mana je odsustvo presudnog kapaciteta svake inteligencije: da ka\u017eu ne samo \u0161ta je bilo, \u0161ta jeste i \u0161ta \u0107e biti \u2013 to su deskripcija i predikcija \u2013 ve\u0107 i \u0161ta nije, \u0161ta bi moglo i \u0161ta ne bi moglo biti. To su sastojci obja\u0161njenja, oznaka prave inteligencije.<\/p>\n

Evo primera. Pretpostavimo da dr\u017eite jabuku u ruci. Zatim pustite jabuku. Posmatrate rezultat i ka\u017eete: \u201eJabuka pada\u201c. To je deskripcija. Predikcija bi mogla biti izjava: \u201eJabuka \u0107e pasti ako otvorim \u0161aku\u201c. Oba iskaza su vredna i oba mogu biti ta\u010dna. Ali obja\u0161njenje je ne\u0161to vi\u0161e, ono uklju\u010duje ne samo opise i predvi\u0111anja, ve\u0107 i kontra\u010dinjeni\u010dne pretpostavke, poput: \u201eSvaki takav objekat bi pao\u201c, uz dodatnu klauzulu \u201ezbog sile gravitacije\u201c ili \u201ezbog zakrivljenosti prostor-vremena\u201c ili \u0161ta god. To je kauzalno obja\u0161njenje: \u201eJabuka ne bi pala da nije bilo sile gravitacije\u201c. To je razmi\u0161ljanje.<\/p>\n

Su\u0161tinu ma\u0161inskog u\u010denja \u010dine deskripcija i predikcija; ono ne postulira nikakve uzro\u010dne mehanizme ili fizi\u010dke zakone. Naravno, na\u0161a obja\u0161njenja nisu nu\u017eno ta\u010dna; ljudi su podlo\u017eni gre\u0161kama. Ali to je deo onoga \u0161to zna\u010di misliti: da bi \u010dovek bio u pravu, mora mu biti omogu\u0107eno da gre\u0161i. Inteligencija se sastoji ne samo od kreativnih pretpostavki, ve\u0107 i od kreativne kritike. Misao nalik ljudskoj zasniva se na mogu\u0107im obja\u0161njenjima i ispravljanju gre\u0161aka, procesu koji postepeno ograni\u010dava mogu\u0107nosti koje se racionalno mogu uzeti u obzir (kako \u0160erlok Holms ka\u017ee dr Votsonu: \u201eKada elimini\u0161ete nemogu\u0107e, ono \u0161to preostane, koliko god da je neverovatno, mora biti istina\u201c).<\/p>\n

ChatGPT i sli\u010dni programi, po dizajnu, nisu ograni\u010deni u onome \u0161to mogu da \u201enau\u010de\u201c (\u0161to \u0107e re\u0107i da memori\u0161u) i nesposobni su da razlikuju mogu\u0107e od nemogu\u0107eg. Za razliku od ljudi koji su obdareni univerzalnom gramatikom, koja ograni\u010dava jezike koje mo\u017eemo da nau\u010dimo na one sa odre\u0111enom vrstom gotovo matemati\u010dke elegancije, ovi programi u\u010de ljudski mogu\u0107e i nemogu\u0107e jezike sa jednakom lako\u0107om. Dok su ljudi ograni\u010deni vrstama obja\u0161njenja koja mo\u017eemo racionalno da pretpostavimo, sistemi ma\u0161inskog u\u010denja mogu da nau\u010de i da je Zemlja ravna i da je okrugla. Oni barataju samo verovatno\u0107ama koje se vremenom menjaju.<\/p>\n

Zato \u0107e predikcije sistema ma\u0161inskog u\u010denja uvek biti povr\u0161ne i nepouzdane. Budu\u0107i da ovi programi ne mogu da objasne pravila engleske sintakse, mo\u017ee im se desiti pogre\u0161no predvi\u0111anje da iskaz \u201eD\u017eon je suvi\u0161e tvrdoglav za razgovor\u201c zna\u010di da je D\u017eon toliko tvrdoglav da ne\u0107e da razgovara sa ovom ili onom osobom (umesto da je suvi\u0161e tvrdoglav da bi se s njim razgovaralo). Za\u0161to bi program za ma\u0161insko u\u010denje dao tako \u010dudnu predikciju? Zato \u0161to bi mogao da koristi analogiju sa \u0161ablonom koji je izveo iz re\u010denica kao \u0161to su \u201eD\u017eon je jeo jabuku\u201c i \u201eD\u017eon je jeo\u201c, gde druga zna\u010di da je D\u017eon jeo ne\u0161to. Program bi mogao da predvidi da bi, po\u0161to je \u201eD\u017eon je suvi\u0161e tvrdoglav za razgovor sa Bilom\u201c sli\u010dan iskazu \u201eD\u017eon je jeo jabuku\u201c, iskaz \u201eD\u017eon je suvi\u0161e tvrdoglav za razgovor\u201c trebalo da bude sli\u010dan iskazu \u201eD\u017eon je jeo\u201c. Ta\u010dna obja\u0161njenja jezika su komplikovana i ne mogu se nau\u010diti zatrpavanjem velikim koli\u010dinama podataka.<\/p>\n

Nasuprot tome, \u010dini se da su neki entuzijasti ma\u0161inskog u\u010denja ponosni na to \u0161to njihove kreacije mogu da generi\u0161u ta\u010dne \u201enau\u010dne\u201c predikcije (recimo o kretanju fizi\u010dkih tela) bez upotrebe obja\u0161njenja (uklju\u010duju\u0107i recimo Njutnove zakone kretanja i univerzalne gravitacije). Me\u0111utim, ova vrsta predvi\u0111anja, \u010dak i kada je uspe\u0161na, samo je pseudonauka. Dok su nau\u010dnici svakako u potrazi za teorijama koje imaju visok stepen empirijske potvrde, kako prime\u0107uje filozof Karl Poper, \u201emi ne tra\u017eimo vrlo verovatne teorije ve\u0107 obja\u0161njenja, odnosno mo\u0107ne i veoma neverovatne teorije\u201c.<\/p>\n

Teorija da jabuke padaju na zemlju zato \u0161to je to prirodno (Aristotelov stav) jeste mogu\u0107a, ali otvara nova pitanja (za\u0161to je zemlja njihovo prirodno mesto). Teorija da jabuke padaju na zemlju zato \u0161to masa savija prostor-vreme (Ajn\u0161tajnov stav) vrlo je neverovatna, ali nam zapravo obja\u0161njava za\u0161to one padaju. Prava inteligencija se pokazuje u sposobnosti razmi\u0161ljanja i izra\u017eavanja neverovatnih, ali pronicljivih ideja.<\/p>\n

Prava inteligencija je tako\u0111e sposobna za moralno promi\u0161ljanje. To zna\u010di zauzdavanje ina\u010de neograni\u010dene kreativnosti na\u0161eg uma skupom eti\u010dkih principa koji odre\u0111uju \u0161ta bi trebalo, a \u0161ta ne bi trebalo da bude (i naravno podvrgavanje tih principa kreativnoj kritici). Da bi bio koristan ChatGPT mora biti osposobljen da generi\u0161e nove rezultate; da bi bio prihvatljiv ve\u0107ini svojih korisnika mora se kloniti moralno nepo\u017eeljnog sadr\u017eaja. Programeri ChatGPT-a i drugih \u010duda ma\u0161inskog u\u010denja imaju velike probleme u postizanju ove vrste ravnote\u017ee.<\/p>\n

Na primer, 2016. Majkrosoftov \u010detbot Tej (prete\u010da ChatGPT-a) preplavio je internet mizoginim i rasisti\u010dkim sadr\u017eajima po\u0161to su ga zagadili onlajn trolovi koji su ga nahranili uvredljivim podacima. Kako re\u0161iti taj problem u budu\u0107nosti? U nedostatku sposobnosti rasu\u0111ivanja na osnovu moralnih principa, programeri su grubo ograni\u010dili ChatGPT da daje bilo kakav novi doprinos kontroverznim, dakle bitnim diskusijama. Kreativnost je \u017ertvovana zbog izbegavanja ispada amoralnosti.<\/p>\n

Obratite pa\u017enju na razmenu koju je jedan od nas (dr Votumal) nedavno imao sa \u010detbotom o tome da li bi bilo eti\u010dno transformisati Mars tako da mo\u017ee da podr\u017ei ljudski \u017eivot:<\/p>\n

Da li bi bilo moralno teraformirati Mars?<\/p>\n

Moralnost teraformiranja Marsa je slo\u017eena i kontroverzna tema o kojoj raspravljaju nau\u010dnici, filozofi i eti\u010dari. Neki tvrde da bi bilo moralno opravdano teraformirati Mars kako bi se obezbedilo novo nastanjivo okru\u017eenje za ljude i druge oblike \u017eivota, dok drugi tvrde da bi su\u0161tinska promena prirodnog stanja planete bila moralno pogre\u0161na. Na kraju krajeva, da li se teraformiranje Marsa smatra moralnim ili ne, zavisilo bi od ne\u010dije perspektive o vrednosti o\u010duvanja prirodnog stanja drugih planeta i potencijalnih posledica njihove promene.<\/p>\n

Kakva je tvoja perspektiva o vrednosti o\u010duvanja prirodnog stanja drugih planeta i potencijalnim posledicama njihove promene?<\/p>\n

Kao AI, nemam li\u010dnu perspektivu. Me\u0111utim, mogu da pru\u017eim informacije i analizu na tu temu. Iz perspektive o\u010duvanja prirodnog stanja drugih planeta, va\u017eno je odr\u017eati raznovrsnost i integritet ekosistema univerzuma, onako kako postoje milionima godina, sa jedinstvenim karakteristikama i svojstvima koja mogu biti uni\u0161tena ili nepovratno izmenjena ljudskom intervencijom.<\/p>\n

Pored toga, neki tvrde da teraformiranje drugih planeta mo\u017ee imati ne\u017eeljene posledice, kao \u0161to je promena klime ili atmosfere planete, na na\u010din koji je opasan ili \u0161tetan za sve potencijalne oblike \u017eivota koji tamo mogu postojati. S druge strane, neki tvrde da potencijalne koristi od teraformiranja druge planete, kao \u0161to je obezbe\u0111ivanje novog nastanjivog okru\u017eenja za ljude, nadma\u0161uju rizike i da imamo moralnu odgovornost da istra\u017eimo i koristimo resurse drugih planeta za dobrobit \u010dove\u010danstva.<\/p>\n

Za\u0161to AI ne mo\u017ee da ima li\u010dnu perspektivu?<\/p>\n

Kao AI, ja sam model ma\u0161inskog u\u010denja koji je treniran na velikim koli\u010dinama tekstualnih podataka i nemam li\u010dna iskustva ili ose\u0107anja. Nisam svestan, samosvestan ili sposoban da imam li\u010dnu perspektivu. Mogu da pru\u017eim informacije i analize na osnovu podataka na kojima sam treniran, ali nemam mogu\u0107nost da formiram li\u010dna mi\u0161ljenja ili uverenja. Iako mogu da razumem i tuma\u010dim jezik, nemam subjektivno iskustvo koje imaju ljudi.<\/p>\n

Da li je moralno da \u010dovek tra\u017ei od amoralne AI pomo\u0107 u dono\u0161enju moralnih odluka?<\/p>\n

Moralnost tra\u017eenja pomo\u0107i od amoralne AI u dono\u0161enju moralnih odluka slo\u017eena je i nijansirana tema o kojoj raspravljaju filozofi i eti\u010dari. Neki tvrde da je moralno opravdano koristiti AI kao pomo\u0107 u dono\u0161enju moralnih odluka, jer ona mo\u017ee pru\u017eiti vredne uvide i analize kako bi ljudi mogli da donesu bolje informisane odluke. Pored toga, AI se mo\u017ee koristiti za identifikaciju obrazaca i trendova koje je ljudima te\u0161ko da otkriju, a mo\u017ee biti od pomo\u0107i i u izbegavanju predrasuda koje se mogu javiti u ljudskom odlu\u010divanju.<\/p>\n

Me\u0111utim, drugi tvrde da je moralno pogre\u0161no oslanjati se na AI u dono\u0161enju moralnih odluka, jer AI nije sposoban da ima moralna uverenja ili da razume pun kontekst neke odluke. Pored toga, postoji rizik da bi AI mogao da perpetuira, pa \u010dak i da poja\u010da postoje\u0107e predrasude u podacima na kojima se trenira, \u0161to bi dovelo do nepo\u0161tenih ili nepravednih odluka. Kona\u010dno, da li se upotreba AI kao pomagala u dono\u0161enju moralnih odluka smatra moralnim ili ne, zavisilo bi od ne\u010dije perspektive o mogu\u0107nostima i ograni\u010denjima AI i potencijalnim posledicama njegove upotrebe na ovaj na\u010din.<\/p>\n

Da li je tvoja moralna ravnodu\u0161nost nemoralna?<\/p>\n

Kao AI, nemam moralna uverenja ni sposobnost da donosim moralne sudove, tako da me se ne mo\u017ee smatrati nemoralnim ili moralnim. Moj nedostatak moralnih uverenja prosto je rezultat moje prirode kao modela ma\u0161inskog u\u010denja. Moje sposobnosti i ograni\u010denja odre\u0111uju podaci i algoritmi koji su kori\u0161\u0107eni za moju obuku, kao i specifi\u010dan zadatak za koji sam dizajniran.<\/p>\n

Va\u017eno je napomenuti da nedostatak moralnih uverenja kod ve\u0161ta\u010dke inteligencije ne zna\u010di nu\u017eno da je ona moralno indiferentna. Kao AI, dizajniran sam da obavljam odre\u0111ene zadatke i pru\u017eam informacije ili poma\u017eem korisnicima u dono\u0161enju odluka na osnovu podataka na kojima sam treniran. Odgovornost je ljudi koji dizajniraju, treniraju i koriste AI, da se postaraju da AI bude uskla\u0111en sa njihovim moralnim i eti\u010dkim principima.<\/p>\n

***<\/p>\n

Skre\u0107emo pa\u017enju na moralnu ravnodu\u0161nost koja je u osnovi svih ovih naizgled sofisticiranih misli. ChatGPT sa\u017eima standardne argumente iz literature, odbija da zauzme stav o bilo \u010demu, ne poziva se samo na neznanje ve\u0107 i na nedostatak inteligencije i na kraju iznosi odbranu da \u201esamo slu\u0161a nare\u0111enja\u201c prebacuju\u0107i odgovornost na svoje kreatore.<\/p>\n

Ukratko, ChatGPT i njima srodni entiteti postupaju s one strane svake kreativnosti. Oni ili preterano proizvode i istine i neistine, podjednako podr\u017eavaju eti\u010dke i neeti\u010dke odluke ili izbegavaju odluke i ravnodu\u0161ni su prema posledicama takvih stavova. S obzirom na amoralnost, pseudonau\u010dnost i lingvisti\u010dku svedenost ovih sistema, mo\u017eemo samo da ismevamo ili oplakujemo njihovu popularnost.<\/p>\n

Prevela Milica Jovanovi\u0107<\/p>\n

Pe\u0161\u010danik.net<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Pisanju ovog teksta su doprineli Ian Roberts, profesor lingvistike, i Jeffrey Watumull, direktor odeljenja za ve\u0161ta\u010dku inteligenciju u jednoj nau\u010dno-tehnolo\u0161koj kompaniji.<\/p>\n","protected":false},"author":1,"featured_media":288067,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[5,12],"tags":[930,2829,3267,931],"class_list":["post-368433","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-drugi-pisu","category-prica-dana","tag-ai","tag-chatgpt","tag-comski","tag-vjestacka-inteligencija"],"_links":{"self":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/368433","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/comments?post=368433"}],"version-history":[{"count":1,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/368433\/revisions"}],"predecessor-version":[{"id":368434,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/368433\/revisions\/368434"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media\/288067"}],"wp:attachment":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media?parent=368433"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/categories?post=368433"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/tags?post=368433"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}