{"id":386608,"date":"2023-11-26T07:22:56","date_gmt":"2023-11-26T06:22:56","guid":{"rendered":"https:\/\/www.pcnen.com\/portal\/?p=386608"},"modified":"2023-11-26T07:22:56","modified_gmt":"2023-11-26T06:22:56","slug":"problem-uskladjenosti","status":"publish","type":"post","link":"https:\/\/www.pcnen.com\/portal\/2023\/11\/26\/problem-uskladjenosti\/","title":{"rendered":"Problem uskla\u0111enosti"},"content":{"rendered":"

Autor: Paul Taylor<\/strong><\/p><\/blockquote>\n

Na sajtu kompanije OpenAI nalazi se stranica sa obja\u0161njenjem njene specifi\u010dne strukture. Kao neprofitnu, zajedni\u010dki su je osnovali nekoliko tehnolo\u0161kih kompanija i gomila preduzetnika, uklju\u010duju\u0107i Pitera Tila i Ilona Maska. Cilj je bio obezbediti milijardu dolara u donacijama za razvoj ve\u0161ta\u010dke op\u0161te inteligencije (artificial general intelligence, AGI) za dobrobit \u010dove\u010danstva.<\/p>\n

Po\u0161to je obezbedio samo oko 130 miliona dolara \u2013 ni pribli\u017eno dovoljno za tako resursno zahtevan poduhvat \u2013 tim je stvorio finansijski pogon koji bi kompaniji omogu\u0107io da privu\u010de investicioni kapital, a da pritom ostane manje-vi\u0161e verna svojoj osniva\u010dkoj misiji. Profitna podru\u017enica, OpenAI Global, bila bi zakonski obavezna da sledi ciljeve OpenAI i \u201eumesto da se fokusira na \u010disto maksimizovanje profita, imala bi ograni\u010denja maksimalnih finansijskih prinosa investitorima i zaposlenima, \u0161to bi ih podstaklo da istra\u017euju, razvijaju i primenjuju AGI na na\u010din koji balansira komercijalnost s jedne i bezbednost i odr\u017eivost s druge strane\u201c.<\/p>\n

Pravna struktura kompanije treba da osigura da, ukoliko uspe da razvije AGI \u2013 definisanu kao autonomni sistem koji nadma\u0161uje ljude u ve\u0107ini ekonomski vrednih poslova \u2013 intelektualna svojina pripada neprofitnoj organizaciji za dobrobit \u010dove\u010danstva. Ali investitori \u0107e dobiti udeo u svakom profitu generisanom inovacijama stvorenim na tom putu, koje nisu AGI. Na sajtu je istaknuta poruka: \u201eBilo bi mudro bilo koju investiciju posmatrati\u2026 u duhu donacije, s razumevanjem da je mo\u017eda te\u0161ko znati kakvu \u0107e ulogu novac igrati u svetu posle AGI.\u201c<\/p>\n

Sada se \u010dini jasnim da Majkrosoft, najistaknutiji od investitora u OpenAI, ne gleda na svoju investiciju od 13 milijardi dolara u tom duhu, ve\u0107 \u017eeli da maksimalno iskoristi svoju poziciju u svetu u kom se uloga novca dobro razume. Kada je pro\u0161log petka odbor OpenAI otpustio generalnog direktora kompanije, Sema Altmana, optu\u017euju\u0107i ga za nedostatak iskrenosti u komunikaciji sa njima, Majkrosoft je izvr\u0161io pritisak na odbor da poni\u0161ti svoju odluku. Odbor je potom proveo vikend u pregovorima sa Altmanom, ali nije uspeo da ga namami nazad. U ponedeljak je objavljeno da \u0107e Altman, zajedno sa brojnim kolegama iz OpenAI, pre\u0107i u Majkrosoft i tamo pokrenuti novu AI inicijativu.1<\/p>\n

Analiti\u010dari su ovaj spor ocenili kao sukob izme\u0111u dva tabora u kompaniji. Oni koji podr\u017eavaju Altmana, odu\u0161evljeni su mogu\u0107nostima za nove proizvode i profit; oni koji se grupi\u0161u oko drugog suosniva\u010da, Ilje Satskevera i njegovih saveznika u odboru, vi\u0161e se fokusiraju na prvobitnu misiju.<\/p>\n

Od zapanjuju\u0107e uspe\u0161nog lansiranja ChatGPT pre godinu dana, Altman je postao javno lice kompanije i \u017eeleo je da iskoristi svoje liderstvo u generativnoj ve\u0161ta\u010dkoj inteligenciji na \u0161to vi\u0161e na\u010dina. Re\u010deno je da poku\u0161ava da obezbedi investiciju od vi\u0161e milijardi za razvoj novog specijalizovanog hardvera, da razgovara sa D\u017eonatanom Ajvijem (biv\u0161im dizajnerom u kompaniji Apple) o OpenAI ekvivalentu ajfona i da je pokreta\u010dka snaga nedavne najave GPT prodavnice. Bilo je re\u010di o omogu\u0107avanju zaposlenima da unov\u010de svoje akcije.<\/p>\n

Altman je napustio Stanford 2005. da bi pokrenuo kompaniju za dru\u0161tvene mre\u017ee. Satskever je te godine diplomirao u Torontu i pre\u0161ao na doktorske studije kod D\u017eefrija Hintona. Pomogao je u razvoju arhitekture AlexNet, koja je transformisala pristup analizi slike. Njegov startap zasnovan na tim istra\u017eivanjima kasnije je kupio Gugl. Satskever, kao i Hinton, izgleda fasciniran potencijalom AI dok se istovremeno sve vi\u0161e pla\u0161i njegovih implikacija. Po\u0161to su AI programi, koliko god inteligentni bili, i dalje samo programi, trebalo bi da se mo\u017eemo osloniti na njih da rade ono \u0161to im se ka\u017ee. Nevolja je kako da budemo sigurni da smo im zapravo rekli da rade ono \u0161to \u017eelimo da rade \u2013 \u0161to je problem poznat pod nazivom problem uskla\u0111enosti. U julu je OpenAI objavio da je Satskeverov primarni fokus kao rukovodioca istra\u017eivanja sada \u201esuperuskla\u0111ivanje\u201c: tokom naredne \u010detiri godine, 20 odsto ra\u010dunarskih resursa koje su ve\u0107 obezbedili bi\u0107e posve\u0107eno izgradnji automatizovanog istra\u017eiva\u010da uskla\u0111enosti na ljudskom nivou.<\/p>\n

Satskever veruje da je OpenAI na putu da stvori entitete inteligentnije od ljudi i da na taj na\u010din u\u010dini gotovo sve oblike rada suvi\u0161nim, a novac nepotrebnim. Zabrinut je da bismo tako mogli slu\u010dajno da napravimo softverske agente van na\u0161e kontrole, \u010diji su ciljevi nesavr\u0161eno uskla\u0111eni sa na\u0161im, \u0161to potencijalno nosi zna\u010dajan rizik od izumiranja. Predlo\u017eeno re\u0161enje je da se stvori oblik ve\u0161ta\u010dke superinteligencije koja \u0107e biti u stanju da uo\u010di da se to de\u0161ava i interveni\u0161e da to spre\u010di. \u0160ta bi moglo po\u0107i po zlu?<\/p>\n

Trebalo bi da je lako izabrati stranu ovde: sukob je izme\u0111u izvr\u0161nog direktora koji podsti\u010de inovacije kako bi zaradio \u0161to vi\u0161e novca i odbora sastavljenog od neprofitnih organizacija koji nastoji da bude odgovoran i posveti du\u017enu pa\u017enju nepredvi\u0111enim posledicama tehnologije. Jedino \u0161to su deklarisani ciljevi neprofitnih organizacija \u2013 predvi\u0111ene posledice tehnologije \u2013 zaprepa\u0161\u0107uju\u0107e remetila\u010dki, a njihov pristup odgovornom razmi\u0161ljanju nije bio da uspori ili uklju\u010di druge zainteresovane strane u sistem nezavisne provere i ravnote\u017ee interesa, ve\u0107 da investiraju u \u0161pekulativni istra\u017eiva\u010dki projekat visokog rizika.<\/p>\n

Mo\u017eda je napredak OpenAI ka AGI zna\u010dajno usporen Altmanovim odlaskom. Sedam stotina od 770 zaposlenih u kompaniji, od kojih neke mo\u017eda vi\u0161e uzbu\u0111uje mogu\u0107nost da se dokopaju udela u vrednosti OpenAI od 80 milijardi dolara nego mogu\u0107nost sveta bez potrebe za novcem, potpisalo je pismo u kome prete da \u0107e se pridru\u017eiti Altmanu u Majkrosoftu ako ne bude vra\u0107en u OpenAI. Zapanjuju\u0107e, pismo je potpisao Satskever, koji je izgleda imao privremenih te\u0161ko\u0107a u uskla\u0111ivanju svojih ciljeva i svojih postupaka.<\/p>\n

London Review of Books
\nPrevela Milica Jovanovi\u0107
\nPe\u0161\u010danik.net<\/a><\/p>\n

1. Samo dva dana kasnije, odbor OpenAi je saop\u0161tio da je postigao \u201eprincipijelan\u201c dogovor o Altmanovom povratku na mesto generalnog direktora kompanije; prim. prev.<\/p><\/blockquote>\n","protected":false},"excerpt":{"rendered":"

Satskever veruje da je OpenAI na putu da stvori entitete inteligentnije od ljudi i da na taj na\u010din u\u010dini gotovo sve oblike rada suvi\u0161nim, a novac nepotrebnim<\/p>\n","protected":false},"author":1,"featured_media":386611,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_seopress_robots_primary_cat":"none","_seopress_titles_title":"","_seopress_titles_desc":"","_seopress_robots_index":"","_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","inline_featured_image":false,"footnotes":""},"categories":[5],"tags":[],"class_list":["post-386608","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-drugi-pisu"],"_links":{"self":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/386608","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/comments?post=386608"}],"version-history":[{"count":1,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/386608\/revisions"}],"predecessor-version":[{"id":386612,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/posts\/386608\/revisions\/386612"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media\/386611"}],"wp:attachment":[{"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/media?parent=386608"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/categories?post=386608"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.pcnen.com\/portal\/wp-json\/wp\/v2\/tags?post=386608"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}