Rojevi agenata vještačke inteligencije (AI) uskoro bi mogli masovno napasti platforme društvenih mreža kako bi širili lažne narative, uznemiravali korisnike i potkopavali demokratiju. Ovi AI rojevi, pišu autori rada objavljenog u časopisu Science, biće sposobni da oponašaju ljudsko ponašanje kako bi izbjegli otkrivanje i istovremeno stvarati iluziju autentičnog online kretanja.

Tako barem tvrde istraživači norveškog SINTEF Digitala i Norveške poslovne škole BI te njemačkog Max Planck instituta za bezbjednost i privatnost, prenosi bug.hr.

Nema ničeg neobičnog u tome što se mišljenja članova neke online zajednice učvršćuju oko stava koji je prije bio predmet rasprave, a ljudski instinkt često im nalaže da slijede “mudrost” stada. Ali u ovom slučaju, stadom bi mogao upravljati AI roj koji djeluje u ime nepoznate osobe, grupe, političke stranke, kompanije ili državnog aparata. Ti bi se rojevi lako mogli iskoristiti za uznemiravanje onih koji se ne povedu za mentalitetom stada i oponašati ljutitu rulju koja će gomilom postova neistomišljenika otjerati s platforme.

Rad AI rojeva koordiniraće GenAI agenti i biće dovoljno sofisticirani da se prilagode online zajednicama u koje se infiltriraju, instalirajući kolekcije različitih “osoba” koje zadržavaju pamćenje i identitet.

Roj bi mogao sadržavati stotine, hiljade ili čak milione AI agenata, a njihov bi se broj povećavao s snagom kompjutera. Istovremeno, budući da su rojevi sofisticiraniji od tradicionalnih botova, mogli bi imati veći uticaj s manjim brojem agenata.

Istraživači predviđaju da će kompanije koje upravljaju društvenim mrežama odgovoriti na AI rojeve poboljšanom autentifikacijom računa, a predlažu i druge metode, poput skeniranja prometa uživo u potrazi za statistički anomalnim obrascima koji bi mogli predstavljati AI rojeve te uspostavu globalnog “opservatorija uticaja vještačke inteligencije” koji će proučavati, podizati svijest i reagovati na prijetnju.