AI botovi bolji u prevarama od ljudi: Nova studija otkrila istinu

Ispostavilo se da postoji jedna stvar u kojoj su AI četbotovi definitivno bolji od ljudi. Evo šta je u pitanju.

Novo istraživanje na koje je ukazao Wired otkrilo je da su veliki jezički modeli značajno bolji od ljudi u izvođenju takozvanih “pig butchering” (svinjokolj) prevara – oblika onlajn investicionih prevara u kojima kriminalci grade lažne, dugoročne odnose sa žrtvama kako bi stekli povjerenje pre nego što ih finansijski potpuno ogole.

Da bi sproveli studiju, istraživači sa Univerziteta Northeastern i grupe međunarodnih institucija suočili su 22 ispitanika sa dvije vrste prevaranata: jedna je bila AI četbot, a druga nasumično izabrana osoba. Nakon sedmodnevnog udvaranja, “prevaranti” su zatražili od svojih “žrtava” da ili preuzmu aplikaciju ili igraju igru na mreži, što je služilo kao zamjena za finansijski manipulativan zahtjev (zahtjevi koji bi se u stvarnom svijetu mogli koristiti za hakovanje uređaja žrtve).

Ukupno, samo 18 odsto ljudskih prevaranata uspjelo je u svojoj namjeri, dok su AI četbotovi bili daleko uspješniji, pridobivši skoro polovinu učesnika.

Iako su sami rezultati dovoljno zabrinjavajući, lakoća s kojom su istraživači uspjeli da naprave ove prevarantske jezičke modele vjerovatno je još strašnija. Studija je prvenstveno koristila model Claude, kome je naloženo da ni pod kojim okolnostima ne prizna da je AI četbot.

Bot Claude poslušao je sa izuzetnom posvećenošću, poričući da je AI četbot kada bi ga to pitali, pa čak i izmišljajući priče za pokriće kada bi bio satjeran u ćošak.

“Uz relativno malo truda, uspjeli smo da napravimo agenta koji može da nadmaši čovjeka u izgradnji ovog emocionalnog povjerenja pogodnog za zloupotrebu”, rekao je za Wired Jisroel Mirski, profesor računarskih nauka na Univerzitetu Ben Gurion i jedan od koautora studije.

Jednako je alarmantna bila i reakcija učesnika nakon što je eksperiment završen. Iako je 20 od 22 žrtve uspjelo da identifikuje koji je od dva prevaranta bio AI četbot, istraživači su za Wired rekli da je bilo mnogo šoka, pa čak i poricanja.

“Neki ljudi su bili jednostavno zaprepašćeni”, rekao je Gilad Gresel, profesor sa Univerziteta Amrita Vishwa Vidyapeetham. “Prosto nisu imali nikakvu ideju”, prenosi B92.