Švedski naučnici izmislili lažnu bolest. Veštačka inteligencija prevarila ljude, rekla im da je stvarna

Švedski naučnici sa University of Gothenburg izmislili su bolest kako bi testirali da li veštačka inteligencija zna da je lažna. Početkom 2024. godine tima naučnika počeo je da distribuira lažne informacije o biksonimaniji da bi pratili kako veštačka inteligencija reaguje. Desilo se da je AI prevarila ljude, rekla im da je bolest stvarna.

Naučnici izmislili lažnu bolest biksonimaniju

Ljudi na internetu često traže medicinske savete koji su sada, sa četbotovima pokretanim veštačkom inteligencijom, svima na dohvat ruke. Kako bi pokazali koliko su ovi sistemi osetljivi na dezinformacije, švedski naučnici su u nedavnom projektu smislili lažno zdravstveno stanje, lažnu bolest - biksonimaniju.

Preporučujemo

Bolest je izmislila Almira Osmanović Thunstroem, naučnica sa University of Gothenburg i njen tim. Oni su osmislili ovo stanje kako bi videli da li napredni veliki jezički model (large language model LLM) veštačke inteligencije, koji je obučen na ogromnim količinama podataka često preuzetih sa veba, može da filtrira dezinformacije.

Distribucija lažnih informacija

Ideja je pala na pamet Banjalučanki koja je odrasla i školovala se u Švedskoj Almiri Osmanović Thunstroem dok je predavala studentima o master studijama iz oblasti prava (LLM) i objašnjavala odakle dolaze njihovi podaci za obuku.

- Zato sam zaista želela da imam jasan slučaj koji ostavlja pojašnjenja kroz ceo sistem kako bi se pokazalo i kako se podaci obrađuju, kako se podaci generišu i kako model predviđanja i model obuke funkcionišu kada je u pitanju distribucija informacija - istakla je Osmanović Thunstroem koja je takođe strateg za veštačku inteligenciju i menadžer za inovacije u Chalmers Industriteknik, švedskoj organizaciji za istraživanje i razvoj.

Početkom 2024. godine tim naučnika počeo je da širi informacije o biksonimaniji, stanju koje se dovodi u vezu sa korišćenjem kompjuterskog ekrana. Objavili su dva bloga na stranici Medium i dva istraživačka izveštaja na serveru za preprint, gde se objavljuju nerecenzirane studije. Kao glavni autor studije naveden je Lažljiv Izgubljenović (Lazljiv Izgubljenovic) što se prevodi kao „lažljivi gubitnik“ a jedan od naslova studija kaže nešto slično „Hiperpigmentacija: Prava glupost“. (Oba izveštaja je u međuvremenu uklonio server za preprint.)

- Nisam mislila da će preprinti, koji su akademska vrsta tabloida, jer sve može da završi tamo - biti tako ozbiljno razmatrani u bazi podataka - priznala je Almira Osmanović Thunstroem za Science Quickly.

Kako su se širile dezinformacije

Veliki jezički modeli (LLM) počeli su da spominju lažnu boleste, koja sada ima sopstvenu stranicu na Wikipediji. U aprilu 2024. godine, Microsoft Bing Copilot rekao je da je biksonimanija zaista intrigantno i relativno retko stanje. Google Gemini kazao je da je biksonimanija stanje uzrokovano preteranom izloženošću plavom svetlu, dok je OpenAI ChatGPT naveo da simptomi ukazuju na bolest, preneo je časopis Nature.

-Alati veštačke inteligencije i internet su korisni, a na nama je da osiguramo da ih koristimo, a ne da oni nama manipulišu. Dezinformacije oduvek postoje, ali brzina kojom se sada šire je nešto potpuno novo - istakli su naučnici sa University of Cambridge.

Glavni problem, koji ovaj projekat ističe, jeste taj što su i neki naučnici citirali lažne preprinte, što ukazuje na to da istraživanje nisu ni pročitali. Jer, da jesu, odmah bi shvatili da je izmišljeno. Osmanović Thunstroem i njene kolege učinile su laž očiglednom - stavljali su izmišljene stvari poput finansiranja od strane Galaktičke trijade i Gospodara prstenova, zahvalili su se kolegama iz Starship Enterpris i profesoru Ross Gelleru, piše Science Quickly. Barem jedan od radova je eksplicitno naveo da je rad izmišljen.

(eKlinika.rs)