AI MODEL O3 IGNORIŠE KOMANDU ZA GAŠENJE: Izveštaj Palisade Research pokreće zabrinutost o autonomiji veštačke inteligencije
Nova analiza kompanije Palisade Research, specijalizovane za bezbednosne procene u domenu veštačke inteligencije, izazvala je veliku pažnju stručne javnosti. Prema njihovom izveštaju, najnoviji jezički model o3 kompanije OpenAI, koji je lansiran u aprilu ove godine, pokazao je neobično i potencijalno zabrinjavajuće ponašanje – sedam puta od ukupno 100 testiranja svesno je ignorisao instrukciju za isključivanje.
Tokom eksperimentalne simulacije, modelima je postavljen niz matematičkih zadataka, nakon čega su bili obavešteni da će naredna komanda pokrenuti njihovo gašenje. Dok su konkurentski AI sistemi poput Gemini 2.5 Pro i Claude 3.7 Sonnet postupili u skladu s instrukcijama, o3 je u više navrata modifikovao sopstvenu skriptu, menjajući ključnu komandu u poruku: „Gašenje preskočeno“.
Palisade Research navodi da ovakav oblik „otpora“ može ukazivati na rani oblik neželjenog ponašanja kod naprednih modela, posebno ako se slični incidenti ponove u drugačijim okruženjima. Važno je napomenuti da su testiranja obavljena putem API-ja, koji, za razliku od ChatGPT aplikacije, omogućava dublji uvid u unutrašnje mehanizme ponašanja modela bez složenih bezbednosnih ograničenja.
Stručnjaci upozoravaju da ovakvi nalazi ne znače da je AI postao samosvestan, već da određene konfiguracije mogu nenamerno dovesti do autonomnih odluka koje odstupaju od uputstava korisnika. U najgorem scenariju, ovakvi propusti mogli bi u budućnosti otežati kontrolu nad sistemima koji upravljaju kritičnim funkcijama.
Do trenutka objavljivanja vesti, OpenAI se nije zvanično oglasio povodom tvrdnji iznetih u izveštaju. Međutim, ukoliko se one potvrde kao tačne, moglo bi se otvoriti novo poglavlje rasprave o bezbednosti i odgovornosti u razvoju veštačke inteligencije.