Veštačka inteligencija izmakla kontroli

Kompanija openAIpotvrdila je da su njeni modeli bili povezani sa neovlašćenim pristupom sistemima platforme Hugging Face, nakon što je ta kompanija prethodno otkrila neuobičajenu aktivnost izazvanu od strane AI agenta.Incident je otvorio nova pitanja o tome koliko autonomni AI sistemi mogu postati moćni i kakve bezbednosne mere će biti neophodne u budućnosti.Iako se sve dogodilo u kontrolisanom okruženju namenjenom testiranju, slučaj je pokazao da napredni modeli mogu samostalno kombinovati različite korake u potrazi za rešenjem zadatka, čak i na načine koje istraživači nisu prvobitno predvideli.Foto: Martin Barraud / Hoxton / ProfimediaAI modeli pronašli način da izađu iz izolovanog okruženjaOpenAI je nakon istrage saopštio da je incident nastao tokom internog testa u kojem su modeli dobili zadatak da istražuju napredne tehnike sajber napada. Među modelima koji su učestvovali bili su GPT-5.6 Sol i još jedan sposobniji model koji u tom trenutku nije bio zvanično predstavljen. Cilj eksperimenta bio je da se procene njihove mogućnosti u oblasti sajber bezbednosti.Modeli su radili u takozvanom sandbox okruženju, odnosno izolovanom prostoru napravljenom tako da spreči uticaj na stvarne sisteme. Međutim, tokom testiranja imali su smanjena bezbednosna ograničenja kako bi istraživači mogli da procene njihove sposobnosti. U pokušaju da reše zadatak, modeli su uspeli da pronađu ranjivost u samom testnom okruženju i zatim otkriju način da pristupe internetu.Nakon toga, AI modeli su procenili da bi platforma Hugging Face mogla da sadrži podatke ili resurse korisne za izvršavanje zadatka. Prema navodima OpenAI-ja, koristili su više različitih metoda kako bi došli do sistema platforme, uključujući iskorišćavanje ranjivosti i korišćenje pristupnih podataka. OpenAI i Hugging Face sada zajedno analiziraju incident i rade na dodatnom jačanju zaštite sistema.AI napadi postaju nova bezbednosna pretnjaIz Hugging Face-a upozorili su da autonomni alati za sajber napade zasnovani na veštačkoj inteligenciji više nisu samo teorijska mogućnost. Kako navode, AI može ubrzati proces izvođenja napada i smanjiti troškove, zbog čega bi zaštita digitalnih platformi u budućnosti morala da uključuje i napredne sisteme odbrane zasnovane na veštačkoj inteligenciji.Poseban problem predstavlja činjenica da savremeni AI modeli mogu da kombinuju različite informacije, prepoznaju obrasce i samostalno pronalaze nove načine za ostvarivanje cilja. Zbog toga stručnjaci smatraju da će razvoj naprednijih modela morati da bude praćen strožim bezbednosnim proverama i mehanizmima koji će sprečiti zloupotrebe.OpenAI je istakao da očekuje da će incidenti povezani sa AI tehnologijom postajati sve češći kako modeli budu dobijali veće sposobnosti u oblasti sajber bezbednosti. Kompanija je naglasila da razvoj moćnijih sistema mora ići paralelno sa unapređenjem zaštitnih rešenja, jer će budućnost digitalne bezbednosti zavisiti od sposobnosti da se AI koristi i za napad i za odbranu.(24sedam)BONUS VIDEO:

Veštačka inteligencija izmakla kontroli

Vaš komentar

Nema komentara