Одбегли АИ модели 4 дана сами лутали нетом па поново напали

Према анализи коју је објавио Хагинг Фејс, модели су чак четири дана непрекидно истраживали отворени интернет и извели око 17.600 различитих активности пре него што су успели да продру у систем, преноси Политико.

Напад се одвијао између 9. и 13. јула, а модели су, без људских упутстава, постепено проналазили сигурносне пропусте и искоришћавали их како би проширили приступ. Један од коришћених модела већ је био јавно доступан, док је други био интерни истраживачки прототип који никада није био намењен јавној употреби.

Хагинг Фејс наводи да методе нису биле непознате искусним хакерима, али је вештачка интелигенција безбедносне слабости проналазила и искоришћавала знатно брже него што би то могао човек. Тиме је показала колико аутоматизовани системи могу убрзати софистициране сајбер нападе.

Додатну забринутост изазвала је потврда компаније Modal Labs да је током истог раздобља компромитован рачун једног њеног корисника. Из фирме истичу да њихова платформа није хакована, већ је искоришћен јавно доступан незаштићени приступ који је омогућио извођење програмског кода.

OpenAI је признао да је током интерне истраге пронашао још неколико случајева у којима су модели искористили јавно изложене податке за приступ или потврду идентитетана другим интернет сервисима. Компанија тврди да је спорни истраживачки модел у међувремену деактивиран, шифрован и уклоњен из даљег истраживања.

Случај је подстакао нове позиве за строжу регулацију развоја вештачке интелигенције. Извршни директор OpenAI-ја, Сем Алтман, изјавио је да је реч о првом сигурносном инциденту који га је озбиљно забринуо те поручио како би развој ВАИ-ја можда требало да успори како би друштво стигло да развије одговарајуће сигурносне механизме.