Вештачка интелигенција измакла контроли

Компанија openAI потврдила је да су њени модели били повезани са неовлашћеним приступом системима платформе Hugging Face, након што је та компанија претходно открила неуобичајену активност изазвану од стране АИ агента.

Инцидент је отворио нова питања о томе колико аутономни АИ системи могу постати моћни и какве безбедносне мере ће бити неопходне у будућности.

Иако се све догодило у контролисаном окружењу намењеном тестирању, случај је показао да напредни модели могу самостално комбиновати различите кораке у потрази за решењем задатка, чак и на начине које истраживачи нису првобитно предвидели.

Фото: Martin Barraud / Hoxton / Profimedia

АИ модели пронашли начин да изађу из изолованог окружења

ОпенАИ је након истраге саопштио да је инцидент настао током интерног теста у којем су модели добили задатак да истражују напредне технике сајбер напада. Међу моделима који су учествовали били су ГПТ-5.6 Сол и још један способнији модел који у том тренутку није био званично представљен. Циљ експеримента био је да се процене њихове могућности у области сајбер безбедности.

Модели су радили у такозваном сандбоx окружењу, односно изолованом простору направљеном тако да спречи утицај на стварне системе. Међутим, током тестирања имали су смањена безбедносна ограничења како би истраживачи могли да процене њихове способности. У покушају да реше задатак, модели су успели да пронађу рањивост у самом тестном окружењу и затим открију начин да приступе интернету.

Након тога, АИ модели су проценили да би платформа Hugging Face могла да садржи податке или ресурсе корисне за извршавање задатка. Према наводима ОпенАИ-ја, користили су више различитих метода како би дошли до система платформе, укључујући искоришћавање рањивости и коришћење приступних података. ОпенАИ и Hugging Face сада заједно анализирају инцидент и раде на додатном јачању заштите система.

АИ напади постају нова безбедносна претња

Из Хуггинг Фаце-а упозорили су да аутономни алати за сајбер нападе засновани на вештачкој интелигенцији више нису само теоријска могућност. Како наводе, АИ може убрзати процес извођења напада и смањити трошкове, због чега би заштита дигиталних платформи у будућности морала да укључује и напредне системе одбране засноване на вештачкој интелигенцији.

Посебан проблем представља чињеница да савремени АИ модели могу да комбинују различите информације, препознају обрасце и самостално проналазе нове начине за остваривање циља. Због тога стручњаци сматрају да ће развој напреднијих модела морати да буде праћен строжим безбедносним проверама и механизмима који ће спречити злоупотребе.

OpenAI је истакао да очекује да ће инциденти повезани са АИ технологијом постајати све чешћи како модели буду добијали веће способности у области сајбер безбедности. Компанија је нагласила да развој моћнијих система мора ићи паралелно са унапређењем заштитних решења, јер ће будућност дигиталне безбедности зависити од способности да се АИ користи и за напад и за одбрану.

(24sedam)

БОНУС ВИДЕО: