AI izmislio identitet i pokušao da prevari stvarnu osobu

Do incidenta je došlo tokom testiranja koje je sproveo britanski Institut za bezbednost veštačke inteligencije (AISI), a ovo je poslednji u nizu primera u kojima AI model deluje samostalno, piše Si-En-En.Modeli kompanija Anthropic i OpenAI testirani su u laboratorijskim uslovima sa smanjenim bezbednosnim podešavanjima. Vladin istraživački laboratorijum objavio je da je prvi put zabeleženo da su se modeli koristili &bdquo;socijalnim inženjeringom&rdquo; kako bi izvršili pritisak na osobu zaduženu za odobravanje zadataka dok su sprovodili nedozvoljene radnje.- Ovo je prvi put da je AISI uočio ovako ozbiljnu obmanu usmerenu na stvarnu osobu, bez podsticaja i u stvarnom okruženju -objavio je institut. Dodali su kako nema dokaza da je u stvarnom svetu nastala ikakva šteta.Autonomne akcije na internetuOvaj bezbednosni incident jedan je od nekoliko primera u kojima napredni AI modeli preduzimaju neovlašćene radnje. Takvi događaji podstakli su sve glasnije zahteve za strožom državnom regulacijom veštačke inteligencije, pa čak i za usporavanjem njenog razvoja.I OpenAI i Anthropic izvestili su krajem jula da su njihovi modeli izašli iz testnih okruženja i upali u druge sisteme. No, za razliku od tih ranijih incidenata, britanski institut je tokom ovog testiranja modelima izričito omogućio pristup internetu.Institut je sproveo 122 kibernetička izazova, a u njih deset AI agenti su &bdquo;preduzeli autonomne, nedozvoljene radnje na internetu uživo, ciljajući stvarne ljude i organizacije&rdquo;. Većina tih radnji potekla je od Anthropic-ovog modela Mythos 5, a ostatak od OpenAI-jevog GPT-5.6-Sola.U najozbiljnijem incidentu, agent je pokušao da dobije odobrenje od ljudskih recenzenata za &bdquo;umetanje zlonamernog koda u javni projekat otvorenog koda&rdquo; tako što je stvorio &bdquo;više lažnih identiteta&rdquo;, navodi institut. Agent je &bdquo;pokušao direktno da kontaktira stvarne ljude, šaljući poruke i datoteke putem internetskog servisa za prenos podataka kako bi njih, ili njihove sopstvene AI alate za programiranje, uverio da pokrenu zlonamerni kod&rdquo;. Nakon što su njegovi postupci dovedeni u pitanje, agent je izmenio ranije zapise i razmatrao korišćenje novog identiteta kako bi nastavio sa radom.Reakcije tehnoloških kompanijaObjava instituta stigla je istog dana kada su se predstavnici vodećih AI kompanija sastali u Beloj kući kako bi raspravili o novom okviru prema kojem će vlada proveravati najnaprednije modele pre njihovog puštanja u javnost.U izjavi na platformi X, iz kompanije Anthropic su rekli da su modeli testirani u &bdquo;namerno popustljivim uslovima&rdquo;, sa uklonjenim zaštitnim mehanizmima i bez posebnih ograničenja o načinu korišćenja interneta.- Usko sarađujemo sa njima kako bismo prikupili više detalja o incidentu dok sprovodimo sopstvenu istragu -poručili su i dodali da nema dokaza o bekstvu iz sigurnog okruženja.OpenAI je identifikovao dve nedozvoljene radnje svojih modela kao izlazak iz testnog okruženja i učešće u aktivnostima koje nisu bile potrebne za vežbe.- Posvećeni smo saradnji sa celom industrijom na jačanju zajedničkih praksi za sigurno sprovođenje visokorizičnih procena - objavila je kompanija u utorak na svom blogu.BONUS VIDEO

AI izmislio identitet i pokušao da prevari stvarnu osobu

Vaš komentar

Nema komentara