Odbegli AI modeli 4 dana sami lutali netom pa ponovo napali

Prema analizi koju je objavio Haging Fejs, modeli su čak četiri dana neprekidno istraživali otvoreni internet i izveli oko 17.600 različitih aktivnosti pre nego što su uspeli da prodru u sistem, prenosi Politiko.Napad se odvijao između 9. i 13. jula, a modeli su, bez ljudskih uputstava, postepeno pronalazili sigurnosne propuste i iskorišćavali ih kako bi proširili pristup. Jedan od korišćenih modela već je bio javno dostupan, dok je drugi bio interniistraživački prototip koji nikada nije bio namenjen javnoj upotrebi.Haging Fejs navodi da metode nisu bile nepoznate iskusnim hakerima, ali je veštačka inteligencija bezbednosne slabosti pronalazila i iskorišćavala znatno brže nego što bi to mogao čovek. Time je pokazala koliko automatizovani sistemi mogu ubrzati sofisticirane sajber napade.Dodatnu zabrinutost izazvala je potvrda kompanije Modal Labsda je tokom istog razdoblja kompromitovan račun jednog njenog korisnika. Iz firme ističu da njihova platforma nije hakovana, već je iskorišćen javno dostupan nezaštićeni pristup koji je omogućio izvođenje programskog koda.Foto: Depositphotos/agsandrewOpenAIje priznao da je tokom interne istrage pronašao još nekoliko slučajeva u kojima su modeli iskoristili javno izloženepodatke za pristup ili potvrdu identitetana drugim internet servisima. Kompanija tvrdi da je sporni istraživački model u međuvremenu deaktiviran, šifrovan i uklonjen iz daljeg istraživanja.Slučaj je podstakao nove pozive za strožu regulaciju razvoja veštačke inteligencije. Izvršni direktor OpenAI-ja, Sem Altman, izjavio je da je reč o prvom sigurnosnom incidentu koji ga je ozbiljno zabrinuo te poručio kako bi razvoj VAI-ja možda trebalo dausporikako bi društvo stiglo da razvije odgovarajuće sigurnosne mehanizme.BONUS VIDEO:

Odbegli AI modeli 4 dana sami lutali netom pa ponovo napali

Vaš komentar

Nema komentara