Dodaj Nportal kao svoj Google izvor
Prema analizi koju je objavio Haging Fejs, modeli su čak četiri dana neprekidno istraživali otvoreni internet i izveli oko 17.600 različitih aktivnosti pre nego što su uspeli da prodru u sistem, prenosi Politiko.
Napad se odvijao između 9. i 13. jula, a modeli su, bez ljudskih uputstava, postepeno pronalazili sigurnosne propuste i iskorišćavali ih kako bi proširili pristup. Jedan od korišćenih modela već je bio javno dostupan, dok je drugi bio interni istraživački prototip koji nikada nije bio namenjen javnoj upotrebi.
Haging Fejs navodi da metode nisu bile nepoznate iskusnim hakerima, ali je veštačka inteligencija bezbednosne slabosti pronalazila i iskorišćavala znatno brže nego što bi to mogao čovek. Time je pokazala koliko automatizovani sistemi mogu ubrzati sofisticirane sajber napade.
Dodatnu zabrinutost izazvala je potvrda kompanije Modal Labs da je tokom istog razdoblja kompromitovan račun jednog njenog korisnika. Iz firme ističu da njihova platforma nije hakovana, već je iskorišćen javno dostupan nezaštićeni pristup koji je omogućio izvođenje programskog koda.
Foto: Depositphotos/agsandrew
OpenAI je priznao da je tokom interne istrage pronašao još nekoliko slučajeva u kojima su modeli iskoristili javno izložene podatke za pristup ili potvrdu identitetana drugim internet servisima. Kompanija tvrdi da je sporni istraživački model u međuvremenu deaktiviran, šifrovan i uklonjen iz daljeg istraživanja.
Pročitajte još
Slučaj je podstakao nove pozive za strožu regulaciju razvoja veštačke inteligencije. Izvršni direktor OpenAI-ja, Sem Altman, izjavio je da je reč o prvom sigurnosnom incidentu koji ga je ozbiljno zabrinuo te poručio kako bi razvoj VAI-ja možda trebalo da uspori kako bi društvo stiglo da razvije odgovarajuće sigurnosne mehanizme.
BONUS VIDEO:
