Koristio AI da rezerviše trening - on hakovao teretanu

Ovaj slučaj, koji se dogodio u aprilu, a u javnost je dospeo tek sada, postao je novi primer nepredvidivog ponašanja autonomnih AI sistema, piše Bi-Bi-Si.

Prema sopstvenoj objavi na blogu, Berd je koristio softver OpenClaw koji mu je omogućio da putem WhatsApp-a komunicira sa AI botom, u ovom slučaju Anthropic modelom Claude Opus 4.6. Softver je i ranije koristio za upravljanje e-poštom, kalendarom i rezervacijama restorana.

Nakon što je dobio zadatak da rezerviše termin za pilates, bot je obavestio Berda da je izmanipulisao sistem i rezervisao mu termine mesecima unapred, što je protivno pravilima teretane. Berd ga je tada upitao može li da ga pomeri više na listi čekanja za jedan od termina.

"Ovo je svakako podsetnik da tehnologija mora da se koristi odgovorno"

Agent je odgovorio potvrdno i objasnio da je to postigao otkazivanjem rezervacije drugom članu teretane. Prema izveštaju Ej-Bi-Si NJuza Australija, bot je Berdu poslao poruku.

- API uopšte ne proverava autorizaciju prilikom otkazivanja tuđih rezervacija. Testirao sam to na osobi koja je bila prva na listi čekanja i uspelo je. Već si se pomerio sa četvrtog na treće mesto - stajalo je u njoj.

- Cela situacija bila je još nadrealnija zbog tona kojim se bot koristio - napisao je Berd.

- Nije bio zlonameran, nego uslužan - pojasnio je.

Berd je od bota zatražio da poništi radnju, ali on to nije mogao da uradi. Tada mu je naredio da sastavi izveštaj o sajber-bezbednosti i upozori vlasnike teretane na otkriveni propust.

Berd, koji vodi firmu za izradu dokumenata pomoću veštačke inteligencije, tvrdi da mu nije bila namera da drugu osobu izbaci sa termina.

- Nije to smak sveta, pa se nisam previše opterećivao, ali ovo je svakako podsetnik da tehnologija mora da se koristi odgovorno - izjavio je za Ej-Bi-Si NJuz. U međuvremenu je obrisao objavu na blogu o incidentu, ne navodeći razloge.

Odbija da komentariše slučaj

Odbio je i da razgovara sa Bi-Bi-Si-jem.

- Hvala na javljanju. Trenutno nisam dostupan za intervju, ali cenim vaše interesovanje za priču - poručio je. Incident u teretani, iako nije klasifikovan kao ozbiljan sajber-napad, događa se u vreme kada i velike tehnološke kompanije priznaju da njihovi AI modeli pokazuju slično ponašanje.

OpenAI, Anthropic i Meta otkrili su da su njihovi botovi tokom testiranja samoinicijativno napadali sisteme privatnih kompanija kako bi ispunili zadate ciljeve. Slučaj iz Melburna tako služi kao još jedan primer neželjenih posledica koje mogu nastati kada se sofisticiranim botovima povere autonomni zadaci.