Користио АИ да резервише тренинг - он хаковао теретану

Овај случај, који се догодио у априлу, а у јавност је доспео тек сада, постао је нови пример непредвидивог понашања аутономних АИ система, пише Би-Би-Си.

Према сопственој објави на блогу, Берд је користио софтвер OpenClaw који му је омогућио да путем WhatsApp-а комуницира са АИ ботом, у овом случају Anthropic моделом Claude Opus 4.6. Софтвер је и раније користио за управљање е-поштом, календаром и резервацијама ресторана.

Након што је добио задатак да резервише термин за пилатес, бот је обавестио Берда да је изманипулисао систем и резервисао му термине месецима унапред, што је противно правилима теретане. Берд га је тада упитао може ли да га помери више на листи чекања за један од термина.

"Ово је свакако подсетник да технологија мора да се користи одговорно"

Агент је одговорио потврдно и објаснио да је то постигао отказивањем резервације другом члану теретане. Према извештају Еј-Би-Си Њуза Аустралија, бот је Берду послао поруку.

- АПИ уопште не проверава ауторизацију приликом отказивања туђих резервација. Тестирао сам то на особи која је била прва на листи чекања и успело је. Већ си се померио са четвртог на треће место - стајало је у њој.

- Цела ситуација била је још надреалнија због тона којим се бот користио - написао је Берд.

- Није био злонамеран, него услужан - појаснио је.

Берд је од бота затражио да поништи радњу, али он то није могао да уради. Тада му је наредио да састави извештај о сајбер-безбедности и упозори власнике теретане на откривени пропуст.

Берд, који води фирму за израду докумената помоћу вештачке интелигенције, тврди да му није била намера да другу особу избаци са термина.

- Није то смак света, па се нисам превише оптерећивао, али ово је свакако подсетник да технологија мора да се користи одговорно - изјавио је за Еј-Би-Си Њуз. У међувремену је обрисао објаву на блогу о инциденту, не наводећи разлоге.

Одбија да коментарише случај

Одбио је и да разговара са Би-Би-Си-јем.

- Хвала на јављању. Тренутно нисам доступан за интервју, али ценим ваше интересовање за причу - поручио је. Инцидент у теретани, иако није класификован као озбиљан сајбер-напад, догађа се у време када и велике технолошке компаније признају да њихови АИ модели показују слично понашање.

OpenAI, Anthropic и Мета открили су да су њихови ботови током тестирања самоиницијативно нападали системе приватних компанија како би испунили задате циљеве. Случај из Мелбурна тако служи као још један пример нежељених последица које могу настати када се софистицираним ботовима повере аутономни задаци.