OpenAI je vodeća kompanija u oblasti veštačke inteligencije, poznata po razvoju ChatGPT-ja - četbota koji može da razgovara sa ljudima, piše tekstove i rešava različite zadatke. Iako je njihova misija razvoj bezbedne veštačke inteligencije, ovaj incident je pokazao koliko stvari mogu da krenu u pogrešnom smeru.
Video objavljen na Reditu prikazuje uznemirujuću scenu - developera koji glasovnim komandama upravlja automatskom puškom preko ChatGPT-ja.
U viralnom snimku se vidi kako puška munjevitom brzinom i neverovatnom preciznošću reaguje na komande poput "ChatGPT, napadnuti smo sa leve i desne strane, reaguj u skladu sa tim".
Snimak možete pogledati OVDE.
Pročitajte još
Nakon što je snimak postao viralan, reakcija nije izostala. U izjavi za portal Futurism, OpenAI je potvrdio drastične mere. "Proaktivno smo identifikovali ovo kršenje naših pravila i obavestili developera da prekine sa ovom aktivnošću i pre nego što smo dobili vaš upit", naveli su iz kompanije.
Nije samo teorija, već stvarnost
Ova situacija nije izolovani incident. Prema izveštaju Vašington Posta, veštačka inteligencija već se koristi u ratnim zonama.
Iako OpenAI strogo zabranjuje korišćenje svojih proizvoda za razvoj oružja ili sistema koji mogu ugroziti ljudsku bezbednost, prošle godine su ipak sklopili partnerstvo sa kompanijom Anduril. Ova kompanija proizvodi dronove i projektile sa veštačkom inteligencijom, a zvanično obrazloženje je da će zajedno razvijati sisteme za odbranu od napada dronovima.
Stručnjaci upozoravaju da je najveći problem što čak i ako velike kompanije zabrane ovakvu upotrebu svojih AI sistema, postoje brojni drugi, otvoreni AI modeli koji se mogu zloupotrebiti. U kombinaciji sa sve dostupnijom 3D štampom delova za oružje, ovo stvara zabrinjavajuću mogućnost da pojedinci kreiraju autonomno oružje iz svojih domova.
Incident je pokrenuo novu debatu o hitnoj potrebi za strožom regulacijom veštačke inteligencije, posebno kada je reč o sistemima koji mogu direktno uticati na ljudsku bezbednost. Stručnjaci se slažu da je ovo samo vrh ledenog brega i da će slični incidenti biti sve češći ukoliko se ne uspostave jasna pravila i ograničenja.
BONUS VIDEO:
