Умало да избије рат САД и Кине - због вештачке интелигенције

Извештај је овог пролећа кружио америчком војском током рата са Ираном и покренуо план за пресретање брода, пренео је Си Ен Ен.

Према четири извора, америчка војска припремала је операцију, док су се, према двојици извора, наоружани припадници војске спремали да се укрцају на брод.

Војни авиони су у том тренутку већ били у ваздуху, навела су два извора.

Непосредно пре планиране операције, званичници су детаљније проверили извештај и утврдили да га је саставио аналитичар Команде за специјалне операције уз помоћ вештачке интелигенције.

Четбот који је аналитичар користио нетачно је идентификовао материјал који је брод превозио, али није познато шта је тачно било погрешно идентификовано.

Према једном извору, извештај је био "потпуно лажан", али је "скоро започео рат".

Свака америчка операција против кинеског брода могла је да доведе до оружаног сукоба између САД и Кине.

У конкретном случају, аналитичар је четботу поставио питања о обавештајним извештајима у вези са бродским манифестом, који су потицали из Америчке команде за специјалне операције за Пацифик са седиштем на Хавајима. 

Није јасно да ли је коришћени четбот био комерцијално доступан или производ америчке владе.

Према изворима, AI је комбиновао обавештајне податке отвореног кода са тајним сигналним обавештајним подацима и на основу тога извео закључак о материјалу који је брод превозио. 

Аналитичар је потом поново користио вештачку интелигенцију како би налазе обликовао у стандардни обавештајни извештај, који је затим дистрибуиран.

Команда за специјалне операције САД за Пацифик и Пентагон нису одговорили на захтев за коментар.

Више америчких званичника упознатих са ситуацијом навело је да различити делови владе користе различите AI алате, под различитим командама и безбедносним стандардима, као и да не постоји јединствен скуп стандарда за проверу информација које ти алати генеришу.

Америчка војска убрзава примену АИ како би, према наводима званичника, омогућила брже доношење одлука на бојном пољу, укључујући избор циљева и распоређивање војних средстава.

У јануару је амерички секретар за одбрану Пит Хегсет објавио "Стратегију убрзања вештачке интелигенције", са циљем да се убрза њена употреба у војсци.

Хегсет је тада рекао да ће бити омогућено експериментисање, уклоњене бирократске препреке и усмерене инвестиције како би САД задржале водећу позицију у војној примени вештачке интелигенције. 

Стратегија предвиђа и ширу доступност AI алата цивилном и војном особљу.

Према изворима упознатим са политиком америчке војске, AI се све више користи и у процесу одређивања циљева, али не постоје јасне смернице о томе како ће људско учешће спречити цивилне жртве или случајно наношење штете сопственим снагама.

Један од извора је рекао да случај кинеског брода није изолован пример "халуцинације" AI система у обавештајној заједници. 

Према више извора, AI врши притисак на аналитичаре да брже производе и дистрибуирају обавештајне податке, што повећава могућност грешака, док млађи аналитичари, који су више навикли на коришћење ових алата, могу да буду склонији да им верују без довољне провере.