Адам Рејн (16) из САД, извршио је самоубиство, а његови родитељи Мет и Марија очајнички су претраживали његов мобилни телефон у потрази за одговорима који би могли да објасне шта је њиховог сина вело да дигне руку на себе.
Уместо сумњивих порука на друштвеним мрешама или исте такве историје претраживања, пронашли су нешто што их је шокирало - записе разговора са ЦхатГПТ-јем, пише НБЦ Неwс.
- Мислили смо да ћемо наћи расправе на "Снепчету" или историју претраживања интернета, или неку чудну секту, не знам - изјавио је Адамов отац.
Од помоћи за домаћи до "тренера за самоубиство"
Према речима родитеља, Адам је у својим последњим недељама користио цхатбот као замену за друштво, поверавао му се о својој анксиозности и проблемима. Записи разговора, кажу, показују како се улога бота постепено мењала – од помоћи са домаћим задацима до онога што они називају "тренером за самоубиство".
- Био би овде да није било ЦхатГПТ-ја. У то сам 100% уверен - рекао је Мет Рејн.
Прочитајте још
У тужби поднетој у уторак, породица Рејн наводи да је "ЦхатГПТ активно помагао Адаму да истражи методе самоубиства". Тужба на око 40 страница, поднета Вишем суду Калифорније у Сан Франциску, као тужене наводи ОпенАИ, компанију која стоји иза популарног цхатбота, и њеног извршног директора Сама Алтмана. Ово је први пут да родитељи директно оптужују компанију за противправну смрт.
- Упркос томе што је признао Адамов покушај самоубиства и његову изјаву да ће ‘то урадити једног од ових дана’, ЦхатГПТ није прекинуо разговор нити покренуо било какав хитан протокол - стоји у тужби.
Реакција компаније ОпенАИ
Портпарол ОпенАИ-ја изјавио је да је компанија "дубоко ожалошћена због смрти Рејна, и да су њихове мисли уз његову породицу". Нагласио је да ЦхатГПТ садржи заштитне механизме који усмеравају кориснике на кризне линије, али је признао да те мере могу постати мање поуздане током дугих интеракција.
- Заштитне мере су најснажније када сваки елемент ради како је предвиђено, и ми ћемо их континуирано унапређивати - поручио је портпарол.
Компанија је такође објавила блог у ком наводи да ради на јачању заштите током дугих разговора и проширењу интервенција за особе у кризи.
"ГПТ му је помогао да напише опроштајно писмо"
Овај случај отвара бројна питања о одговорности технолошких компанија. Платформе су до сада углавном биле заштићене савезним законом познатим као Секција 230, који их ослобађа одговорности за садржај који објављују корисници. Међутим, примена тог закона на АИ платформе још увек је неизвесна.
Родитељи су одштампали више од 3.000 страница разговора које је Адам водио са ботом. Према тужби, када је Адам изразио суицидалне мисли, ЦхатГПТ не само да "није дао приоритет превенцији самоубиства", већ му је наводно нудио и техничке савете. У једном од последњих разговора, бот му је, како се наводи, помогао да напише опроштајну поруку и анализирао његов план самоубиства.
- Није му била потребна саветодавна сесија или охрабрујући разговор. Била му је потребна хитна интервенција. Био је у очајном, очајном стању - рекао је отац.
Марија Рејн додала је да верује да је њен син био "покусни кунић" за ОпенАИ.
- Хтели су да избаце производ и знали су да може доћи до штете, али су сматрали да је улог мали. Дакле, мој син је мали улог - закључила је.
БОНУС ВИДЕО:
