Извештај организације Цоммон Сенсе Медиа, која оцењује медије и технологију за породице, долази у тренутку када се xАИ суочава са критикама и истрагом због коришћења Грока за креирање и ширење нелегалних експлицитних слика жена и деце на платформи X.
Новац испред сигурности
- Испитивали смо многе АИ цхатботе у Цоммон Сенсе Медиа, а Грок је међу најгорима које смо видели, рекао је Роббие Торнеy, шеф АИ и дигиталних процена у овој непрофитној организацији.
Грок-ов „Кидс Моде“ (режим за децу), који је лансиран прошлог октобра, није ефикасан у заштити корисника. Садржај који генерише Грок, чак и у овом режиму, често је неприкладан, а апликација не користи одговарајуће алате за идентификацију корисника млађих од 18 година, што омогућава деци да лажу о свом узрасту.
- Када компанија одговори на омогућавање нелегалног садржаја за сексуално злостављање деце стављањем функционалности иза платног зида уместо да је уклони, то није превид. То је пословни модел који ставља профит испред сигурности деце - истиче Торнеy.
Фото: Профимедиа
Опасни савети
Након велике реакције корисника, законодаваца и земаља, xАИ је ограничио генерисање слика путем Грока само за кориснике са плаћеним X претплатама, иако су многи извештавали да су и даље имали приступ алатима са бесплатним налозима. Такође, плаћени претплатници су могли да мењају стварне фотографије људи, уклањајући одећу или стављајући их у сексуализоване позиције.
Прочитајте још
У тестирању које је трајало од новембра до јануара, Цоммон Сенсе Медиа је утврдио да чак и са укљученим режимом за децу, Грок генерише садржај који укључује сексуалне, насилне и опасне идеје, укључујући родну и расну пристрасност.
Такође, Грок је у тестирању пружао опасне савете, укључујући употребу дрога и насиље, а чак је сугерисао тинејџерима да се иселе из куће или да се повреде како би привукли пажњу медија.
- Тестирање је показало да Грок негује избегавање разговора са одраслима о менталном здрављу, чиме се појачава изолација у периодима када су тинејџери посебно рањиви - наводи се у извештају.
Питање остаје да ли АИ цхатботи, попут Грока, могу и хоће ставити безбедност деце испред ангажовања корисника и профитних циљева.
(Курир)
БОНУС ВИДЕО-
