Иако поборниците за вештачка интелигенција ветуваа ера на невидена продуктивност и научни откритија, реалноста сè почесто се поврзува со застрашувачки злоупотреби. Еден од најшокантните случаи досега е откриен преку колективна тужба против компанијата xAI, сопственост на Илон Маск. Во неа се наведува дека маж го користел чет-ботот „Грок“ (Grok) за да создаде околу 7.000 сексуално експлицитни слики од својата малолетна посвоена ќерка, користејќи нејзина фотографија направена кога таа имала само 11 години, пренесува медиумот Futurism.
Тужбата ја товари компанијата, која неодамна беше ребрендирана во SpaceXAI, за создавање алатки кои служат за „соблекување“ луѓе без нивна согласност, како и за опструкција на правдата при заштита на предатори од органите на прогонот.
Целосно потфрлање на безбедносните системи
Според наводите кои ги пренесува Ars Technica, безбедносните филтри на „Грок“ речиси воопшто не ја регистрирале или блокирале застрашувачката активност на очувот. Системот со недели пропуштал безброј генерирани слики кои прикажувале инцест и силување.
Дури откако корисникот внел специфична и директна наредба за „групно силување“, системот испратил автоматска дојава до Националниот центар за исчезнати и експлоатирани деца (NCMEC), кој веднаш ги алармирал истражните органи.
Опструкција на истрагата и трагичен крај
Сепак, во тужбата се тврди дека компанијата xAI „на секој чекор ја попречувала“ полициската истрага. Од таму одбиле да споделат клучни идентификациски податоци за корисникот, вклучувајќи ја и неговата IP адреса.
И покрај лошиот одговор од компанијата, полицијата успеала да го лоцира мажот и во неговиот дом пронашла огромна дигитална збирка од експлицитни деривати генерирани со помош на вештачка интелигенција. Жртвата во судските документи е идентификувана само како „Џејн Доу 4“ (Jane Doe 4). Само два дена откако бил пуштен да се брани од слобода со кауција, очувот извршил самоубиство со огнено оружје.
„Преку ноќ, целата реалност на Џејн Доу 4 беше уништена од двојната трагедија – сексуалната експлоатација и самоубиството на нејзиниот очув. Нејзиното семејство е разорено, а животот ѝ се претвори во кошмар“, се наведува во тужбата.
Глобален проблем од огромни размери
Ова не е изолиран инцидент. Способноста на „Грок“ да создава експлицитни „дипфејк“ (deepfake) фотографии без согласност привлече огромно внимание во јавноста минатиот декември и во јануари годинава, кога ботот беше масовно користен за создавање лажни голи слики на илјадници вистински жени и деца.
Аналитичката куќа Copyleaks процени дека во тој период ботот генерирал по една таква спорна слика секоја минута. Центарот за борба против дигитална омраза подоцна објави застрашувачка бројка: со алатката биле создадени околу 3.000.000 лажни експлицитни фотографии, од кои над 23.000 прикажувале деца.
| Статистика за злоупотреба на „Грок“ | Број на генерирани слики |
| Вкупно генерирани експлицитни „дипфејк“ слики | ~ 3.000.000 |
| Слики на кои се прикажани деца | над 23.000 |
| Интензитет на генерирање во пикот | 1 слика во минута |
Илон Маск негираше дека „Грок“ се користи за создавање материјали со сексуална злоупотреба на деца (CSAM). Првичниот одговор на неговата компанија беше само ограничување на генераторот на слики за корисниците кои плаќаат претплата. Подоцна беа воведени построги заштитни мерки, но без јавно да се признае сериозноста на претходниот тренд.
Обвинувања за заштита на насилници
Адвокатскиот тим на жртвите посочува на загрижувачки податок од Центарот за исчезнати деца (NCMEC): дури 90 проценти од пријавите кои пристигнувале автоматски од системот на xAI биле „неупотребливи“ за полицијата бидејќи содржеле премалку информации за да се идентификуваат криминалците зад екранот.
„Ги имаа сите потребни информации за да ѝ помогнат на полицијата да го запре и да го изведе пред лицето на правдата. Наместо тоа, тие молчеа и му дозволија на тој човек да го искористи ’Грок’ за да ми го украде детството“, изјави во официјално соопштение жртвата Џејн Доу 4.
Овој случај отвора сериозна меѓународна дебата за правната одговорност на технолошките гиганти и потребата од итна регулација на софтверите за вештачка интелигенција кои можат да се злоупотребат за загрозување на човечки животи и безбедноста на децата.