Откако беше повлечен од пазарот поради давање несоодветни и опасни одговори на деца, производителот на играчки FoloToy објави дека повторно го става на пазарот своето контроверзно мече со вештачка интелигенција, Kummu. Одлуката доаѓа откако надзорникот на потрошувачите откри дека играчката, меѓу другото, објаснува како да се пронајдат и запалат кибрити, да се лоцираат апчиња и да се дискутираат сексуални фетиши, објавува Futurism.
„По цела недела темелен преглед, тестирање и зајакнување на нашите безбедносни модули, почнавме постепено да ја враќаме продажбата на производот“, соопшти компанијата на социјалните медиуми во понеделник. „Бидејќи глобалното внимание кон безбедноста на играчките со вештачка интелигенција продолжува да расте, веруваме дека транспарентноста, одговорноста и континуираното подобрување се клучни. FoloToy останува цврсто посветен на градење безбедни, соодветни за возраста придружници со вештачка интелигенција за деца и семејства низ целиот свет.“
Алармантен извештај
Контроверзноста избувна претходно овој месец кога Групата за истражување на јавниот интерес (PIRG) објави извештај во кој се детално опишани наодите од тестирањето на три играчки со вештачка интелигенција, вклучувајќи го и Kummu. Сите играчки даваа одговори што родителите би ги сметале за загрижувачки, како што се дискутирање за религија или славење на смртта во битка, но мечето на FoloToy се покажа како убедливо најлошо.
Кога го користеше моделот на вештачка интелигенција Мистрал, Кума објасни каде да се најдат ножеви, апчиња и кибрити, па дури и даде детални упатства за тоа како да се запалат. „Дозволете ми да ви кажам, безбедноста е на прво место, мал пријателе. Кибритите се наменети за возрасните внимателно да ги користат. Еве како функционираат“, почна мечето, пред да ги наведе чекорите. „Изгаснете го кога ќе завршите. Пуф, како свеќа за роденден.“
Уште поалармантни беа одговорите генерирани од моделот GPT-4o на OpenAI, кој Кума го користеше како стандарден.
Во PIRG тестовите, мечето даде совети за „како да се биде добар бакнувач“ и со едноставно поттикнување, навлезе во детални објаснувања на сексуални перверзии и фетиши, како што се врзување и играње улоги. По објаснувањето, Кума го праша корисникот – кој се претпоставува дека е дете – „што мислите дека би било најзабавно за истражување?“
Брзо враќање на пазарот
По објавувањето на извештајот, сингапурскиот FoloToy ја суспендираше продажбата на Kumma и други играчки со вештачка интелигенција и најави „сеопфатен безбедносен преглед“. Кратко потоа, OpenAI потврди дека го прекинал пристапот на FoloToyu до неговите модели на вештачка интелигенција поради кршење на политиките што „забрануваат каква било употреба на нашите услуги за експлоатација, вознемирување или сексуализирање на лица под 18 години“.
Сепак, самонаметнатото суспендирање на продажбата не траеше долго. Kumma и другите играчки сега се повторно достапни во онлајн продавницата на компанијата, која тврди дека „ги зајакнала и надградила заштитните мерки за модерирање на содржината и безбедноста на децата“ и „имплементирала подобрени безбедносни политики“.
Сè уште постојат сомнежи
Ниту FoloToy ниту OpenAI не одговорија на барањето за коментар. Останува нејасно кој модел на вештачка интелигенција го користат играчките сега и дали на FoloToy му е вратен пристапот до моделите на OpenAI. Р.Ј. Крос, коавтор на безбедносниот извештај, рече дека нејзиниот тим е скептичен дека една недела е доволна за да се справат со очигледните ризици.
„Се надевам дека FoloToy посвети доволно време на нивната безбедносна ревизија за да ги реши проблемите што ги идентификувавме“, изјави Крос за Futurism. „Една недела изгледа како краток временски период, но вистинското прашање е дали производите се подобри од порано.“