Каналите на YouTube кои користат вештачка интелигенција за правење видеа со лажни научни информации им се препорачуваат на децата како „едукативна содржина“, откри глобалниот тим за дезинформации на Би-Би-Си.
Најдовме повеќе од 50 канали на повеќе од 20 јазици кои шират дезинформации маскирани како STEM [наука, технологија, инженерство, математика] содржина.
Тие содржат псевдонаучни, лажни информации и теории на заговор – дека пирамидите произведуваат струја, негирање дека луѓето предизвикале климатски промени преку нивните активности и постоење на вонземјани.
Нашата анализа покажува дека YouTube ги препорачува овие „лажни научни“ видеа на децата заедно со легитимни образовни содржини.
Повеќе кликови, повеќе пари
Кајл Хил е Јутјубер и научен едукатор со огромен број младинци.
Пред неколку месеци, тој почна да забележува сомнителни видеа на изворот на YouTube (почетна страница).
Тој вели дека неговите следбеници почнале да го контактираат за препорачаната содржина која изгледала легитимна, но била полна со лажни информации.
Се чинеше дека креаторите крадат содржина што е точна, но манипулира со неа, и дека страницата потоа им ги препорачува на гледачите.
За да привлечат гледачи, видеата се полни со контроверзни тврдења, придружени со сензационалистички коментари, наслови на таблоиди и драматични слики – колку повеќе луѓе ги гледаат, толку повеќе приходи од реклами добиваат.
YouTube, исто така, има корист од сè – добива околу 45 проценти од приходите од рекламирање на едно видео.
Авторите ги означуваат видеата како „едукативна содржина“, што значи дека е поверојатно да им се препорачаат на децата.
„Да се биде човек на науката, сфатете го тоа лично“, вели Хил.
„Се чини дека овие канали сфатија што точно треба да направат за да ги максимизираат прегледите со минимален напор.
Проверка на фалсификати
Најдовме десетици канали на YouTube кои произведуваат ваков тип на содржина, на јазици како што се арапски, руски, шпански и тајландски.
Многумина имаат повеќе од милион претплатници, поради што видеата често добиваат милиони прегледи.
Авторите интензивно објавуваат нови содржини, многу и повеќе снимки дневно.
За да го постигнеме тоа темпо, се сомневавме дека користат програми за вештачка интелигенција, како што се Chat GPT или MidJourney.
Зборуваме за програми кои можат – наместо да бараат нешто на Интернет – да создадат нова содржина кога тоа ќе биде побарано од нив.
За да го потврдиме ова, ги обработивме снимките од секој канал користејќи алатки за откривање вештачка интелигенција и експертска анализа за да процениме дали снимката, нарацијата и сценариото се создадени со помош на вештачка интелигенција.
Нашата анализа покажа дека повеќето видеа користеле вештачка интелигенција за генерирање на текст и слики, како и манипулирани содржини од вистински научни видеа.
Резултатот е содржина која изгледа автентична, но главно е невистинита.
Посегнување до децата
Сакавме да видиме дали видеата со „лажна научна содржина“ ќе им се препорачаат на децата, па отворивме детски сметки на главната страница на YouTube.
(Сите деца со кои разговаравме ни кажаа дека го користат наместо YouTube Kids.)
По четири дена гледање вистински едукативни видеа, ни беа препорачани и видеа создадени со помош на вештачка интелигенција.
Кога кликнавме на нив, ни беа препорачани уште повеќе од овие лажни научни канали.
Прикажавме некои од препорачаните содржини на две групи деца на возраст меѓу 10 и 12 години – една во ОК и една во Тајланд – за да видиме дали веруваат во она што го гледаат.
Едно видео се занимаваше со заговори во врска со неидентификувани летечки објекти и вонземјани.
Друг лажно тврдеше дека пирамидите во Гиза произведуваат струја.
„Уживав да гледам“, вели една девојка.
„На почетокот не бев сигурен дека постојат вонземјани, но сега мислам дека постојат.
Уште едно дете беше импресионирано од електричните пирамиди.
„Не знаев дека луѓето можат да произведуваат електрична енергија толку одамна за да користат модерна технологија.
Сепак, некои деца успеаја да препознаат присуство на вештачка интелигенција на видеата.
„Ми беше доста смешно што дури и не користеа човечки глас, мислам дека гласот не беше човечки“, вели едно дете.
Кога им објаснивме дека овие снимки се генерирани од вештачка интелигенција и дека содржат лажни информации, останаа шокирани.
„Всушност сум прилично збунет. Мислев дека е реално“, вели едно момче.
„Веројатно ќе верував ако не ни кажевте дека се лажни“, додаде друг.
Децата имаат тенденција да веруваат во дезинформации
Воспитувачите велат дека искористувањето на природната љубопитност на децата за нови, интригантни идеи може да ги збуни околу тоа што е навистина точно.
„Овие видеа одат добро бидејќи се за заговори“, вели професорката Вики Неш, директорка на Интернет институтот Оксфорд.
„Сите ние сме фасцинирани од работи кои се против она што ни е официјално кажано, а децата се поподложни на тоа отколку возрасните.
Клер Сили, наставничка во основно училиште во Велика Британија, се согласува.
„Децата често ќе го искусат она што прво го гледаат како факт. Само кога ќе станат малку постари, можеби ќе почнат да го преиспитуваат тоа“.
Неш, исто така, се прашува дали на платформите им е дозволено да заработуваат од рекламите што ги придружуваат овие снимки.
„Идејата дека YouTube и Google заработуваат повеќе пари од реклами кои се сервираат заедно со псевдонаучни вести ми изгледа прилично неетички.
Контактиравме компании кои произведуваат ваква содржина со помош на вештачка интелигенција.
Еден одговори дека нивната содржина е наменета првенствено за „забавни цели“.
Тие негираат дека нивната целна публика се децата и тврдат дека не користат вештачка интелигенција „за повеќето“ сценарија.
YouTube го препорачува YouTube Kids за оние помлади од тринаесет години, каде што има поголема контрола врз снимките што може да се прикажат таму.
Тие посочуваат дека се цврсто решени да ги отстранат дезинформациите од нивните платформи и да им овозможат на семејствата „безбедно и квалитетно искуство“.
Тие, исто така, нè упатија до панели за вести од YouTube за кои тврдат дека обезбедуваат дополнителен контекст од извори од трети страни за содржини поврзани со заговор.
Откривме дека постојат само за неколку видеа на сите 50 канали.
YouTube не ги коментираше прашањата за приходите од реклами што може да ги добијат од овие видеа.
Се обидуваме да стигнеме
Како што се подобруваат алатките за вештачка интелигенција, овој вид на содржина ќе станува полесен за создавање, а квалитетот на видеото ќе станува потешко да се идентификува.
Сили е загрижен и вели дека и наставниците и родителите треба да се подготват за тоа.
„Сè уште не знаеме точно како содржината генерирана од вештачката интелигенција влијае врз разбирањето на децата.
„Ние како наставници се обидуваме да го видиме сето тоа за да можеме да се справиме со ова.