Компанијата за вештачка интелигенција “Антропик” се заложи за глобална пауза во развојот на најмоќните системи за вештачка интелигенција (ВИ). Тие предупредуваат дека најновите модели на ВИ покажуваат знаци дека може да излезат надвор од човечкиот надзор.
Компанината базирана во Сан Франциско изјави дека светското запирање на развојот на најсовремениот ВИ би било од голема полза за човештвото. Според нив, таквата пауза би им овозможила на општествените структури и истражувачите да се прилагодат на напредокот во технологијата.
“Антропик” ги споредува ризиците од ВИ со заканата од нуклеарно оружје, но истакнува дека ВИ би можел да биде уште потежок за контролирање. Напредокот на ВИ, заклучуваат, се крие многу полесно од воените ресурси, а искушението за таен развој ќе биде огромно.
Автономност на ВИ
Претставниците на компанијата предупредуваат дека ВИ е способен сам да се обучува и усовршува, што значи дека човечката интервенција станува незамислива на секој етапа од развојот. Со цел да се постигне реална пауза, многу големи компании во САД и Кина треба да се согласат да запрат истовремено.
Меѓутоа, идејата за пауза се соочува со отпор од конкурентите и од Белата куќа. Некоји експерти, вклучително и Илон Мъск, сметаат дека тоа би можело да го забави технолошкиот напредок, давајќи предност на Кина.
Потребен е глобален механизам за координација за да се избегне неувереност и да се обезбеди безбедноста на напредните технологии. Без таков механизам, компаниите и владите ќе мораат да донесат тешки одлуки под притисок на конкурентност и геополитички фактори.