OpenAI го дефинира AGI како автономни системи кои ги надминуваат луѓето во повеќето економски вредни задачи
Непосредно пред четиридневниот егзил на директорот на OpenAI Сем Алтман, неколку истражувачи на компанијата напишаа писмо до бордот на директори, предупредувајќи на откривањето на моќна вештачка интелигенција која може да го загрози човештвото, изјавија за Reuters две лица запознаени со ситуацијата.
Необјавеното писмо и алгоритмот за вештачка интелигенција беа клучните случувања пред соборувањето на Алтман, велат два извори. Пред неговото триумфално враќање во вторникот вечерта, повеќе од 700 вработени се заканија дека ќе дадат отказ и ќе му се придружат на Мајкрософт во знак на солидарност со нивниот отпуштен лидер.
Изворите го наведоа писмото како еден од факторите во низата поплаки од управата што доведоа до смена на Алтман, вклучително и загриженоста за комерцијализирање на напредокот пред да се разберат последиците. Ројтерс не беше во можност да прегледа копија од писмото. Персоналот кој го напиша писмото не одговори на барањата за коментар.
Кога беше контактиран од Ројтерс, OpenAI, кој одби да коментира, во интерен меморандум до вработените го призна постоењето на проект наречен Q* и писмо до својот одбор на директори пред настанот за викендот. Портпаролот на OpenAI рече дека пораката, испратена од долгогодишниот директор и член на одборот, Мира Мурати, го информирала персоналот само за одредени медиумски стории, без да коментира за нивната точност.
Некои во OpenAI веруваат дека Q* (се изговара Q-Star) може да биде пресвртница во развојот на т.н. вештачка општа интелигенција (AGI), изјави еден од луѓето за Ројтерс. OpenAI го дефинира AGI како автономни системи кои ги надминуваат луѓето во повеќето економски вредни задачи.
Сепак, AGI е многу повеќе од тоа.
Општа вештачка интелигенција би била вештачка интелигенција со иста флексибилност на мислата како човек – а можеби дури и свест – плус супермоќта на дигиталниот ум.
Благодарение на огромните компјутерски ресурси, новиот модел можеше да реши одредени математички проблеми, изјави лицето кое сакаше да остане анонимно бидејќи не беше овластено да зборува за компанијата. Иако решаваше само математика од основно училиште, ваквите успеси ги направија истражувачите многу оптимисти за идниот успех на Q*, вели изворот.
Ројтерс не можеше независно да ги потврди Q* способностите пријавени од истражувачите.
Превезот на незнаењето
Истражувачите ја гледаат математиката како граница на генеративниот развој на вештачката интелигенција. Во моментов, генеративната вештачка интелигенција е добра во пишувањето и преведувањето јазици со статистички предвидување на следниот збор, а одговорите на истото прашање може значително да се разликуваат. Сепак, стекнувањето способност за математика – каде што има само еден точен одговор – имплицира дека вештачката интелигенција би можела да има поголеми способности за расудување што личат на човечката интелигенција. Ова би можело да се примени на нови научни истражувања, веруваат истражувачите.
За разлика од калкулаторот кој може да реши ограничен број операции, AGI може да генерализира, учи и разбира.
Во нивното писмо до управниот одбор, истражувачите ја истакнаа моќта и потенцијалната опасност од таквата вештачка интелигенција, велат изворите, без да ги прецизираат точните безбедносни грижи покренати во писмото. Долго време има дискусија меѓу компјутерските научници за опасноста што ја претставуваат високоинтелигентните машински системи, на пример, дали би можеле да одлучат дека уништувањето на човештвото е во нивен интерес.
Алтман ги предводеше напорите да го направи ChatGPT една од најбрзо растечките софтверски апликации во историјата и да ги привлече инвестициите – и компјутерските ресурси – потребни од Microsoft за да се приближи до AGI.
Покрај најавата на голем број нови алатки на настанот DevDay претходно овој месец, Алтман на самитот на светските лидери во Сан Франциско минатата недела навести дека верува дека големи откритија се на хоризонтот.
„Четири пати во историјата на OpenAI, последниот пат беше само во последните неколку недели, имав можност да бидам во просторија каде што некако го турнавме превезот на незнаењето назад и границата на откритието напред. и да имам можност да го направам тоа е професионална чест на мојот живот“, рече тој на самитот на Азиско-пацифичката економска соработка.
Еден ден подоцна, одборот го отпушти Алтман.