GOOGLE издаде важно предупредување за 1,8 милијарди корисници на Gmail ширум светот, укажувајќи на нов бран закани за сајбер-безбедност поттикнат од наглиот развој на вештачката интелигенција.
Уште на почетокот на летото, технолошкиот гигант предупреди на софистициран облик на сајбер-напад познат како „неиздиректно внесување на упатства“ (indirect prompt injection), кој претставува сериозна опасност за поединци, компании, па дури и државни институции.
Нова форма на напад
Во објава на својот официјален блог, Google детално ја објасни природата на оваа закана.
„Со брзото усвојување на генеративната вештачка интелигенција, се појавува нов бран закани низ индустријата, со цел манипулирање со самите AI системи. Еден таков нов вектор на напад е неиздиректното внесување на упатства“, се наведува во објавата.
„За разлика од директното внесување упатства, кога напаѓачот директно внесува злонамерни команди, неиздиректното внесување подразбира скриени злонамерни упатства во надворешни извори на податоци. Тоа може да бидат е-пошта, документи или покани за календар, кои ја наведуваат вештачката интелигенција да извлече кориснички податоци или да изврши други неовластени активности“, објаснува Google.
Од компанијата предупредуваат дека оваа метода ги загрозува сите корисници.
„Како што сè повеќе влади, компании и поединци користат генеративна вештачка интелигенција, овој суптилен, но потенцијално моќен напад станува сè позначаен во целата индустрија и бара итно внимание и робусни безбедносни мерки“, стои во објавата.
Како функционира нападот?
Технолошкиот експерт Скот Полдерман неодамна за Daily Record појасни како функционира оваа измама, нагласувајќи дека напаѓачите го злоупотребуваат Google-овиот AI алат Gemini.
„Значи, хакерите смислија начин како да го искористат Gemini, Google-овата вештачка интелигенција, против него самиот“, изјави Полдерман. „Хакерите испраќаат е-пошта со скриена порака до Gemini за да ви ги открие лозинките, а вие тоа да не го забележите.“
Gemini може да прикаже лажно безбедносно предупредување (на пример, дека лозинката или сметката ви е компромитирана) и на тој начин да го наведе корисникот да стапи во контакт со хакерот.
„Овие скриени упатства ја наведуваат вештачката интелигенција да работи против себе, за вие да ги откриете вашите податоци за најавување и лозинка“, продолжи тој. Полдерман објасни и зошто корисниците се особено подложни на оваа закана: „Нема линк на кој треба да кликнете. Gemini се појавува и ве известува дека сте во опасност.“
Најважни совети за заштита
Никогаш не внесувајте лозинки или податоци за најавување врз основа на тоа што пишува во резимето на е-пошта од Gemini. Ако пишува дека треба да ја смените лозинката или да кликнете на број или адреса, игнорирајте го тоа и директно отворете ја официјалната Google страница.
Вклучете двофакторска автентикација (2FA) за Gmail и Google сметка. Тоа значи дека покрај лозинката, ќе ви биде побарана и дополнителна потврда (на пр. код на мобилен), па хакерите нема да можат да влезат во вашата сметка и ако ја откријат лозинката.
Одговорот на Google на заканите
Google веќе започна да воведува нови безбедносни мерки. Во својата објава нагласуваат дека примениле слоевит пристап за заштита на корисниците во секоја фаза од обработката на податоците.
„Google применува слоевит безбедносен пристап со воведување мерки дизајнирани за секоја фаза од циклусот на упатства. Од зајакнување на моделот Gemini 2.5, преку специјално изградени модели за машинско учење за откривање злонамерни упатства, до заштитни мерки на ниво на систем – значително ја зголемуваме тежината, трошоците и комплексноста со кои се соочува напаѓачот“, порачуваат од компанијата.
„Овој пристап ги принудува напаѓачите да прибегнат кон методи кои или се полесно препознатливи, или бараат поголеми ресурси“, заклучуваат од Google.