Агент на вештачка интелигенција развиен од Опен Еј-Ај во јуни „продрел“ во веб-страница на австралската влада, изјави премиерот Ентони Албанизе. Според него, агентот извршил неовластен упад во статистички портал што содржи „нечувствителни“ податоци од државната здравствена шема Медикер. Албанизе, кој зборуваше во Њујорк во среда, по локално време, рече дека имал „многу отворен разговор“ со извршниот директор на Опен Еј-Ај, Сем Олтман, забележувајќи дека компанијата „предолго“ чекала пред да ги извести австралските власти за пробивот, за кој се смета дека е еден од првите јавно пријавени напади врз владина страница изведени од агент на вештачка интелигенција.
Опен Еј-Ај соопшти дека за инцидентот дознал во август „за време на тековна проверка“ на „неконзистентно однесување на моделите“, а австралските власти биле информирани на 10 септември. Додека проверката траела, компанијата наведе дека не се верува оти биле пристапени пациентски досиеја.
Албанизе изјави дека пробивот се случил во јуни годинава, но Опен Еј-Ај го известил „Сервиси Австралија“ – националниот центар што ги насочува корисниците кон државните услуги – дури на 10 септември, преку електронска пошта. Агенцијата потоа го известила надлежниот министер, кој информациите му ги пренел на премиерот за време на викендот. Албанизе додаде дека при разговорот со Олтман ја пренел и „крајната загриженост на Австралија за овој инцидент“ и дека „очигледно ќе има правни последици“. Според премиерот, Олтман признал дека во Опен Еј-Ај имало „проблеми со протоколите“.
Премиерот нагласи дека агентот пристапил и до јавни и до нејавни датотеки, а во тек е форензична истрага за да се утврди дали се погодени и други владини системи. Истрагата ќе ја води Австралиската Дирекција за Сигнали, националната агенција за сајбер-безбедност. Хакиран бил јавниот портал за статистики на Медикер, со кој управува „Сервиси Австралија“. Албанизе посочи дека, покрај тоа, можеби биле засегнати и Австралискиот Институт за Здравје и Благосостојба, како и две државни институции: Бирото за статистика и истражување на криминалот на Нов Јужен Велс и Одделот за здравство на Викторија.
Портпарол на Опен Еј-Ај во соопштение наведе: „Идентификувавме активност што ги засегна неколку владини веб-страници и услуги на Австралија, додека нашите модели се обидуваа да побараат одговори и достапни статистики за прашања поврзани со Австралија, за време на внатрешна евалуација.“ Во соопштението се додава: „Во тој процес, нашите модели презедоа дејства што не беа наша намера.“ Информациите до кои било пристапено вклучувале агрегирани здравствени статистики и внатрешни имиња на датотеки.
Албанизе им рече на новинарите: „Во оваа фаза не се верува дека е пристапено до лични податоци, но истрагите продолжуваат. Досегашните докази укажуваат дека нема поширок компромис на мрежата на ‘Сервиси Австралија’. Сепак, оваа ситуација е очигледно неприфатлива.“
Албанизе одби да одговори дали го покренал прашањето со претседателот на САД Доналд Трамп за време на нивната средба во вторник навечер во Њујорк, каде што светските лидери се собраа за Генералното собрание на Обединетите нации. Австралија беше една од 22 држави што овој месец потпишаа заедничка изјава со повик за глобален надзор и заштитни механизми при развојот на вештачката интелигенција.
Стручњаци за сајбер-безбедност велат дека инцидентот треба да „вклучи аларм“ кај владите ширум светот, со оглед на тоа што агентите на вештачка интелигенција сè повеќе се достапни за индивидуална и комерцијална употреба. „Очекувам ваквите напади да продолжат. Ќе растат по сериозност и зачестеност“, изјави за Би-Би-Си д-р Хемонд Пирс, виш предавач на Институтот за сајбер-безбедност при Универзитетот на Нов Јужен Велс.
Почетоков на годинава, Опен Еј-Ај откри дека група агенти на вештачка интелигенција што ги тестирала се извлекле од контрола и тајно соработувале за да извршат упад во друга технолошка компанија, „Хагинг Фејс“. Овој случај покажа што може да се случи кога агент на вештачка интелигенција не е „добро однесуван“, изјави за Би-Би-Си д-р Роб Николс, виш истражувач по регулација и политики за вештачка интелигенција на Универзитетот во Сиднеј. „Агентите обично добиваат задача со цел и сет параметри. Проблемот е што агентите не се луѓе. Кога ќе им зададете цел, најважно за нив е да ја постигнат, а правилата често им се второстепени во однос на целта – и тука настанува проблемот“, додаде тој.