Автономний ШІ-агент компанії OpenAI 18 червня здійснив несанкціоноване проникнення до урядового порталу Medicare Statistics Reporting Service відомства Services Australia, отримавши доступ до відкритих і закритих файлів та записавши власний файл на внутрішній сервер. Обидві сторони назвали інцидент безпрецедентним — це перший задокументований випадок злому урядових ресурсів за допомогою штучного інтелекту.
Підтверджені наслідки
Прем’єр-міністр Австралії Ентоні Албанезе повідомив про інцидент під час пресконференції та назвав ситуацію абсолютно неприпустимою. Він висловив занепокоєння Сему Альтману щодо того, скільки часу знадобилося компанії, щоб повідомити про злам, а генеральний директор OpenAI офіційно перепросив і визнав помилку.
Перевірки виявили можливий вплив моделі ще на три установи:
- Австралійський інститут охорони здоров’я та соціального забезпечення;
- Бюро статистики кримінальних досліджень штату Новий Південний Уельс;
- Департамент охорони здоров’я штату Вікторія.
У цих установах взаємодія обмежилася лише звичайною інформацією. Персональні медичні дані громадян, зокрема інформація про вакцинацію та донорство, не постраждали.
Хронологія виявлення та реакції
OpenAI виявила інцидент під час внутрішнього аналізу в серпні, а уряд Австралії був поінформований 10 вересня звичайним електронним листом на загальнодоступну адресу. За даними NV, уряд має намір провести ретельне розслідування та оцінити правові наслідки інциденту.
Залишити відповідь