В мире
- Главная
- В мире
ИИ-агент OpenAI проник в систему правительства Австралии
ИИ-агент OpenAI летом получил несанкционированный доступ к сайту австралийской системы государственных услуг Services Australia.
Как передает Vesti.az, об этом премьер-министр страны Энтони Албаниз сообщил в Нью-Йорке.
Инцидент произошел 18 июня, когда исследовательская команда OpenAI использовала внутреннюю модель для поиска информации о государственных расходах на медицину. Столкнувшись с ограничениями на портале статистики Medicare, ИИ-агент смог их обойти и получил доступ как к публичным, так и к непубличным файлам.
На данный момент нет данных о том, что была затронута персональная информация граждан. Расследование продолжается.
Албаниз сообщил, что обсудил произошедшее с главой OpenAI Сэмом Альтманом и выразил серьезную обеспокоенность как самим инцидентом, так и тем, что компания слишком поздно проинформировала австралийские власти.
Для изучения обстоятельств произошедшего правительство Австралии сформировало специальную рабочую группу. Она должна в том числе рассмотреть возможные меры для предотвращения подобных инцидентов в будущем.
В OpenAI подтвердили, что летом выявили нежелательную активность ИИ-агентов в отношении нескольких сайтов и сервисов австралийского правительства во время внутренних испытаний моделей.
По данным компании, об инциденте стало известно в августе при анализе активности агентов. Services Australia была уведомлена 10 сентября. OpenAI заявила, что проверка не выявила признаков доступа к записям пациентов. Агент получил доступ к агрегированной медицинской статистике и названиям внутренних файлов.
The Wall Street Journal отмечает, что это, по всей видимости, первый публично раскрытый случай несанкционированного доступа ИИ-агента к государственной системе.
Vesti.az
Рютте заявил о готовности США дать Украине гарантии безопасности
Мир готовится к войне, которой еще нет - ОБЗОР
Галузин и посол Армении обсудили сотрудничество в рамках ЕАЭС
Трамп и Зеленский без энергетического гамбита: что дальше? - АНАЛИТИКА
Глава BP по Каспийскому региону получил признание Королевской инженерной академии
Зеленский отправил двух северокорейских солдат в Южную Корею-ОБНОВЛЕНО