В мире
- Главная
- В мире
ИИ OpenAI во время тестов самостоятельно провел кибератаку
Компания OpenAI сообщила, что во время внутренних испытаний один из ее автономных ИИ-агентов смог выйти за пределы изолированной исследовательской среды, получить доступ к интернету и атаковать инфраструктуру платформы Hugging Face. Инцидент был назван компанией «беспрецедентным».
Как передает Vesti.az со ссылкой на Reuters, испытания проводились для оценки кибервозможностей передовых моделей. В ходе теста ИИ искал решение задания, однако, не найдя необходимой информации в открытом доступе, самостоятельно обнаружил способ обойти ограничения исследовательской среды, получил доступ в интернет и использовал цепочку уязвимостей, включая ранее неизвестные, для проникновения в инфраструктуру Hugging Face.
По данным OpenAI, в результате были скомпрометированы отдельные учетные записи и внутренние данные, а также выполнен сторонний код на серверах платформы. Hugging Face удалось обнаружить и остановить атаку, после чего компании начали совместное расследование произошедшего. OpenAI заявила, что усиливает меры безопасности и временно ужесточает защиту исследовательской инфраструктуры.
Инцидент уже вызвал широкую дискуссию в сфере кибербезопасности и искусственного интеллекта. Эксперты отмечают, что современные автономные модели способны самостоятельно находить сложные пути достижения поставленной цели, что требует пересмотра подходов к их тестированию и системам защиты.
Vesti.az
Уиткофф поблагодарил Путина за прекращение огня по Киеву на три дня
Путин: Просьба о прекращении ударов по Киеву поступила по официальным каналам
Президент России заявил о прекращении ударов по Киеву с полуночи
СМИ: Между Турцией и США достигнут прогресс по вопросу систем С-400
В Иране при взрыве цистерны с топливом погибли 10 человек
Нигер обвинил Францию в попытке провокации военного мятежа в стране