В мире
- Главная
- В мире
ИИ OpenAI во время тестов самостоятельно провел кибератаку
Компания OpenAI сообщила, что во время внутренних испытаний один из ее автономных ИИ-агентов смог выйти за пределы изолированной исследовательской среды, получить доступ к интернету и атаковать инфраструктуру платформы Hugging Face. Инцидент был назван компанией «беспрецедентным».
Как передает Vesti.az со ссылкой на Reuters, испытания проводились для оценки кибервозможностей передовых моделей. В ходе теста ИИ искал решение задания, однако, не найдя необходимой информации в открытом доступе, самостоятельно обнаружил способ обойти ограничения исследовательской среды, получил доступ в интернет и использовал цепочку уязвимостей, включая ранее неизвестные, для проникновения в инфраструктуру Hugging Face.
По данным OpenAI, в результате были скомпрометированы отдельные учетные записи и внутренние данные, а также выполнен сторонний код на серверах платформы. Hugging Face удалось обнаружить и остановить атаку, после чего компании начали совместное расследование произошедшего. OpenAI заявила, что усиливает меры безопасности и временно ужесточает защиту исследовательской инфраструктуры.
Инцидент уже вызвал широкую дискуссию в сфере кибербезопасности и искусственного интеллекта. Эксперты отмечают, что современные автономные модели способны самостоятельно находить сложные пути достижения поставленной цели, что требует пересмотра подходов к их тестированию и системам защиты.
Vesti.az
Минздрав Ирана сообщил о 53 погибших в результате ударов США
Лесные пожары охватили сразу три провинции Турции
Maersk прекращает работу в порту Черноморск из-за российских ударов
Болгария стала лидером ЕС по росту цен на автомобильное топливо
Reuters: Греция выступила против части новых санкций ЕС в отношении России
Посольство США предупредило американцев в Израиле о росте криминального насилия