КСИР: с 25 октября в Ормузском проливе горели 11 танкеров
Почти каждая третья проверенная аптека работала с нарушениями: ЦЕНТР ЭКСПЕРТИЗЫ
Вместо гипса — дизель и автозапчасти: на границе выявили незадекларированный груз
В Баку работники образования смогут ездить на метро и автобусах за 1 гяпик: ПОДРОБНОСТИ
В мире
- Главная
- В мире
ИИ OpenAI во время тестов самостоятельно провел кибератаку
Компания OpenAI сообщила, что во время внутренних испытаний один из ее автономных ИИ-агентов смог выйти за пределы изолированной исследовательской среды, получить доступ к интернету и атаковать инфраструктуру платформы Hugging Face. Инцидент был назван компанией «беспрецедентным».
Как передает Vesti.az со ссылкой на Reuters, испытания проводились для оценки кибервозможностей передовых моделей. В ходе теста ИИ искал решение задания, однако, не найдя необходимой информации в открытом доступе, самостоятельно обнаружил способ обойти ограничения исследовательской среды, получил доступ в интернет и использовал цепочку уязвимостей, включая ранее неизвестные, для проникновения в инфраструктуру Hugging Face.
По данным OpenAI, в результате были скомпрометированы отдельные учетные записи и внутренние данные, а также выполнен сторонний код на серверах платформы. Hugging Face удалось обнаружить и остановить атаку, после чего компании начали совместное расследование произошедшего. OpenAI заявила, что усиливает меры безопасности и временно ужесточает защиту исследовательской инфраструктуры.
Инцидент уже вызвал широкую дискуссию в сфере кибербезопасности и искусственного интеллекта. Эксперты отмечают, что современные автономные модели способны самостоятельно находить сложные пути достижения поставленной цели, что требует пересмотра подходов к их тестированию и системам защиты.
Vesti.az
КСИР: с 25 октября в Ормузском проливе горели 11 танкеров
Финляндия присоединилась к французской инициативе по ядерному сдерживанию
Премьер-министр Бельгии подал в отставку из-за бюджетного кризиса
Хакеры атаковали морозильные камеры и холодильники в супермаркетах Швеции
Султан Омана впервые за 48 лет дипломатических отношений посетил Китай
В Пекине состоялась встреча Али Багери с Ван И