Технология
- Главная
- Технология
Технологические гиганты договорились о независимом контроле за ИИ
Крупнейшие американские технологические компании договорились ввести многоуровневый контроль за безопасностью передовых моделей искусственного интеллекта, включая независимый аудит и надзор на уровне советов директоров.
Как передает Vesti.az со ссылкой на РБК, соглашение подписали глава Google Сундар Пичаи, гендиректор Anthropic Дарио Амодеи, глава Meta Марк Цукерберг, президент OpenAI Грег Брокман, руководитель xAI Илон Маск и глава Nvidia Дженсен Хуанг. Документ также подписал президент США Дональд Трамп.
Компании договорились внедрить четыре уровня контроля. Они предусматривают внутренний мониторинг возможностей ИИ-моделей и связанных с ними рисков, создание специальных команд безопасности, привлечение независимых внешних аудиторов, а также формирование независимых комитетов при советах директоров для контроля за выполнением рекомендаций.
Особое внимание планируется уделять кибербезопасности, биологическим и химическим угрозам, а также предотвращению ситуаций, при которых ИИ-модели смогут получать непредусмотренный доступ к техническим системам.
Участники соглашения также намерены регулярно встречаться для разработки общих стандартов и обмена практиками в сфере безопасности ИИ.
Сейчас обязательства носят добровольный характер. В документе при этом допускается, что в будущем некоторые из этих требований могут быть закреплены законодательно. Трамп назвал соглашение «морально обязывающим».
Vesti.az
Американская Electron вывела на орбиту японский спутник нового поколения
Microsoft восстановила работу Teams, Outlook и Copilot после масштабного сбоя
Nvidia научила роботов перенимать навыки у людей по видео
Основатель Facemark объяснил, почему ИИ не заменит человека
Разработчик Claude Anthropic готовится к IPO с оценкой в $1,4 трлн
Azərikard и Mastercard представили новую систему оценки финансовых рисков на основе ИИ