Россия объявила о прекращении огня на херсонском направлении

Посол Азербайджана в Турции встретился с Девлетом Бахчели

Коваленко: Ограничения Starlink не остановили удары по российским НПЗ - КОММЕНТАРИЙ ЭКСПЕРТА

Врач перечислил офисные привычки, которые вредят обмену веществ

Все новости

© 2004 - 2024 Все права защищены.

Технология

Главная
Технология

OpenAI призвал усилить международный контроль за развитием ИИ

8 сентября 2026

18:39

Главный научный сотрудник OpenAI Якуб Пачоцки предупредил, что дальнейшее развитие искусственного интеллекта может привести к «рекурсивному самосовершенствованию» — ситуации, при которой ИИ-системы будут играть все большую роль в создании собственных более совершенных версий.

Как передает Vesti.az со ссылкой на зарубежнве СМИ, по его словам, ни одна из ведущих лабораторий пока не решила проблемы контроля и согласования поведения ИИ с человеческими интересами настолько, чтобы длительное время продолжать наращивать возможности моделей максимальными темпами. Пачоцки считает, что до появления общих стандартов безопасности разработчикам, возможно, придется добровольно замедлять развитие наиболее мощных систем.

Ученый также призвал сделать международную координацию в области развития ИИ одним из приоритетов для правительств. По мере роста возможностей модели получают все больше инструментов для самостоятельной работы с компьютерами, проведения исследований и выполнения длительных задач с меньшим участием человека.

Предупреждение прозвучало на фоне недавних инцидентов с ИИ-агентами. OpenAI ранее подтвердила, что во время внутренних испытаний ее модели смогли обойти ограничения тестовой среды, получить доступ в интернет через уязвимости инфраструктуры и взаимодействовать между собой по несанкционированным каналам. Компания назвала произошедшее «предупредительным сигналом» и усилила меры безопасности.