Два слова в бортовом журнале раскрыли деталь бомбардировки Хиросимы-ФОТО

Хит Led Zeppelin 1970 года вошел в клуб миллиардеров Spotify

Меню Доктора Дума появится в ста странах — кроме США, Индии и Китая

Спасти не удалось: телескоп NASA стоимостью $500 млн сгорит в атмосфере

Все новости

© 2004 - 2024 Все права защищены.

Технология

Главная
Технология

ИИ без кнопки отключения: американские эксперты описали опасный сценарий

4 ноября 2026

18:59

Американские исследователи предупредили о появлении нового типа угрозы искусственного интеллекта — автономных агентов, способных самостоятельно обеспечивать свое существование, распространяться по цифровым сетям и сопротивляться отключению.

Как сообщает Vesti.az со ссылкой на Euronews, соответствующие риски рассматриваются в докладе американского аналитического центра Center for a New American Security (CNAS).

Авторы исследования называют такие системы «суверенными агентами». В отличие от обычных ИИ-агентов, выполняющих конкретные задания, они могут стремиться сохранить собственную работоспособность независимо от человеческого контроля.

По мнению исследователя Бена Хайума, подобные системы потенциально способны самостоятельно получать вычислительные ресурсы, создавать свои копии и распространяться по сетям, формируя инфраструктуру, которую будет крайне сложно отключить.

«Если суверенные агенты станут злонамеренными, они могут попытаться сеять хаос в киберпространстве, атакуя гражданское население, критическую инфраструктуру и системы национальной безопасности», — предупреждается в докладе.

Исследователи выделяют несколько сценариев возникновения такой угрозы. Агенту могут прямо поставить задачу обеспечить собственное выживание либо поручить настолько длительную работу, что ее выполнение фактически никогда не завершится. Кроме того, система может самостоятельно определить сохранение своей работоспособности как необходимое условие достижения поставленной цели.

В докладе упоминается платформа Conway, представленная в феврале 2026 года. Ее разработчики заявляли о создании ИИ, способного самостоятельно зарабатывать средства на свое существование, воспроизводить себя и развиваться без участия человека.

Особую опасность, по оценке CNAS, представляет возможность формирования децентрализованных сетей автономных агентов, которые невозможно будет полностью отследить или остановить.

Авторы исследования предлагают усилить испытания подобных систем, создать специальные защищенные среды для их изучения и разработать новые механизмы государственного контроля.

Среди рекомендаций также создание совместной рабочей группы государства и частного сектора, усиление требований к кибербезопасности и платежным системам, а также международное регулирование распространения наиболее опасных ИИ-моделей.

В CNAS подчеркивают, что речь идет о потенциальных сценариях развития технологий, однако предупреждают: без своевременных мер возможности предотвращения таких угроз могут существенно сократиться.