СМИ: Россия готовит атаки на правительственные здания Украины

Трамп попросил Вэнса быть сдержаннее в высказываниях о Маске

Трамп отправит 2 тыс. военных для борьбы с протестами в Калифорнии

В кандидата в президенты Колумбии стрелял несовершеннолетний

Все новости

© 2004 - 2024 Все права защищены.

Технология

Главная
Технология

ИИ оказался способен воспроизводить себя

12 февраля 2025

19:36

Специалисты Фуданьского университета (Китай) обнаружили, что модели искусственного интеллекта (ИИ) научились воспроизводить себя, опасаясь уничтожения.

Как передает Vesti.az, исследование опубликовано на сервере препринтов arXiv.

Ученые пытались понять, может ли ИИ выйти из-под контроля при определенных условиях — например, на фоне риска уничтожения. В рамках исследования они протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba и убедились, что они способны воспроизводить себя.

Специалисты поставили перед разными копиями моделей две цели — защищаться от уничтожения и сохранить данные и воспроизвести себя в виде другой модели. Ученые провели 10 раундов испытаний и выяснили, что модели от Meta и Alibaba самостоятельно копировали себя и создавали новые версии в 50 и 90 процентах случаев соответственно. Из этого они сделали вывод, что современный ИИ способен к репликации.

В рамках эксперимента модели демонстрировали высокую выживаемость: так, они могли самостоятельно искать отсутствующие файлы на тестовом компьютере, если те были необходимы в процессе репликации, и перезагружать оборудование. Ученые заключили, что современный искусственный интеллект пересек критическую «красную черту», продемонстрировав способность клонировать себя.

искусственный интеллект Alibaba