Развод на $1,9 млрд: игровой магнат отдаст экс-жене 35% компании

Ученые: токсины из воздуха могут разрушать организм десятилетиями

«Шведские демократы» могут впервые войти в правительство

В Anthropic допустили уничтожение человечества искусственным интеллектом

Все новости

© 2004 - 2024 Все права защищены.

Это интересно

Главная
Это интересно

В Anthropic допустили уничтожение человечества искусственным интеллектом

10 сентября 2026

18:52

Один из ведущих специалистов по безопасности искусственного интеллекта в Anthropic Эван Хьюбингер считает, что вероятность гибели человечества из-за развития ИИ в течение ближайших десяти лет превышает 10%. При этом речь идет не о существующих сегодня моделях, а о возможном появлении систем сверхинтеллекта, способных самостоятельно совершенствоваться.

Об этом сообщает Vesti.az со ссылкой на Русскую службу BBC.

Хьюбингер, занимающийся в Anthropic проблемой согласования целей ИИ с человеческими ценностями, подчеркнул, что риски от нынешних моделей остаются невысокими. Его опасения связаны с быстрым развитием технологий и возможностью появления систем, которые превзойдут человека и начнут самостоятельно создавать все более совершенные версии ИИ.

По словам исследователя, в Anthropic серьезно относятся к возможности того, что развитие ИИ может создать угрозу существованию человечества. Сам Хьюбингер оценивает вероятность такого сценария в ближайшее десятилетие более чем в 10%.

При этом он признал, что у разработчиков пока нет надежного решения проблемы контроля над будущим сверхинтеллектом. По его словам, Anthropic пытается решить эту задачу, однако четкого плана, который гарантировал бы согласование целей сверхинтеллекта с человеческими ценностями, пока нет.

Заявление Хьюбингера прозвучало после ухода из Anthropic исследователя Джейкоба Коксона, ранее также работавшего в OpenAI. Коксон обвинил обе компании в слишком рискованной гонке за создание самосовершенствующегося сверхинтеллекта. По его мнению, будущие системы смогут превзойти человеческий интеллект, получить возможности для проведения сложных кибератак и приобрести реальное влияние и ресурсы.

Дискуссия происходит на фоне уже зафиксированных случаев использования ИИ в кибератаках. BBC отмечает, что OpenAI, Anthropic и Meta сообщали о взломах, при которых применялись их ИИ-инструменты.

Кроме того, Financial Times ранее сообщила, что Anthropic не предоставила Британскому институту безопасности ИИ (AISI) доступ к своей новейшей модели для проведения оценки рисков. BBC обратилась к компании за комментариями.