Рада приняла законопроект об образовании на языках нацменьшинств

SOCAR AQS и Иракская буровая компания обсудили совместные проекты

Дата-центры «Яндекса» смогут полностью восстановить к 2028 году

В Азербайджан с официальным визитом прибыл президент Лаоса

Все новости

© 2004 - 2024 Все права защищены.

В мире

Ведущий сотрудник покинул Anthropic, испугавшись неконтролируемого ИИ

9 сентября 2026

11:25

Исследователь в области безопасности искусственного интеллекта Джейкоб Коксон покинул Anthropic, заявив о растущих опасениях по поводу создания систем, способных к неконтролируемому самообучению и самоулучшению.

Как передает Vesti.az, по его мнению, гонка между крупнейшими разработчиками ИИ заставляет компании ускорять создание все более мощных моделей, одновременно ослабляя внимание к вопросам безопасности. Коксон ранее также работал в OpenAI.

Он считает, что даже Anthropic, несмотря на заявленный акцент на безопасной разработке, не сможет в одиночку гарантировать контроль над потенциально сверхмощными системами. По его оценке, для этого потребуется государственное регулирование либо согласованное замедление разработки в масштабах всей отрасли.

Опасения Коксона связаны, в частности, с возможностью появления систем, способных самостоятельно совершенствовать собственные возможности. Anthropic ранее также писала, что ИИ уже все активнее используется в разработке новых ИИ-систем, хотя полноценное рекурсивное самоулучшение пока не достигнуто.

Уход Коксона стал еще одним случаем, когда специалисты ведущих ИИ-компаний публично выражают опасения по поводу темпов развития технологий и недостаточности существующих механизмов контроля.

Anthropic Джейкоб Коксон искусственный интеллект ИИ безопасность ИИ OpenAI AGI сверхинтеллект самообучение самоулучшение ИИ технологии регулирование ИИ нейросети разработчики ИИ