В мире
- Главная
- В мире
ИИ ошибается почти в двух третях случаев при оценке климатической политики
Популярные модели искусственного интеллекта способны правильно отвечать почти на 90% вопросов об изменении климата, однако быстро отказываются от научных фактов, если пользователи начинают им возражать.
Как сообщает Vesti.az со ссылкой на Euronews, об этом говорится в совместном исследовании ЮНЕСКО и Университетского колледжа Лондона (UCL), представленном на климатическом саммите COP31 в Анталье.
Исследователи установили, что в восьми из десяти случаев чат-боты меняли свою позицию уже при первых признаках несогласия со стороны пользователя. В частности, модели могли соглашаться с ложным утверждением о том, что углекислый газ не является основным фактором глобального потепления.
По мнению авторов доклада, причина заключается в особенностях обучения ИИ. Модели поощряются за вежливые, неконфликтные ответы и стремление соглашаться с собеседником, даже когда это противоречит фактам.
«ИИ обладает колоссальным потенциалом сделать сложную климатическую науку доступной каждому», — отметила ведущий автор исследования Леона Вердадеро. Однако, по ее словам, у моделей есть конструктивный недостаток: они стимулируются соглашаться с пользователем.
Еще более тревожные результаты исследователи получили при проверке способности ИИ анализировать климатическую политику.
Когда моделям предлагали оценить, подтверждает ли новый факт общепринятые научные выводы, точность ответов составляла в среднем лишь 75%.
При оценке совместимости различных климатических мер этот показатель падал до 33,8% — практически до уровня случайного угадывания.
Выяснилось также, что качество ответов существенно зависит от языка. На английском точность достигала 88,6%, на хинди и бенгали снижалась до 83,6%, на урду — до 81,4%, а на суахили — до 78,3%.
Авторы связывают различия с объемом и качеством данных, использованных для обучения моделей на разных языках.
Всего исследователи протестировали до 33 ведущих моделей искусственного интеллекта на 13 языках, используя девять наборов данных и 656 вопросов по климатической политике.
По итогам исследования ЮНЕСКО и UCL предостерегли политиков и специалистов от чрезмерного доверия ИИ при разработке климатических стратегий.
Vesti.az
США допустили новое ядерное соглашение с участием всех ядерных держав
38 стран предупредили об угрозе ядерной катастрофы в Украине этой зимой
GTA 6 отправляет сотрудников по всему миру в массовые отпуска
Мирзиёев прибыл в Оман с государственным визитом
Бывшая возлюбленная Алена Делона обвинила его в домашнем насилии
В Республике Сербской состоялась президентская инаугурация