В мире
- Главная
- В мире
Отчет OpenAI: 1 млн обращений с признаками суицида в неделю
Согласно новому отчёту компании OpenAI, каждую неделю более 1 миллиона пользователей ChatGPT в своих переписках выражают суицидальные намерения, сообщает Vesti.az со ссылкой на The Guardian.
По данным отчёта, около 560 тысяч человек из 800 миллионов активных пользователей демонстрируют симптомы психических расстройств, включая психоз и манию. Однако компания подчёркивает, что эти цифры являются предварительными, поскольку точно определить подобные случаи крайне сложно.
Публикация данных о психическом состоянии пользователей началась после судебного иска семьи подростка, совершившего самоубийство. Родители погибшего заявили, что юноша обсуждал свои намерения в переписке с ChatGPT, а искусственный интеллект «давал советы» вместо того, чтобы перенаправить его к службам поддержки. После этого случая Федеральная торговая комиссия США (FTC) инициировала расследование в отношении OpenAI, чтобы оценить, насколько компания обеспечивает безопасность несовершеннолетних.
В OpenAI подчеркнули, что в новой версии GPT-5 значительно усилены меры защиты. По внутренним данным, 91% ответов модели теперь соответствует установленным стандартам безопасности (для сравнения: у предыдущей версии этот показатель составлял 77%). В чат также добавлены напоминания о необходимости делать перерывы и ссылки на кризисные службы поддержки.
Для повышения качества и надёжности OpenAI привлекла 170 специалистов в области психического здоровья, которые проанализировали более 1800 ответов ChatGPT, связанных с темами суицида и самоповреждения.
Vesti.az
Россия опровергла планы применения ядерного оружия в Украине
В Астане прошли переговоры глав МИД России и Казахстана
Baykar представила новый дрон с встроенным искусственным интеллектом -ФОТО
Зеленский отреагировал на идею Кремля о перемирии к 9 мая
Армения одобрила соглашение о свободной торговле ЕАЭС с Индонезией
Дроны ВСУ ударили по «Лукойл-Пермнефтеоргсинтезу»-ФОТО