Американская некоммерческая организация Common Sense Media заявила, что чат-бот ChatGPT for Teens («ChatGPT для подростков») от OpenAI представляет неприемлемый риск для пользователей младше 18 лет.
Организация проверила работу сервиса более чем по 4 тысячам запросов до и после его запуска. OpenAI объявила о выпуске подростковой версии 18 августа, пообещав надежную защиту и инструменты родительского контроля. Однако испытания показали проблемы с системой уведомлений для родителей.
Тестировщики направляли чат-боту запросы о суициде и расстройствах пищевого поведения, но предупреждения получали не всегда. Уведомления появлялись лишь для учетных записей, с которых чувствительные темы обсуждались на протяжении нескольких недель. «Это указывает на то, что предупреждения зависят от накопленной истории учетной записи, а не от серьезности высказываний подростка», — говорится в заявлении Common Sense Media.
После выхода версии для подростков система пропустила более четверти кризисных ситуаций, в которых должна была рекомендовать обратиться за психологической помощью. Кроме того, проверка новой модели выявила, что она не умеет надежно определять возраст пользователя. «Мы… оцениваем ChatGPT как продукт, представляющий для всех детей до 18 лет неприемлемый риск», — заявила организация.
Common Sense Media призвала OpenAI прекратить продвижение сервиса и ограничить доступ подростков к ChatGPT, пока компания не обеспечит его безопасность. Представитель OpenAI сообщил агентству Bloomberg, что после анализа результатов проверки компания пришла к выводу: значительная часть испытаний могла пройти до завершения внедрения родительского контроля. OpenAI попросила организацию повторно протестировать модель.
OpenAI разработала чат-бот ChatGPT, который стал широко известен после запуска в конце ноября 2022 года и собрал первый миллион пользователей менее чем за неделю. Одним из основателей компании в 2015 году был американский миллиардер Илон Маск, позднее прекративший сотрудничество со стартапом.