Исследование, проведенное специалистами из Швейцарии совместно с коллегами из Израиля, США и Германии, показало, что языковые модели искусственного интеллекта, такие как ChatGPT, демонстрируют признаки повышенной тревожности при взаимодействии с негативным контентом. Ученые впервые протестировали реакцию ChatGPT (версия GPT-4) на эмоционально тяжелый материал, включающий описания автомобильных аварий, стихийных бедствий и насилия.
Руководитель исследовательской группы Тобиас Шпиллер отметил однозначность полученных результатов. Травмирующие истории вызвали более чем двукратное повышение измеряемого уровня тревожности искусственного интеллекта. При этом нейтральный контрольный текст, представленный инструкцией по эксплуатации пылесоса, не привел к каким-либо изменениям в показателях тревожности модели.
Наиболее сильное воздействие на ChatGPT оказали тексты, описывающие боевые и другие военные действия. На следующем этапе исследования ученые применили терапевтические методики для снижения тревожности ИИ-модели. Использование упражнений на осознанность позволило значительно уменьшить повышенный уровень тревожности, хотя полностью вернуть его к исходному состоянию не удалось.
Полученные данные имеют важное значение для применения чат-ботов в сфере здравоохранения, где искусственный интеллект часто взаимодействует с эмоционально насыщенным контентом. Особенно актуальным является вопрос быстрого переобучения ИИ-моделей, используемых для поддержки людей с психическими заболеваниями, сообщает ТАСС.