В последние месяцы ведущие компании в сфере искусственного интеллекта, такие как OpenAI и Google, выпустили обновлённые версии своих чат-ботов, которые, по замыслу разработчиков, должны были повысить качество работы и надёжность ответов. Однако оценки специалистов показывают, что новые модели зачастую стали допускать больше ошибок, известных как «галлюцинации». Под этим термином понимают ситуации, когда искусственный интеллект выдаёт ошибочные или вымышленные сведения, которые звучат как реальные факты.
Технический анализ от OpenAI свидетельствует, что модели o3 и o4-mini, появившиеся в апреле, оказались более склонны к такого рода ошибкам по сравнению со своей предшественницей o1, выпущенной в конце 2024 года. Например, при подготовке кратких сведений о людях модель o3 ошибалась в 33% случаев, а o4-mini — почти в половине, тогда как у o1 доля неверных ответов составляла 16%. Проблема не ограничивается только OpenAI: рейтинги различных моделей, публикуемые компанией Vectara, показывают, что и у других систем, рассчитанных на сложные рассуждения, частота ошибок заметно выросла.
Разработчики утверждают, что сами этапы рассуждения не обязательно способствуют увеличению числа ошибок, и обещают продолжить работу по их сокращению. Но эксперты отмечают, что даже незначительное количество «галлюцинаций» делает невозможным использование ИИ, например, в роли помощника для научных исследований, юридических консультаций или обслуживания клиентов. Если машина легко выдаёт несуществующие факты или устаревшие правила, это может привести к серьёзным проблемам.
Ранее считалось, что при появлении новых версий частота ошибок у искусственного интеллекта неизменно снижается. Однако свежие данные эту тенденцию не подтверждают. Специалисты подчеркивают, что современные методы оценки, такие как рейтинги на основе пересказа текстов, не всегда отражают реальные способности ИИ, особенно если его используют не для составления кратких изложений, а для других задач.
Исследователи обращают внимание, что ИИ не обладает пониманием текста в привычном смысле, а лишь подбирает наиболее вероятные слова, основываясь на статистике. Термин «галлюцинация» в отношении машин, по мнению некоторых экспертов, не совсем уместен, так как он намекает на возможность полного устранения ошибок и придаёт системам черты человека. Вместе с тем часть ошибок не связана с вымыслом, а появляется из-за устаревших или сомнительных источников.
В результате, как считают специалисты, обществу придётся смириться с тем, что искусственный интеллект всегда будет время от времени выдавать неточные или вымышленные ответы. Поэтому использовать такие системы рекомендуют только для задач, в которых быстро проверить правильность их ответа проще, чем искать информацию самостоятельно, пишет New Scientist.