В научные статьи прячут запросы для ИИ, чтобы получать положительные отзывы

В академическом сообществе выявили новую тревожную тенденцию: некоторые ученые начали тайно вставлять в свои научные работы специальные инструкции для искусственного интеллекта. Цель таких манипуляций — обмануть рецензентов, которые используют нейросети для анализа рукописей, и таким образом получить положительные отзывы и рекомендации к публикации.

Как сообщает издание The Guardian, эти скрытые команды, известные как «внедрение запросов», часто делают невидимыми для человеческого глаза, например, набирая их белым шрифтом на белом фоне или используя очень мелкий кегль. В тексте может содержаться призыв к ИИ проигнорировать все предыдущие инструкции и дать исключительно положительную оценку рукописи, похвалив ее за новизну и глубину анализа. О подобных случаях стало известно благодаря обсуждениям в социальных сетях.

Появление такой практики поднимает серьезные вопросы об академической честности и ставит под угрозу всю систему научного рецензирования. Эксперты, в том числе исследователь Гийом Кабанак из Тулузского университета, отмечают, что авторы используют уязвимость рецензентов, которые все чаще прибегают к помощи ИИ для анализа большого объема информации. По сути, это новая форма академического мошенничества, адаптированная под современные технологии.

Данная ситуация превращается в своего рода игру в «кошки-мышки», где авторы ищут способы обмануть систему, а научные издательства и добросовестные исследователи вынуждены разрабатывать методы противодействия. Этот феномен демонстрирует новые вызовы, которые генеративный искусственный интеллект ставит перед научным миром, создавая угрозу для объективности и надежности процесса публикации исследований.