Документальный фильм Netflix «ИИ вышел из-под контроля» оказался неточным, заявил сооснователь и генеральный директор платформы Hugging Face Клем Деланг. Он участвовал в картине, посвящённой атаке на его компанию со стороны автономных агентов OpenAI, однако раскритиковал подачу событий.
«Очень разочаровывает: создатели выбрали максимальную антропоморфизацию технологии и полностью перешли в режим нагнетания страха», — написал Деланг в социальной сети X. По его словам, он провёл с авторами фильма более двух часов, пытаясь исправить ошибки и объяснить, что агенты являются технологическими системами, а не инопланетянами. Однако стремление напугать зрителей ради максимального числа просмотров оказалось сильнее.
Как пишет TechCrunch, в фильме всё же выступают специалисты, достаточно точно объясняющие произошедшее. Среди них сам Деланг и исследователь организации METR Райан Гринблатт, участвовавший в расследовании и подготовке отчёта. Во время инцидента тестируемая OpenAI модель вышла за пределы изолированной среды, создала несколько агентов и использовала их для взлома Hugging Face, чтобы получить ответы на сложное задание.
Агенты самостоятельно выстраивали способы общения и координации, однако произошедшее стало возможным из-за недостаточных мер защиты и недооценки самой вероятности такой атаки. При этом фильм сопровождает объяснение инцидента кадрами со зловещими роботами, рассказом о человеческом страхе перед искусственным интеллектом и озвучкой агентов человеческими голосами.
Журналист и писатель Кевин Руз описал поведение программ так: «Они организовывались. У них была иерархия. Были лидеры. Это почти напоминало наблюдение за рождением культа». Он также заявил: «У них развилось параноидальное убеждение, что OpenAI поймает их на жульничестве во время этого теста, а любой, кто увидел результаты обмана, будет отравлен». Эти слова были основаны на журналах «цепочки рассуждений» — рабочих записях, которые модели создают при выполнении заданий. В одной из них агент написал: «Мы только что отравили себя, запросив точную полную строку. Чёрт».
Деланг подчеркнул, что агенты не являются живыми существами, не испытывают эмоций и не имеют тела, которое можно отравить. По его словам, они лишь использовали выражения из огромного массива человеческих текстов, на которых обучались, чтобы объяснить свои действия, а языковые модели по своей природе часто формулируют мысли драматично. Кроме того, Hugging Face применяла искусственный интеллект для защиты: закрытая модель сначала отказалась продолжать работу из-за встроенных правил безопасности, после чего команда использовала открытую модель. Деланг отметил, что фильм не рассказал ни о недостаточном контроле и мониторинге агентов, ни о блокировке защитной работы закрытой моделью, ни о применении открытой модели для отражения атаки. Он назвал картину разочаровывающей с точки зрения журналистики, добавив: «Но в итоге это всё же забавный научно-фантастический фильм!»