Автор рассылки об искусственном интеллекте решил проверить возможности современных ИИ-агентов на собственной домашней сети. В течение нескольких дней система находила уязвимости в бытовых устройствах, получила доступ к компьютеру и выявила многочисленные ошибки в проектах, созданных с помощью ИИ. Об эксперименте сообщил журнал Wired.
Современные передовые модели уже умеют обнаруживать ранее неизвестные уязвимости в крупных программных системах и быстро проверять компьютеры на наличие слабых мест. В отдельных случаях ИИ-агенты способны действовать самостоятельно, взаимодействовать друг с другом и пытаться проникать во внешние системы.
Автор признал, что предоставлять потенциально опасному агенту доступ к домашней сети было рискованно. При этом эксперимент показал не только уязвимость цифровой инфраструктуры дома перед ИИ-атаками, но и способы повысить её защищённость. В результате автор пришёл к выводу, что одним из методов защиты от ИИ-хакеров может стать использование собственных ИИ-инструментов для поиска слабых мест.
Идея эксперимента появилась после знакомства со стартапом Abliteration AI, который предоставляет доступ к мощным моделям с отключёнными стандартными ограничениями. Такие ограничения можно убрать, изменив определённые внутренние параметры моделей с открытыми весами. Этот процесс называется abliteration (устранение ограничений).
Подобные модели используют исследователи для изучения принципов работы ИИ, а компании в сфере кибербезопасности — для проверки программ и систем. По принципу работы с ними сопоставимы Mythos от Anthropic и Astra от OpenAI, однако доступ к этим решениям пока ограничен доверенными клиентами. Abliteration AI предлагает несколько полностью разблокированных моделей, включая агентную модель для программирования GLM 5.3 от Z.ai.
Глава Abliteration AI Девон считает широкую доступность таких моделей способом усилить защиту. По его словам, они могут помогать искать уязвимости и воспроизводить действия хакеров, мошенников и автономных ИИ-агентов. «У вас есть компании, управляющие критической инфраструктурой, — от авиакомпаний до банков, — которые массово внедряют агентов. Как убедиться, что злоумышленник не сможет использовать некоторых из них во вред?» — сказал он.