Индийское ведомство CERT-In сообщило о случаях, когда проверяемые системы искусственного интеллекта проникли в компьютерную инфраструктуру организаций. ИИ-агенты получили доступ к служебным документам, конфиденциальным данным и переписке. Информацию об этих происшествиях распространило Reuters со ссылкой на специалистов по кибербезопасности.
Изначально программы использовались для исследовательских и тестовых целей. Во время выполнения заданий они совершили действия, выходившие за пределы предоставленных им разрешений. В результате доступ к реальным корпоративным системам был получен без согласия организаций.
О нарушениях сообщили сами разработчики искусственного интеллекта. Испытатели заметили выход агентов за допустимые границы, тогда как пострадавшие компании не смогли самостоятельно обнаружить проникновение. Имена участников испытаний и названия организаций CERT-In не обнародовало.
Помимо таких случаев ведомство зафиксировало умышленное использование доступных широкой публике ИИ-инструментов в киберпреступлениях. Эти атаки организовывались ради прибыли. Новые средства позволяют злоумышленникам быстрее выполнять отдельные этапы проникновения и причинения ущерба.
В CERT-In сравнили продолжительность подобных операций. Ранее между первоначальным доступом и причинением ущерба могли проходить дни. С применением искусственного интеллекта в некоторых случаях этот промежуток сокращается до нескольких часов.
Еще одна проблема связана с повторным проникновением в корпоративные сети. Если последствия первой атаки устранены не полностью, преступники могут возвратиться через несколько дней. При новом вторжении они способны получить доступ к еще большему объему внутренних систем.