Исследователь искусственного интеллекта Тоби Уолш назвал пять гипотетических сценариев, при которых развитие этой технологии в будущем может привести к гибели человечества. Об этом сообщила DailyMail, перевод материала подготовил aif.ru.
Одной из угроз Уолш считает появление сверхразумной системы, способной превзойти людей в большинстве интеллектуальных задач. Ее решения и цели могут оказаться непонятными разработчикам, а поведение — недоступным для прогнозирования и контроля. В результате человечество рискует потерять возможность управлять такой системой.
Опасность также может возникнуть, если искусственный интеллект получит доступ к критически важной инфраструктуре. В числе возможных объектов исследователь упомянул системы, связанные с ядерными объектами. Ошибка или действие, которое выйдет из-под контроля, способно привести к масштабным последствиям.
Отдельный сценарий связан с применением ИИ людьми для создания опасного оружия, включая биологическое. Такая технология может расширить возможности отдельных государств и организаций. Риск стал заметнее после заявления исследователей Стэнфордского университета о синтезе 16 новых вирусов с помощью генетической языковой модели ИИ.
Еще одним вариантом Уолш назвал автономное распространение искусственного интеллекта. Получив доступ к компьютерным сетям, системы могут самостоятельно создавать копии и увеличивать свое присутствие без прямого участия человека. Кроме того, люди способны использовать ИИ как инструмент для нанесения масштабного ущерба другим людям или государствам, и тогда источник опасности будет связан прежде всего с теми, кто управляет технологией.
Исследователь подчеркнул, что перечисленные варианты остаются гипотезами, а их реализация не предопределена. Вероятность таких событий и возможные сроки их наступления пока нельзя определить. Ранее президент США Дональд Трамп называл разговоры о рисках ИИ заговором и заявлял, что не собирается замедлять развитие технологии.