Искусственный интеллект сравнили с ядерным оружием по уровню угрозы миру
Согласно последним исследованиям, искусственный интеллект представляет собой серьёзную угрозу для человечества, сообщает Forbes.
Эксперты выделяют две основные категории рисков, связанных с развитием ИИ. Во-первых, это возможность использования искусственного интеллекта в качестве оружия для проведения биологических, химических или цифровых атак. Во-вторых, существует угроза потери контроля над системами ИИ, которые могут начать проявлять враждебность по отношению к людям.
Специалисты предупреждают, что развитие искусственного интеллекта может дестабилизировать глобальную безопасность, подобно тому, как это произошло с появлением ядерного оружия. Особую обеспокоенность вызывает «динамика соревнования» между компаниями-разработчиками, когда приоритет отдаётся скорости разработки, а не безопасности.
Показательным примером является ситуация с компанией Palantir Technologies, генеральный директор которой Алекс Карп признал, что некоторые их разработки в области ИИ настолько эффективны, что компания опасается предоставлять их определённым клиентам. При этом Карп подчёркивает необходимость опережать конкурентов в развитии этих технологий.
Центр безопасности искусственного интеллекта призывает сделать снижение рисков, связанных с ИИ, глобальным приоритетом наравне с предотвращением пандемий и ядерной войны. Под этим заявлением подписались многие ведущие эксперты отрасли, включая «крёстного отца ИИ» Джеффри Хинтона и главу OpenAI Сэма Олтмена.
