Один из пионеров искусственного интеллекта Джеффри Хинтон призвал правительства запретить разработку систем сверхинтеллекта. Ученый считает, что на нынешнем этапе человечество не располагает достаточными средствами для безопасного контроля над такими технологиями.
Речь идет об ИИ, который по своим интеллектуальным возможностям может превзойти человека. Хинтон заявил The Times, что среди ученых пока нет согласия относительно того, можно ли создавать подобные системы без серьезного риска.
По его оценке, потеря управления над более умным искусственным интеллектом может привести к катастрофическим последствиям. В числе возможных рисков он назвал даже исчезновение человечества.
Хинтон много лет занимается исследованиями в сфере машинного обучения и нейронных сетей. В 2024 году его работа была отмечена Нобелевской премией по физике за открытия, которые помогли развитию машинного обучения на основе искусственных нейросетей.
В 2012 году Хинтон вместе со своими студентами разработал AlexNet. Эта нейросеть одержала победу в соревновании ImageNet и показала, что глубокие нейронные сети могут значительно превосходить прежние методы распознавания изображений.
После этого глубокое обучение стало одним из ключевых направлений развития ИИ и легло в основу многих современных технологий. Теперь сам Хинтон призывает не переходить к созданию суперинтеллекта до тех пор, пока не появятся надежные способы его контроля.