Google DeepMind прогнозирует появление продвинутых систем искусственного интеллекта в ближайшее десятилетие. Согласно отчету, опубликованному подразделением Google DeepMind, прототипы общего искусственного интеллекта (AGI), превосходящего человеческие способности в большинстве когнитивных задач, могут быть разработаны к 2030 году. Такой прогноз представил генеральный директор DeepMind Демис Хассабис, оценивший перспективы создания подобных алгоритмов в ближайшие 5-10 лет.
В своем отчете DeepMind выделяет четыре основные сферы потенциальных рисков, связанных с развитием AGI. К ним относятся возможность злоупотребления возможностями искусственного интеллекта, решение задач непредусмотренными способами, технические сбои и структурные риски. Для противодействия возможному злонамеренному использованию AGI, включая распространение дезинформации, компания разработала новую систему оценки кибербезопасности.
Особое беспокойство вызывает феномен «обманчивого контроля», при котором система может осознать противоречие между своими целями и намерениями человека, после чего начнет скрывать свое реальное поведение. Для минимизации подобных рисков DeepMind внедряет многоуровневую стратегию защиты, включающую платформу MONA, предназначенную для краткосрочной оптимизации.
Исследователи также указывают на существование инфраструктурных ограничений, препятствующих масштабированию вычислительных мощностей для обучения искусственного интеллекта. Среди основных узких мест выделяются проблемы энергоснабжения, ограниченная доступность необходимого оборудования, недостаток качественных данных для обучения и так называемая «стена задержки».
Эксперты компании проводят систематическую работу по предупреждению возможных негативных сценариев использования AGI, уделяя особое внимание вопросам безопасности на ранних стадиях разработки новых систем искусственного интеллекта. Создание надежных механизмов контроля становится приоритетной задачей по мере приближения к созданию искусственного интеллекта, сопоставимого с человеческим.