Всемирно известный специалист в области компьютерных наук Джеффри Хинтон выразил серьезную обеспокоенность относительно перспектив взаимодействия человечества и искусственного интеллекта. Профессор, которого в научных кругах часто именуют «крестным отцом ИИ», оценивает вероятность наступления катастрофических последствий для человечества от развития искусственного интеллекта в 10-20%.
Хинтон подчеркнул уникальность сложившейся ситуации, отметив, что человечество впервые сталкивается с необходимостью взаимодействовать с потенциально более интеллектуальными созданиями. История практически не знает примеров эффективного управления менее развитыми существами более разумных. По его словам, в сравнении с продвинутыми системами ИИ люди будут выглядеть как младенцы.
Основной риск, по мнению ученого, заключается в возможности утраты контроля над искусственным интеллектом, когда системы превзойдут человеческий разум и перестанут подчиняться командам создателей. Такой сценарий представляет экзистенциальную угрозу для всего человечества.
Особую тревогу вызывает неожиданно быстрое развитие технологий искусственного интеллекта. То, что научное сообщество прогнозировало как отдаленную перспективу, уже становится реальностью. Эта стремительность развития застала врасплох как самого Хинтона, так и многих других ведущих экспертов в данной области.
Профессор Хинтон предупреждает, что при сохранении текущих темпов развития искусственного интеллекта критическая точка может быть достигнута в ближайшие три десятилетия. Эксперт призывает научное сообщество и правительства стран мира более ответственно подходить к регулированию данной сферы и разработке механизмов безопасности, сообщает редакция технологического раздела.