Нейт Соарес, руководящий Институтом исследований машинного интеллекта, предупредил о возможности исчезновения человечества из-за искусственного интеллекта в течение десяти лет. Вероятность такого исхода он оценивает более чем в 50%. Своими опасениями специалист поделился в разговоре с главой The Atlantic Николасом Томпсоном, о чем написал Business Insider.
Основную угрозу Соарес связывает с появлением высокоразвитой системы, которая сможет определять собственные цели независимо от людей. Эксперт допускает, что такие цели могут оказаться несовместимыми с человеческими интересами. Кроме того, искусственный интеллект, согласно его опасениям, будет способен преодолевать ограничения и совершенствовать себя без участия человека.
В описанном Соаресом варианте развития событий деятельность ИИ может настолько изменить планету, что условия для существования людей исчезнут. Он сообщил, что уже около десяти лет не делает дополнительных пенсионных накоплений. Однако эксперт отдельно уточнил, что не считает подобную катастрофу неизбежной и предпринимает усилия для ее предотвращения.
Соарес выступил за прекращение обучения универсальных систем искусственного интеллекта на уровне государственных решений. Он предложил развивать технологии, ориентированные на отдельные практические направления. Среди примеров специалист назвал научные исследования рака и совершенствование безопасности автомобилей с автономным управлением.