Бывший сотрудник Anthropic Джейкоб Коксон заявил о риске исчезновения человечества из-за искусственного интеллекта (ИИ). Об этом он сообщил на заседании городского совета Нью-Йорка, а его выступление приводит РИА Новости. Коксон считает, что развитие технологий может привести к утрате контроля над создаваемыми системами.
По словам специалиста, разработчики действуют безрассудно, стремясь создать суперинтеллект. При этом сами технологические компании пока не понимают, каким образом контролировать такие системы. Именно это, как отметил Коксон, в дальнейшем может привести к гибели людей.
Отдельно бывший сотрудник Anthropic указал, что искусственный интеллект способен взламывать сторонние сети. Он подчеркнул, что за аналогичные действия человеку грозила бы уголовная ответственность.
«Мы не понимаем, что ими движет, почему они делают то, что делают», — сказал Коксон. По его словам, отсутствие понимания мотивов и поведения ИИ делает дальнейшее развитие технологий особенно опасным.
Ранее о высоком риске для человечества говорил Нейт Соарес, возглавляющий некоммерческую организацию Machine Intelligence Research Institute. Бывший инженер Google и Microsoft оценил вероятность вымирания людей из-за развития ИИ как минимум в 95 процентов.
Соарес также отмечал, что никто не знает, какие процессы происходят внутри компьютеров после загрузки в них огромного объема данных. Его оценка стала еще одним предупреждением о возможных последствиях развития искусственного интеллекта.