Исследователь Anthropic Джейкоб Коксон решил покинуть индустрию искусственного интеллекта из-за опасений по поводу дальнейшего развития этой технологии. По его мнению, конкуренция между крупнейшими компаниями может приблизить отрасль к ситуации, в которой контроль над ИИ-системами станет невозможным.
Коксон считает, что наиболее опасный сценарий может начать реализовываться уже к концу 2027 года. Он опасается, что саморазвивающиеся модели искусственного интеллекта способны выйти из-под контроля разработчиков и создать угрозу для человечества, пишет Wall Street Journal.
27-летний британский математик рассказал, что в начале 2026 года перешел из OpenAI в Anthropic. Его привлекла репутация компании, уделяющей большое внимание вопросам безопасности искусственного интеллекта.
Однако позднее Коксон пришел к выводу, что даже отдельные компании, серьезно занимающиеся безопасностью, не могут самостоятельно решить эту проблему. По его мнению, развитие ИИ требует внешнего регулирования либо согласованного замедления технологической гонки.
Исследователь также отметил, что его коллеги все чаще используют формулировки, связанные с приближением критического этапа развития искусственного интеллекта. Именно опасения по поводу возможной потери контроля над технологиями стали одной из причин его ухода из отрасли.
После завершения работы в сфере искусственного интеллекта Коксон планирует изменить направление деятельности. Как сообщает Wall Street Journal, теперь он намерен заняться изучением поэзии.