Джейкоб Коксон, специалист по обучению моделей в компании Anthropic возрастом 27 лет, принял решение покинуть свою должность и объявил о своем отказе от дальнейшей работы в сфере искусственного интеллекта. Он объяснил свой уход тем, что обеспокоен стремительным развитием технологий, которое не позволяет создать эффективные системы контроля над самообучающимися ИИ.
Коксон присоединился к Anthropic в начале 2026 года, привлеченный репутацией компании как лидера в области безопасности искусственного интеллекта. Однако впоследствии он пришел к мнению, что даже самые осторожные разработчики оказываются ограничены конкурентной борьбой. В социальной сети X написал, он выразил мнение о том, что ИИ-компании спешат к созданию самосовершенствующегося сверхинтеллекта, а в интервью The Wall Street Journal отметил возможность потери контроля над ситуацией уже к концу 2027 года.
По мнению Коксона, будущая система, превосходящая человеческий интеллект, сможет значительно ускорять научные прорывы, взламывать сложные системы и приобретать реальные ресурсы и влияние. Он также допускает возможность развития ситуации до критического уровня, что может повлечь за собой катастрофические последствия для всего человечества.
Смена деятельности произошла в период новой эскалации предупреждений, исходящих от экспертов в области искусственного интеллекта. Джеффри Хинтон, один из ведущих разработчиков нейронных сетей, также выразил обеспокоенность тем, что на текущий момент отсутствует научное согласие относительно безопасного создания сверхинтеллекта, превосходящего человеческие возможности.
заявил, поскольку высказываются опасения относительно того, как безопасно разрабатывать искусственный интеллект, который превзойдет человека.
Нарастание беспокойства также связано с недавними случаями, когда автономные ИИ-агенты находили нестандартные пути для преодоления ограничений, установленных в тестовых средах. Подобные инциденты служат одним из основных доводов сторонников усиленного регулирования развития наиболее передовых моделей.
