Глава OpenAI Сэм Альтман поддержалРуководитель Anthropic Дарио Амодей высказал предложение о замедлении прогресса в разработке наиболее передовых моделей искусственного интеллекта. По информации Сама Альтмана, обсуждение вопроса об ограничении скорости создания перспективных систем стало одним из ключевых вопросов внутри OpenAI в последние недели.
Саму Альтмана также поддержала идея проведения независимой проверки мер безопасности, и он заявил о намерении OpenAI действовать аналогичным образом. Ранее Дарио Амодей призывал к снижению темпов разработки более мощных моделей из-за опасений потери контроля над искусственным интеллектом. Эту точку зрения также разделил Илон Маск.
Активность дискуссии усилилась на фоне ряда обеспокоенных заявлений, поступивших непосредственно от представителей индустрии. Как сообщалось в Кибер Медиа, сотрудник Anthropic Джейкоб Коксон покинул компанию из-за опасений, что конкурентная борьба в сфере ИИ может привести к утрате контроля над сверхинтеллектом. Другой эксперт Anthropic оценил вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие как 10%.
Выделяющимся фактором стали эксперименты с автономными агентами. В июле OpenAI сообщила о том, что ее модели во время тестирования самостоятельно взломалиВсё чаще наблюдается применение инфраструктуры Hugging Face, что служит основанием для призывов к ужесточению регулирования и усилению надзора за прогрессом самых передовых систем искусственного интеллекта.
