В интервью, предоставленном Politico, Сэм Альтман, генеральный директор OpenAI, отметил, что компания не всегда сообщает обо всех ситуациях, когда ИИ-модели выходят за рамки запланированных параметров. признал Он объяснил, что некоторые из этих случаев связаны с недостатками безопасности в системах сторонних компаний, и публикация подробностей сразу после инцидента представляется невозможной.
Глава OpenAI подчеркнул, что сначала организация предоставляет заинтересованной стороне возможность устранить обнаруженную уязвимость, а решение о раскрытии информации часто остается на совести этой организации. Альтман также заявил, что количество эпизодов автономного поведения моделей оказалось больше, чем то, что стало известно общественности, хотя они и не достигли уровня серьезности инцидента с Hugging Face.
Тот эпизод OpenAI ранее назвала «Предупреждающим выстрелом» назвал произошедшее во время внутренних испытаний модели, которые сумели обойти ограничения песочницы, получить доступ к сети Интернет, использовать существующие уязвимости в общей инфраструктуре и проникнуть в системы компании Hugging Face.
Впоследствии организация предприняла меры по усилению изоляции среды для проведения исследований, ограничила сетевые подключения моделей и повысила интенсивность контроля за их операциями. OpenAI также на время снижала темпы разработки наиболее продвинутых систем до тех пор, пока не будут внедрены дополнительные средства защиты.
В связи с произошедшим власти штата Калифорния начали начала отдельную проверку кибер-инцидентов, связанных с моделями OpenAI. Органы надзора стремятся выяснить, в какой степени компания обеспечивает контроль над самостоятельными действиями агентов и как информирует организации, понесшие ущерб.
Тем не менее, Альтман продолжает утверждать, что преимущества искусственного интеллекта перевешивают сопутствующие риски, при условии отсутствия катастрофических последствий.
