OpenAI планирует привлекать независимые организации для оценки безопасности и возможностей своих алгоритмов искусственного интеллекта на начальных этапах разработки. До этого момента сторонние специалисты, выполняющие роль «красных команд», обычно подключались к тестированию нейросетей непосредственно перед выпуском готового продукта.
По словам представителей компании, увеличение мощности систем искусственного интеллекта сопряжено с существенным ростом рисков, связанных с их непредсказуемым поведением и возможностью злоупотреблений. Предоставление внешним экспертам возможности ознакомиться с моделями на ранней стадии позволит своевременно обнаруживать серьезные недостатки, игнорирование заданных инструкций и потенциально опасные способы применения еще в период обучения, а не после выхода продукта.
Компания также акцентирует внимание на важности разработки общих международных стандартов безопасности для индустрии генеративного ИИ. В OpenAI надеются, что усовершенствованная методика аудита станет образцом для подражания в технологической сфере и поможет избежать потенциальных опасностей, связанных с прогрессом сильного искусственного интеллекта.
