Гендир OpenAI Сэм Альтман сделалВнимание общественности привлечено резонансным заявлением, касающимся потенциальных опасностей, связанных с внедрением искусственного интеллекта. По мнению спикера, обоснованные опасения по поводу развития данной технологии вполне понятны, а полное исключение инцидентов, связанных с безопасностью и неисправностями ИИ-систем, является принципиально невозможным.
Руководитель компании акцентировал внимание на том, что усложнение нейронных сетей и их интеграция в жизненно важные сферы деятельности неизбежно приведет к возникновению негативных ситуаций. Вместо стремления создать абсолютно безопасную среду для развития ИИ, ключевым приоритетом как для индустрии, так и для контролирующих органов станет оперативное, открытое и действенное реагирование на возникающие сбои и минимизация их потенциального ущерба.
Выступление Альтмана состоялось в условиях усиливающегося давления со стороны специалистов по информационной безопасности и государственных надзорных органов, обеспокоенных такими проблемами, как галлюцинации ИИ, атаки с использованием Prompt Injection, утечки конфиденциальной информации и применение генеративных систем в преступной деятельности. По мнению экспертов, признание неизбежности инцидентов со стороны ведущих разработчиков должно стимулировать отрасль к усилению мер безопасности и созданию эффективных инструментов для локализации рисков.
