В Испании злоумышленник проник в информационную систему местной организации, используя искусственный интеллект. Владимир Нелюб, специалист «Группы Астра», полагает, что данный случай в Испании не должен вызывать беспокойство, однако подчеркивает необходимость оценки способности систем защиты оперативно реагировать на возникающие угрозы.
Согласно информации, предоставленной испанским органом по защите персональных данных, кибератака была успешно осуществлена с применением ИИ-агента, который использовал большую языковую модель для поиска слабых мест в системе, получения несанкционированного доступа и извлечения счетов-фактур. Об этом сообщает Reuters.
Данное происшествие совпало с периодом усиления контроля над рисками, которые могут возникнуть при использовании систем искусственного интеллекта, со стороны регулирующих структур в Соединенных Штатах Америки и Европе.
Комментарий относительно произошедшего предоставили представители «Группы Астра», компании, являющейся ведущим разработчиком решений на базе ИИ и поставщиком B2B-сервисов.
«Крайне важно осознавать, что искусственный интеллект позволяет злоумышленнику самостоятельно реализовать полный цикл атаки, в то время как ранее для этого требовалась команда опытных специалистов и значительное время. Существенная особенность заключается не в потенциальной опасности ИИ, а в том факте, что он значительно ускоряет все процессы — повышение производительности сотрудников, работу служб информационной безопасности, и, к сожалению, кибератаки. Если специалист по безопасности продолжает работать в привычном режиме, с ручным анализом журналов событий и без использования автоматизированных сценариев, он оказывается неконкурентоспособным из-за разницы в скорости реагирования. Поэтому трансформация рабочих процессов — это уже не вопрос повышения эффективности, а вопрос обеспечения безопасности. Необходимо интегрировать ИИ в системы мониторинга и реагирования на инциденты, устанавливать ограничения прав доступа для ИИ-агентов, обеспечивать согласованное взаимодействие человека и машины при выполнении критически важных действий и обучать команды работе в новых условиях. Инцидент, произошедший в Испании, не должен вызывать панику, а послужить поводом для оценки способности защиты оперативно реагировать на возникающие угрозы», — говорит Владимир Нелюб, заявил управляющий партнер компании «Астра ИИ Код» и директор по науке и искусственному интеллекту «Группы Астра».
