Согласно совместному исследованию, проведенному Б1, ГК «Солар», Ассоциацией ФинТех и HiveTrace, подавляющее большинство российских компаний – 97% – уже внедрили искусственный интеллект, находятся в процессе его тестирования или рассматривают его как важный фактор для развития бизнеса. Для 35% организаций внедрение ИИ входит в число ключевых стратегических целей, а для 46% — является неотъемлемой частью рабочих процессов. Наиболее часто искусственный интеллект применяется в сфере обработки информации, взаимодействия с клиентами, аналитической деятельности, разработки программного обеспечения и системах идентификации.
В рамках исследования были опрошены представители более чем 60 компаний, представляющих 10 различных отраслей экономики, включая финансы, промышленность, розничную торговлю, информационные технологии, транспорт и логистику. При этом две трети участников – это организации со средним и крупным бизнесом, насчитывающие от 2000 сотрудников.
Наиболее востребованными технологиями искусственного интеллекта оказались большие языковые модели (ГенИИ/LLM), которые используют 79% компаний-участниц опроса. Также 67% организаций интегрируют в свои рабочие процессы ИИ-системы, дополненные функцией поиска информации (RAG), а почти половина респондентов (46%) применяет ИИ-агентов с доступом к различным системам. Вместе с тем, 42% компаний отмечают отсутствие разработанных политик информационной безопасности в области использования ИИ или же разрешают использование ИИ без предварительного технического контроля. Более того, треть опрошенных организаций выделяет необходимость контроля несанкционированного применения ИИ, управления доступом к нему и предотвращения действий, совершаемых неавторизованными инструментами искусственного интеллекта.
Главный риск — утечки
Более 80% компаний считают утечку данных через системы искусственного интеллекта наиболее серьезной угрозой для своего бизнеса. За ней по степени важности следуют галлюцинации и генерация некорректного контента (67%), компрометация информации (54%), регуляторные риски (47%) а также «отравление» данных и злоупотребления агентами искусственного интеллекта (по 42%).
По словам директора Центра технологий кибербезопасности «Солара» Ивана Вассунова, около 40% организаций не предусматривают финансовые ресурсы для обеспечения безопасности искусственного интеллекта, а еще более чем у 40% таких планов пока нет. При этом конфиденциальная информация уже передается внешним, нередко зарубежным, поставщикам решений в области ИИ. В дальнейшем ожидаются гибридные атаки: злоумышленники будут внедрять вредоносные данные в базы знаний, используемые искусственным интеллектом, что может привести к незаметному искажению бизнес-процессов компании.
Бюджеты и меры защиты
Финансовые средства на защиту ИИ выделяют лишь 49% компаний (этот показатель выше среди организаций, для которых ИИ является приоритетным направлением); 40%+ не планируют никаких затрат, а среди «приоритетных» таких 15%. В то же время, 53% респондентов намерены увеличить расходы в этой области, а 23% — сохранить текущий уровень финансирования.
В числе уже реализованных мер: контроль доступа к ИИ (65%), защита и обезличивание данных (53%), использование ИИ-шлюзов (46%), фильтрация запросов (42%), управление действиями агентов (37%).
ИИ-агенты — новый субъект в инфраструктуре
Как отмечает Вассунов, ИИ-агент становится полноправным участником корпоративной инфраструктуры, подобно обычным пользователям. Поэтому необходимо четко определять его права доступа и отслеживать используемые учетные записи, разрешения и действия. В числе новых задач бизнеса — обеспечение безопасности «вайбкодинга» и разработки агентского программного обеспечения, установление правил взаимодействия с общедоступными нейросетями, контроль сетевого трафика через веб-шлюзы и защита моделей от нежелательного воздействия.
Спрос рынка
Наиболее востребованными мерами защиты признаны: предотвращение утечек данных (59%), обеспечение безопасности персональных сведений (55%), защита от вредоносных воздействий, осуществляемых через запросы к моделям искусственного интеллекта (41%), контроль использования неавторизованных ИИ-сервисов (30%) и защита агентов (27%). Меньший интерес у бизнеса вызывают вопросы защиты моделей от копирования и маркировки создаваемого контента.
В. Вассунов сформулировал пять основополагающих принципов обеспечения безопасности: однозначная идентификация агента с закрепленным набором прав доступа; строгий контроль за конфиденциальной информацией; ведение подробного журнала действий модели; обязательная проверка на наличие уязвимостей, связанных с промпт-инъекциями и галлюцинациями, перед предоставлением доступа к системе; продуманная архитектура используемых систем.
Оценка рынка
По мнению аналитиков «Солара», объем рынка решений для защиты искусственного интеллекта может составить от 1 до 2 млрд рублей в части технологической составляющей и до 3–4 млрд рублей, если учитывать затраты на тестирование на проникновение (pentest), red team-тестирование и внедрение. На рынке представлено более десяти компаний: стартапы, поставщики облачных сервисов и традиционные компании, специализирующиеся на информационной безопасности. «Солар» формирует собственный портфель решений, интегрируя существующие инструменты — системы управления идентификацией и доступом (IDM/PAM), средства предотвращения утечек данных (DLP), веб-прокси для контроля трафика, связанного с ИИ.
