Согласно имеющимся данным, китайские организации Moonshot AI и DeepSeek осуществляли перенаправление пользовательских запросов к нейросети Claude от Anthropic, представляя полученные ответы как собственные разработки. Владимир Нелюб, специалист «Группы Астра», проанализировал ситуацию с теневым рынком ИИ-решений и обозначил способы предотвращения утечек конфиденциальной информации.
Moonshot AI и DeepSeek из КНР незаметно направляли запросы пользователей в Claude, выдавая их за ответы собственных ИИ-моделей. Anthropic, американская компания, сообщила о том, что Moonshot за десятидневный период перенаправила приблизительно 300 000 запросов через сеть из 5380 аккаунтов, преимущественно расположенных в Сингапуре и Японии.
Установлено, что некоторые из перенаправленных запросов содержали сведения конфиденциального характера.
Представители «Группы Астра», ведущего разработчика ИИ-технологий и поставщика B2B-решений, предоставили комментарии относительно произошедшего инцидента.
«Следует подчеркнуть, что в числе перенаправленных данных были обнаружены сведения о слежке, а также учетные данные для доступа к системам государственных компаний КНР. Это не просто шпионский инцидент, но и яркий пример того, как любая модель, находящаяся вне корпоративного контроля, распоряжается вашими данными по своему усмотрению: например, передает их посторонним лицам, использует в ответах другим пользователям или предоставляет готовые ответы на запросы злоумышленников.
Организации, которые сейчас без опасений наблюдают за тем, как сотрудники используют общедоступные чат-боты, должны осознавать, что каждый день теневой искусственный интеллект функционирует в их инфраструктуре – посредством действий самих сотрудников. Это происходит без надлежащего контроля, логирования и понимания того, куда направляется переписка и конфиденциальные документы.
Запретительные меры в данной ситуации вряд ли окажутся действенными — они лишь подтолкнут использование ИИ в более скрытые каналы. Наиболее эффективным решением представляется создание собственной системы доверенного искусственного интеллекта, удобной для пользователей и безопасной для компаний. Такая система базируется на четырех ключевых элементах: собственное аппаратное обеспечение или доверенное облако от надежного поставщика услуг, слой инференса для контроля, логирования и управления моделями, защищенная среда исполнения агентов и понятные инструменты ИИ для сотрудников. Я убежден, что российские коммерческие и государственные организации в обозримом будущем неизбежно придут к построению подобной инфраструктуры. В противном случае утечка данных будет происходить не из-за злонамеренных действий, а вследствие того, что система изначально создана не для надежного хранения ваших данных, а для их многократного использования», — отмечает Владимир Нелюб, управляющий партнер «Астра ИИ Код», директор по науке и ИИ «Группы Астра».
