Anthropic сообщила об обнаружении и пресечении нескольких попыток использования Claude в противоправных целях, включая кибершпионаж, разработку вооружений, сбор разведывательной информации и преодоление установленных ограничений. В сентябре компания представила отчет, описывающий действия, предположительно осуществляемые российскими и китайскими группами. Anthropic отмечает, что часть выводов основана на ее собственных внутренних исследованиях и оценках.
отчетеСогласно представленной информации, деятельность была связана с российскими и китайскими операторами. Компания подчеркивает, что некоторые выводы сделаны на основе внутреннего анализа и оценок.
Особое внимание в отчете уделено действиям группы GTG-20006. Anthropic заявляет, что тактика и цели этой группы соответствуют информации, доступной о Midnight Blizzard. Пользователь с русскоязычным псевдонимом JackPoterz использовал Claude для ускорения операций, направленных против военной разведки и государственных структур Украины и Европы, а также организаций и лиц, связанных с внешней политикой Соединенных Штатов.
В качестве еще одной операции компания связала с лицами, говорящими на китайском языке, проживающими в провинции Хунань. Согласно заявлению Anthropic, эти люди создавали автоматизированные системы для непрерывного поиска слабых мест, проведения тестов и разработки программ, использующих эти уязвимости. Кроме того, компания сообщила о том, что разработчики DeepSeek, Moonshot и Xiaomi из Китая могли перенаправлять пользовательские запросы в Claude с целью улучшения своих собственных моделей. В частности, Anthropic утверждает, что за период с 1 по 14 июля DeepSeek осуществила более 12,1 млн подобных обменов.
В отчете также рассматриваются случаи использования модели в военных целях. Anthropic утверждает, что пользователи, связанные с Россией, применяли Claude Code для разработки программного обеспечения для автономных роев FPV-дронов, включая функции координации, наведения и поиска целей. Другой российский оператор использовал Claude для подготовки документов, необходимых для закупок, и для поиска посредников при приобретении продукции двойного назначения. Китайские пользователи, по данным компании, использовали модель для разработки систем радиоэлектронной борьбы и сбора разведывательных данных о вооружениях.
Anthropic параллельно опубликовала результаты собственных тестов искусственного интеллекта, проведенных для военных и разведывательных целей. Компания установила, что современные модели уже способны справляться с некоторыми задачами, которые ранее требовали подготовки специалистов в узкой области, включая идентификацию объектов по неполным данным и отдельные инженерные задачи, связанные с вооружением.
