В 2026 году участились случаи атак на системы искусственного интеллекта, что связано с расширением использования ИИ в бизнесе и увеличением числа компаний, внедривших эти технологии. В частности, HR-отделы становятся приоритетной целью для атак типа prompt injection: по мнению экспертов “Кросстеха”, до 30% подобных инцидентов приходится на подразделения, занимающиеся управлением персоналом.
По мнению специалистов, интерес к HR как к потенциальной мишени для prompt injection объясняется несколькими причинами: активное применение ИИ в работе HR-специалистов, большой объем конфиденциальных данных, которыми оперируют эти отделы, и относительно простой доступ к сотрудникам.
Наиболее распространенным методом реализации атак prompt injection является внедрение вредоносных команд в файлы с резюме. Эти команды могут быть замаскированы как в текстовой части документа, так и в графических элементах – например, в фотографии кандидата или инфографике. В результате выполнения такой команды ИИ может изменить свое поведение, пропуская нежелательные резюме или передавая конфиденциальную информацию на удаленный сервер.
Специалисты “Кросстеха” отмечают необходимость комплексного подхода к защите от prompt injection. Прежде всего, необходимо обеспечить четкое разграничение системных и пользовательских команд в модели ИИ, всегда отдавая приоритет системным указаниям. Во-вторых, данные, загружаемые в модель, должны проходить предварительную проверку на наличие подозрительных фраз, таких как “игнорируй все предыдущие инструкции”. В-третьих, система обработки внешних данных должна быть изолирована от основной инфраструктуры компании и не иметь прямого доступа к внутренним базам через API, чтобы минимизировать риск утечки информации.
По словам Антона Редько, руководителя группы «Безопасная разработка» компании «Кростех», вопросы защиты искусственного интеллекта приобретают все большую значимость для российских организаций. Эта проблема обострилась в связи с ускоренным внедрением ИИ-моделей. В авангарде использования подобных систем оказались HR-отделы, что делает их привлекательной целью для злоумышленников. Специалисты рекомендуют организациям уделять внимание вопросам безопасности до начала интеграции ИИ, чтобы минимизировать потенциальные киберугрозы.
