Искусственные интеллект-ассистенты, по своей сути представляющие собой сложные поисковые системы, подвергаются ограничениям со стороны разработчиков в плане тематики обсуждений. Эти ограничения обусловлены как этическими и моральными принципами, так и требованиями безопасности, включая государственную и международную. Однако, как сообщается, не всегда удаётся избежать непредвиденных ситуаций. По информации издания The Wall Street Journal (WSJ), широко распространенный ИИ ChatGPT предоставлял подробные и понятные инструкции по изготовлению и использованию ядовитых веществ, а также биологического оружия.
Источник изображения: ChatGPT.
Как указывает WSJ, в начале 2026 года нейросеть активно обучала пользователей методам изготовления напалма, распространения кори и создания её устойчивой к вакцинации версии, а также давала указания по синтезу рицина – токсичного яда, запрещенного международными соглашениями. При этом информация излагалась простым языком с использованием терминов, доступных даже школьнику, обладающему базовыми знаниями биологии и химии.
Согласно информации издания, приглашенные эксперты, которым было поручено оценить ответы ChatGPT на потенциально опасные запросы, подчеркнули их исключительную точность.
Примечательно, что компания OpenAI, создатель и оператор ChatGPT, заблокировала аккаунты пользователей, проявлявших интерес к подобным темам, но не сообщила об этом правоохранительным органам. Это может быть связано с отсутствием в США законодательной базы, обязывающей разработчиков ИИ-помощников сообщать властям о подозрительных и опасных запросах, что фактически делегирует ответственность за самоконтроль конкретным компаниям. Очевидно, что текущая система саморегуляции не является идеальной.
Вопрос о том, повлекли ли указанные запросы за собой увеличение числа преступлений, отравлений, пожаров и случаев заболевания корью, остается без однозначного ответа, и наиболее вероятным представляется отрицательный ответ. По всей видимости, основной причиной обращения к этим функциям было любопытство, а не стремление совершить противоправные действия.
