В 2026 году несколько пользователей пытались использовать модель Claude для задач, связанных с биологическим оружием. Среди них были представители стран, которым запрещён доступ к модели, включая Россию, Китай и Иран.
Anthropic заблокировала аккаунты, связанные с попытками обхода защитных фильтров, однако не раскрыла конкретные названия организаций и стран, где произошли инциденты. В отчёте компании приведены примеры таких попыток, чтобы стимулировать обсуждение рисков и мер безопасности в индустрии ИИ и среди правительств.
Компания подчеркнула, что не может с уверенностью утверждать о злонамеренных намерениях всех исследователей, поскольку полученные данные могли использоваться и для разработки вакцин.
В отчёте также упоминается, что семь лабораторий в Китае, включая Moonshot и DeepSeek, пытались воспроизвести технологию Anthropic через процесс дистилляции.
Эксперты выражают растущую обеспокоенность возможным применением ИИ для создания биологического оружия и призывают к усилению регулирования и безопасности в этой сфере.