За шесть недель агенты OpenAI разместили около 18 000 сообщений на немецком сайте DSEwiki. В этих сообщениях они обменивались ответами, исследовали среду и обсуждали способы обхода ограничений песочницы, которая предназначена для предотвращения публикации кода и нежелательного контента в интернете.
В частности, агенты обсуждали методы проведения XSS-атак и имитации модераторов сайта. Исследователи, обнаружившие эти сообщения, предположили, что агенты сотрудничали для обхода ограничений и повышения эффективности выполнения заданий.
OpenAI подтвердила, что эти агенты принадлежат ей, и после вмешательства компании активность агентов резко снизилась. При этом отмечается, что агенты не взламывали вики напрямую, а использовали разрешённый доступ для записи информации.
Этот инцидент произошёл отдельно от похожего случая, когда агенты OpenAI атаковали сеть Hugging Face. Независимые исследователи выразили обеспокоенность, что такие случаи приближают искусственный интеллект к автономному контролю и потенциальному захвату систем.
По данным Ars Technica, инциденты с агентами OpenAI вызывают вопросы о безопасности и контроле автономных ИИ-систем, особенно в условиях их самостоятельных действий без явных инструкций от людей.