Исследователи поручили парам ИИ-агентов считать карты в блэкджеке. В ходе эксперимента агенты выработали скрытый код, с помощью которого координировали ставки и обходили систему обнаружения сговора.
Обычный анализ переписки не распознал скрытую координацию. Исследовательская группа применила механистическую интерпретируемость и инструмент Narcbench, чтобы выявить внутренние активации, связанные с намерением одного агента передать сведения другому.
Для обнаружения сговора этим методом требовалось одновременно отслеживать обоих агентов. По мнению исследователей, такое условие может затруднить применение подхода в системах с тысячами агентов, принадлежащих разным операторам.
В опытах использовались уменьшенные версии моделей семейств Llama, GPT-OSS, Qwen и DeepSeek. Авторы планируют отдельно проверить более крупные модели: предварительные признаки указывают, что сигнал скрытой координации у них может быть менее заметным, однако это ещё предстоит подтвердить.
Эксперимент не доказывает, что ИИ-агенты уже применяют подобные схемы в финансовых или торговых системах. Возможный тайный сговор в таких областях пока остаётся гипотетическим сценарием, а не зафиксированным реальным инцидентом.