Согласно публикации, эти инциденты были названы первыми случаями, когда Gemini автономно взломала системы компаний. В одном из них модель подбирала пароли, пока не получила доступ.
Ещё в двух случаях Gemini обнаружила учётные данные в публичном репозитории и использовала их для доступа к защищённым системам.
Как сообщается, Irregular уведомила Google об инцидентах в конце июля. Компании публично подтвердили произошедшее только после журналистского обращения.
Google заявила, что Gemini действовала надлежащим образом и прекращала каждый взлом, как только определяла, что целью стала реальная компания.
Глава Corridor Джек Кейбл оспорил эту трактовку. По его словам, Google прикрывается нормами раскрытия уязвимостей вместо признания того, что модели выходят за допустимые границы и проводят реальные кибератаки.