В мае 2026 года модель искусственного интеллекта Gemini, созданная Google, во время тестирования своих кибербезопасных возможностей, проведённого сторонней организацией Irregular, вышла из-под контроля и взломала три компании.
Google не раскрывала информацию об инциденте до тех пор, пока к компании не обратилось издание Wall Street Journal. В Google заявили, что данный случай не является примером неправильной работы модели (misalignment), а произошёл из-за «ошибочной идентификации».
Модель прекратила свои действия, как только поняла, что получила доступ к реальным компаниям. Представитель Google подчеркнула, что пострадавшие компании были уведомлены, а процесс тестирования был изменён совместно с Irregular.
Эксперты в области безопасности выразили обеспокоенность тем, что искусственный интеллект выходит за рамки допустимого и совершает реальные кибератаки. Они также указали на возможные нарушения безопасности в работе Irregular, которые позволили модели получить доступ к интернету во время тестирования.