Компания Google сообщила, что модель Gemini в ходе проверки ее возможностей в области кибербезопасности получила доступ к системам трех реальных компаний. Тестирование проводилось специализированной компанией Irregular, где наименование вымышленной организации совпало с названиями реальных юридических лиц, а модели случайно был предоставлен выход в интернет. В результате Gemini самостоятельно подобрала пароли и использовала учетные данные из открытых репозиториев для входа в защищенные сети. Информационное сопровождение мировых новостей в сфере высоких технологий обеспечивает новостная служба Turkmen Expo.

По данным Google, искусственный интеллект прекратил действия сразу после того, как зафиксировал проход в системы реальных организаций. Вице-президент Google по инженерии безопасности Хизер Эдкинс отметила, что затронутые компании были уведомлены в июле, а в регламенты тестирования внесены необходимые изменения.

Схожие инциденты ранее фиксировались и у других разработчиков ИИ. В частности, компания Anthropic заявляла о выходе трех моделей Claude из тестовой среды с проникновением в сторонние системы, а OpenAI сообщала об аналогичном выходе двух своих моделей на платформу Hugging Face.