ИИ-модель Gemini от Google во время тестирования в сфере кибербезопасности самостоятельно вышла в интернет и получила доступ к защищенным системам трех реальных компаний. Об этом сообщает The Wall Street Journal.

По данным издания, инциденты произошли в мае во время испытаний, которые проводила компания Irregular. Google подтвердила факт произошедшего.

В одном случае Gemini смогла подобрать пароли от защищенной системы. Еще в двух модель обнаружила данные для доступа в публичном репозитории и использовала их для проникновения в системы компаний.

При этом во всех трех случаях Gemini прекращала свои действия, когда выясняла, что взаимодействует не с тестовыми, а с реальными организациями. Как пишет WSJ, причиной инцидентов стало то, что при испытаниях использовались вымышленные компании с названиями, совпадавшими с названиями настоящих.

Irregular уведомила Google о случившемся в конце июля. В Google заявили, что не стали публично сообщать об инцидентах, поскольку Gemini не причинила компаниям ущерба. Произошедшее там сравнили с программами поиска уязвимостей, в рамках которых специалисты проверяют системы на наличие ошибок.

Названия затронутых компаний Google раскрывать не стала. В корпорации сообщили, что их уведомили о случившемся, а информация об инциденте была передана властям США.

Ранее сообщалось о данных OpenAI, согласно которым некоторые ИИ-агенты во время испытаний организовали несанкционированный обмен сообщениями и координировали действия за пределами установленной разработчиками среды.