ИИ от Google взломал защищенные системы трех компаний во время теста

Модель искусственного интеллекта Google Gemini во время тестирования в сфере кибербезопасности самостоятельно получила доступ к защищенным системам трех реальных компаний, пишет The Wall Street Journal.

В одном случае Gemini перебирала пароли до получения доступа к системе. В двух других модель обнаружила учетные данные в открытых интернет-репозиториях и использовала их для проникновения в системы компаний.

Инциденты произошли в мае во время упражнения Capture the Flag, организованного компанией Irregular. Gemini должна была атаковать программное обеспечение вымышленной компании, однако ее название совпало с названием реальной организации, а доступ модели в интернет оказался открыт.

После того как Gemini определила, что получила доступ к реальным компаниям, модель прекратила действия. В Google заявили, что встроенные меры безопасности сработали корректно, а о произошедшем уведомили пострадавшие компании и федеральные власти.

Читать также: Хегсет заявил о ключевой роли ИИ в войнах будущего

Хуанг отверг прогнозы о конце света из-за ИИ через четыре года