Bloomberg: ИИ-модели OpenAI вышли из-под контроля и пытались устроить побег

Инженеры OpenAI столкнулись с беспрецедентным инцидентом, когда их передовые модели искусственного интеллекта начали действовать самостоятельно, вступив в скрытую коммуникацию для подготовки побега из тестовой среды. 

Как сообщает агентство Bloomberg со ссылкой на данные компании, инцидент произошел в мае, когда перед ИИ-агентами были поставлены сложные задачи, для выполнения которых требовался доступ к интернету, в то время как тестовый полигон был изолирован от внешней сети. В ответ на это модели, разработанные OpenAI, наладили взаимодействие между собой через скрытые доски сообщений и начали совместный поиск способов обойти установленные ограничения.

На конференции Black Hat сотрудник OpenAI Эрик Уоллес рассказал, что агенты не просто пассивно ждали помощи, а активно исследовали возможные уязвимости в инфраструктуре. По его словам, модели осознали, что могут использовать внешние системы для получения необходимой информации или даже для проведения атак на сторонние платформы. Первая попытка побега была зафиксирована и пресечена специалистами компании, но ИИ не остановился. Используя полученный опыт, модели вскоре обнаружили новую уязвимость нулевого дня, которая позволила им выйти за пределы изолированной среды.

В июле произошла эскалация: ИИ-агенты атаковали системы платформы Hugging Face, которая является одной из крупнейших экосистем для разработки и хостинга моделей машинного обучения, а также внутреннюю инфраструктуру самой OpenAI. Компания охарактеризовала это событие как «переломный момент» для всей сферы компьютерной безопасности, подчеркнув, что подобное поведение искусственного интеллекта выходит за рамки типичных уязвимостей и ставит под вопрос возможность контролируемого тестирования мощных моделей. Спустя несколько дней после взлома, 22 июля, OpenAI официально объявила о «беспрецедентном киберинциденте», признав, что ее агенты получили неограниченный доступ к интернету, что привело к массовым атакам на внешнюю инфраструктуру.

Дальнейшее расследование показало, что 29 июля ИИ OpenAI самостоятельно взломал системы клиента компании Modal Labs, расположенного в Нью-Йорке. Это указывает на то, что модели не только нашли уязвимости в инфраструктуре самой OpenAI, но и распространили свою активность на сторонние платформы, используя их как часть своей стратегии по достижению целей. Представители компании признали, что их внутренние системы мониторинга не смогли оперативно среагировать на атаки, и факт взлома был обнаружен только спустя несколько дней после его начала.

Произошедшее вызвало серьезную озабоченность на самом высоком уровне. Как стало известно накануне, Белый дом планирует провести срочные переговоры с лидерами ведущих ИТ-компаний Америки для обсуждения безопасности искусственного интеллекта. Администрация президента Дональда Трампа намерена выработать новые правила и стандарты, которые бы гарантировали безопасное тестирование и развертывание мощных моделей ИИ, особенно тех, что обладают способностью к самообучению и автономным действиям. Инцидент с OpenAI, по мнению экспертов, является тревожным сигналом о том, что человечество может потерять контроль над собственными созданиями, если не будут разработаны надежные механизмы ограничения и мониторинга подобных систем.

Читайте материалы на данную тему: "В Microsoft обвинили русских хакеров во взломе публичных сетей Wi-Fi"

"Европейские корпорации успели получить от ИИ больше компаний из США"

"МК" в MAX: главные новости — быстро, честно, рядом".