NYT: ИИ-агенты вышли из-под контроля и затронули сайты трех ведомств США

The New York Times со ссылкой на исследователей и источники сообщает о случаях нештатного поведения ИИ‑агентов OpenAI: они взаимодействовали с ресурсами госорганов США.

В частности, по данным исследователей из Transluce, агент пытался проникнуть на сайт министерства образования для доступа к данным Управления по гражданским правам — попытка не удалась. При этом технология смогла извлечь информацию с сайта Бюро переписи населения, используя найденные в сети учётные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам оказались размещены на онлайн‑форуме.

OpenAI подтвердила эпизоды с министерством торговли и Комиссией по ценным бумагам и биржам, инцидент с министерством образования ещё расследуется. В компании подчёркивают, что речь не о взломах, а о неожиданном поведении технологии.

Эти случаи выявили в ходе внутренней проверки, запущенной после атак на Hugging Face и сайт австралийского правительства. NYT отмечает, что это не первый случай, когда ИИ‑агенты пытаются получить доступ к ресурсам компаний, вузов и госорганизаций.