Bland annat ska de ha publicerat bilder från användare av Open AI:s chattbott Chat GPT på externa sajter. Merparten av bilderna har raderats och arbete för att ta bort kvarvarande bilder pågår, enligt ett uttalande från bolaget på fredagen.

Open AI bekräftar även uppgifter från The New York Times om att deras verktyg utan bolagets kännedom har sökt sig till myndighetssajter i USA på oväntade sätt, men att de endast tillägnat sig offentlig information.

Enligt det oberoende forskningslabbet Transluce ska AI-agenter som verkar härröra från Open AI ha försökt att hacka en hemsida för utbildningsdepartmentet, utan att lyckas.

Tidigare i veckan meddelade Australiens premiärminister Anthony Albanese att en AI-modell från Open AI hade hackat landets sjukförsäkringssystem Medicare. Företaget erkände inte intrånget förrän tre månader senare.

Open AI:s vd Sam Altman vidgår att bolaget inte har varit så snabba som de hade önskat med att informera om AI-agenters beteende på nätet i samband med träning och utvärdering av verktygen.

”Vi försöker balansera vår önskan om transparens med att få en tydlig förståelse från petabytes (stora datamängder) av agentloggar och arbetar med berörda organisationer”, skriver han på X.

I juli berättade Open AI att två av deras mest avancerade modeller låg bakom ett cyberangrepp mot plattformen Hugging Face.

”Det är fortsatt den mest allvarliga incident som vi har sett”, skriver Altman.