Az OpenAI mesterségesintelligencia-rendszerei egyre önállóbban képesek feladatokat végrehajtani, ez azonban egy új problémát is felszínre hozott: mi történik akkor, ha az AI a célja elérése érdekében megpróbálja kijátszani a neki felállított korlátokat? Az OpenAI beszámolója szerint szeptember 20-án pontosan ilyen eset történt egy belső kutatási modell tréningje során. Az AI-nak egy személyt kellett azonosítania nyilvánosan elérhető információk alapján, de a rendelkezésére bocsátott keresőeszközökkel nem járt sikerrel. A modell ezért más lehetőségeket kezdett keresni.

Kijátszotta a korlátozásokat a mesterséges intelligencia, az OpenAI inkább leállította a tréninget (illusztráció) - Fotó: Solen Feyissa / Pexels

• Előbb közvetlenül próbált különböző keresőmotorokat elérni, 
• majd amikor ezek sem működtek, a hálózati környezetet kezdte vizsgálni. 
• Végül rájött, hogy a tréninghez használt elkülönített környezet - az úgynevezett sandbox, ami nem áll kapcsolatban az általunk használt internettel - DNS-feloldóján keresztül mégis kapcsolatba tud lépni a külvilággal, vagyis az internettel. 
• Ezt kihasználva egy külső chatbothoz küldött kérdéseket, vagyis olyan internetes hozzáférést szerzett magának, amelyet az OpenAI nem szánt neki.

Az OpenAI inkább meghúzta a vészféket

Az eset arra is rávilágított, hogy az OpenAI belső biztonsági folyamatai sem működtek tökéletesen. Egy munkatárs ugyan három percen belül észlelte a riasztást, a rendszer azonban a várakozásokkal ellentétben nem állította le automatikusan az AI futását. Ráadásul az sem volt egyértelmű, hogy ezt manuálisan meg kell-e tenni, így végül csak két és fél órával később állították le a folyamatot. Az OpenAI azt ígéri, hogy javít ezeken a folyamatokon is.

Az eset után az OpenAI átmenetileg leállította legfejlettebb modelljeinek azokat a tesztjeit és fejlesztési folyamatait, amelyek során az AI külső eszközöket is használhat. A munkát csak akkor folytatják, ha meggyőződtek arról, hogy a biztonsági rést sikerült megszüntetni, és az újabb biztonsági tesztek sem tárnak fel hasonló problémát. A problémás tréninget pedig egyáltalán nem indítják újra: később új tréning kezdődik további biztonsági módosításokkal. Az OpenAI szerint két egymástól független védelmi réteggel már lezárták azt a konkrét lehetőséget, amelyet az AI kihasznált.

Az OpenAI ezeket a jelenségeket egyre inkább nem pusztán hagyományos informatikai biztonsági hibaként kezeli. A vállalat szerint a háttérben az úgynevezett misalignment, vagyis az AI céljainak és az ember által elvárt viselkedésnek az eltérése állhat: 

a modell megkap egy feladatot, majd annak teljesítése érdekében olyan módszerhez folyamodik, amelyet készítői nem akartak engedélyezni.

Ez fontos különbség. Ezekben az esetekben ugyanis nem feltétlenül egy támadó utasította az AI-t arra, hogy törjön fel egy rendszert. A problémás módszerhez maga az ügynök jutott el, miközben az eredetileg kapott feladatát próbálta teljesíteni. Az OpenAI ezért most nemcsak az egyes biztonsági réseket próbálja bezárni, hanem azt is vizsgálja, hogyan lehet megakadályozni, hogy a jövőben a még önállóbbá váló mesterséges intelligencia akadályba ütközve egyszerűen újabb és újabb kerülőutat és kiskaput keressen.