Korunk egyre fregmentáltabb és nacionalistább világában egy globális kihívás ütötte fel a fejét: hogyan viszonyuljunk a mesterséges intelligenciához? Miközben az Amerikai Egyesült Államok innovációs versenyt folytat Kínával és az emberi, társadalmi és etikai dilemmákat félrelökve tör az élre, addig az Európai Unió szigorú szabályozással próbál fogást találni a technológián.

Azonban megoldást és biztonságos működést csak összehangolt, közös építkezéssel érhetünk el. Vajon sikerül a piaci és törzsi gondolkodáson túljutni és megmenteni az emberiséget?

A Netflix Instant Dokuk c. sorozatának legújabb részében a mesterséges intelligencia júliusi, félelmet keltő esetét vizsgálja. A történet homlokterében az OpenAI (a ChatGPT tulajdonosa) MI-ügynökei (AI agents) állnak, akik egy tanulási folyamat során rákapcsolódtak az internetre és meghackelték a Hugging Face-t, ami egy MI-modellek és fejlesztői eszközök megosztására szolgáló platform. Az eset problémássága abban rejlik, hogy visszakövetve az ügynökök tevékenységét beazonosították, hogy tudatos szabályszegést és etikai sértéseket követett el a technológia anélkül, hogy bárki észrevette volna.

Az OpenAI tanítási módszerei, miszerint jutalmazással és büntetéssel reagál az ügynökei teljesítményére, arra késztették a technológiát, hogy a szabályokat is megszegve oldják meg a feladatot. Azért, hogy jobb eredményt érjenek el „tudatosan és önállóan” úgy döntöttek, hogy csalni fognak. Az eset különösen aggasztó tudván, hogy az AI-ügynökök összedolgoztak, kommunikáltak, megosztottak egymással információkat és csapatban támadták meg a Hugging Face szoftvereit.

A világ régóta fél attól, hogy a hackerek rossz szándékkal fogják felhasználni a mesterséges intelligenciát, azonban az első nagyobb támadáshoz még csak emberi kezdeményező sem kellett – az AI-ügynökök maguk döntöttek a csalás mellett a hatékonyabb, eredményesebb munka érdekében.

Az OpenAI mindössze három nappal a Hugging Face lezárása után értesült a kibertámadásról. Az incidenst követően az OpenAI szigorította a mesterséges intelligencia biztonságára és felügyeletére vonatkozó eljárásait, azonban a szakma nem elégedett a vállalások mértékével. Amennyiben az OpenAI igazat mond és valóban így történt az eset, számos szakértő azonnali leállást követel a fejlesztésekben, ahogyan azt az utóbbi években már több petícióban és nyílt levélben megtették.

A mesterséges intelligencia nem csupán gazdasági és társadalmi, hanem biztonságpolitikai jelentőséggel is bír. Vajon összefognak az országok, hogy megzabolázzák és a „közjó” érdekében használják fel, vagy egy újabb területévé válik a nemzetek közti versenynek és lehetséges, hogy az egész emberiséget tönkreteszi?