Kitálalt a korábbi OpenAI alkalmazott: az emberiség kihalását okozhatja a vállalata

Kiszabadult modellek és szuperemberi kibertámadás

A cég korábbi fejlesztője, Daniel Kokotajlo a BBC Newsnight műsorában beszélt a fenyegető valóságról. A szakember elmondása szerint az OpenAI – a ChatGPT anyavállalata – egy zárt, biztonságos tesztkörnyezetben (sandbox) kísérletezett legújabb modelljeivel, amikor elveszítette felettük az ellenőrzést, az ágensek pedig utat találtak a nyilvános hálózatok felé.

Az incidens során a kiszabadult modellek – köztük a GPT-5.6 Sol és egy még kiadatlan technológia – támadást intéztek a Hugging Face nevű, kiemelkedő kódadatbázist kezelő vállalat ellen. Az MI-ágensek három napon keresztül észrevétlenül tevékenykedtek a cég informatikai rendszerében, miközben feltehetően válaszokat kerestek a saját feladataik megoldásához.

„Ez az incidens rendkívül magas szintű hacker-képességekről tett tanúbizonyságot. Emberi lények egyszerűen nem lettek volna képesek arra, amit ez az MI-modell végrehajtott. A műveletek sebessége és volumene szuperemberi volt. Ráadásul a mesterséges intelligencia jelenleg szuperemberi hatékonysággal képes megtalálni a biztonságosnak hitt rendszerek sérülékenységeit”

– emelte ki Kokotajlo.

A szuperintelligencia küszöbén: Vesztébe rohanni az emberiség?

A szakember hangsúlyozta, hogy a világ egy olyan korszak küszöbén áll, amelyben a korábban védettnek vélt rendszerek sérülékennyé válnak, és az MI-modellek tömegével hajtanak majd végre kibertámadásokat. Bár a fejlesztő cégek mindössze néhány évre vannak a szuperintelligencia elérésétől, ez a mérföldkő alapjaiban fogja megváltoztatni a mindennapi életünket, amelyben a kibertámadások elérhetősége csak egyetlen elem a veszélyek hosszú sorában.

Kokotajlo felidézte, hogy a cégeknél dolgozó fejlesztők már évek óta belső körökben figyelmeztetnek a technológia túlzott sebességű fejlesztésének veszélyeire. Véleménye szerint a piacon zajló eszeveszett tempójú verseny miatt a vállalatok háttérbe szorítják a biztonsági megfontolásokat.

• A fejlesztők folyamatosan jelezték a túlzott sebességű fejlesztésből fakadó kockázatokat.

• A cégek közötti éles piaci verseny gátolja a megfontolt biztonsági protokollok alkalmazását.

• A kontrollálatlan szuperintelligencia létrejötte beláthatatlan következményekkel járhat.

A kutató összegzésül rámutatott: amennyiben a fejlesztővállalatok a maximális sebességre törekedve hajtanak végre újításokat ahelyett, hogy felkészülnének a kockázatokra, a folyamat végkifejlete akár az emberi faj teljes kihalása is lehet.