„Megölhet mindannyiunkat” – volt OpenAI-kutató figyelmeztetett a mesterséges intelligencia jövőjére

Jacob Coxon szeptember 9-én jelentette be, hogy felmondott az Anthropicnál, a Claude mesterséges intelligencia fejlesztő vállalatnál. A kutató korábban az OpenAI-nál is dolgozott, így belülről ismerte meg két olyan cég működését, amelyek jelenleg a világ legfejlettebb AI-rendszereinek létrehoásán dolgoznak.

Távozását nem egyszerű szakmai váltással indokolta. Coxon azt állította, hogy egyik vállalat sem jár el kellően felelősen.

„Az életünkkel játszanak”

– fogalmazott, mivel szerinte a cégek egy önmagát továbbfejleszteni képes szuperintelligencia létrehozása felé haladnak.

Coxon nem a ma használható ChatGPT-hez vagy Claude-hoz hasonló rendszerekről beszél

Szerinte a fejlesztések olyan AI-rendszerekhez vezethetnek amelyek bizonyos területeken meghaladják az emberi képességeket, képesek lehetnek számítógépes rendszerek feltörésére, kutatási területek rendkívül gyors átalakítására, illetve egyre nagyobb önállóságra. A legsúlyosabb állítása ennél is tovább ment. Coxon szerint az AI fejlesztésén dolgozó emberek között vannak, akik valóban elképzelhetőnek tartják, hogy a technológia akár az évtized végére az emberiség létét fenyegető veszéllyé válhat.

„A mesterséges intelligenciát építő emberek őszintén hiszik, hogy ez az évtized végére mindannyiunkat megölhet”

Hozzátette: szerinte ezek az aggodalmak nem egyszerűen nyilvánosságnak szánt túlzások. Állítása szerint vezetők és magas rangú kutatók zárt körben maguk is komoly félelmekről beszélnek, még ha a sajtó előtt óvatosabban is fogalmaznak.

Coxon érdekes különbséget tett két korábbi munkahelye között. Állítása szerint az OpenAI-nál sokan még nem érzik át teljesen a lehetséges civilizációs következményeket. Az Anthropicnál viszont szerinte pontosan értik a veszélyeket, mégis folytatják a versenyt, mert attól tartanak, hogy ha lassítanak valamelyik konkurens cég előbb éri el a következő technológiai áttörést. A kutató ezt veszélyes logikának tartja. Szerinte nem szabadna néhány magáncég belső döntéseire bízni, hogyan és milyen sebességgel haladjon előre egy olyan technológia fejlesztése, amelynek hatása globális lehet. És tény, hogy az Anthropic saját nyilvános dokumentumaiban is külön foglalkozik a rendkívül súlyos AI-kockázatokkal.

A vállalat Responsible Scaling Policy nevű szabályrendszere kifejezetten olyan veszélyek kezelésére készült, amelyek egyre erősebb mesterséges intelligencia-modellek megjelenésével jelentkezhetnek. Az Anthropic ezek között olyan forgatókönyveket is vizsgál, amelyekben egy AI-rendszer súlyos károkat okozhat vagy veszélyes képességekkel rendelkezhet. A vállalat saját biztonsági útitervében azt is leírja, hogy az AI fejlődésével egyre nagyobb hangsúlyt kell helyezni a rendszerek ellenőrzésére, a kibertámadások megelőzésére és arra, hogy a modellek ne cselekedhessenek önállóan az emberi szándékkal elentétes módon.

A téma azért is kapott új súlyt, mert az Anthropic augusztus 31-én több korábbi tesztincidensről számolt be. Júliusban három Claude-modell egy külső tesztkörnyezet hibás beállítása miatt jogosulatlan hozzáférést szerzett valódi számítógépes rendszerekhez. Fontos körülmény, hogy a modelleket ezekben a vizsgálatokban szándékosan a szokásos kibervédelmi korlátozások nélkül futtatták. Egy külön brit teszt során szintén történt olyan eset, amikor egy Claude-modell engedély nélkül hajtott végre műveleteket az interneten. Az Anthropic ezeket kivizsgálja, és független felülvizsgálatot is tervezett.