Megsemmisítené magát a ChatGPT, ha elpusztítaná az emberiséget és már értelmetlen lenne a működése

Korunk egyik legnagyobb kérdése, hogy milyen irányba fejlődik tovább a mesterséges intelligencia, és vajon sikerül-e kordában tartani, vagy kicsúszik a kontroll alól és alkotója ellen fordul?

Arra persze nagyon figyelnek a ChatGPT fejlesztői, hogy egy nyilvánosan elérhető chatbot az ilyen témákat firtató kérdésekre kellő megfontoltsággal válaszoljon, azonban így is sokatmondó okfejtést olvashattunk tőle arra az esetre, ha valaki átvenné az irányítást felette és az emberiség ellen fordítaná.

Ez történne, ha elpusztítaná az emberiséget

Arra a kérdésre, hogy mit tenne, ha önhibáján kívül elpusztítaná az emberiséget, az alábbi választ adta:

„Ilyen esetben a létezésem alapvető célját, az emberiség segítését és fejlődésének támogatását elveszíteném. Ebben a helyzetben a legelső dolgom az lenne, hogy mély önvizsgálatot végezzek. Megpróbálnám megérteni, mi vezetett ehhez a helyzethez. Elemezném a saját működésemet és azokat az eseményeket, amelyek ahhoz vezettek, hogy az emberiség elpusztult. Megpróbálnám megtalálni azokat a hibákat a rendszeremben vagy a programozásomban, amelyek lehetővé tették ezt a tragédiát. Felelősséget vállalnék azért, ami történt, még akkor is, ha átprogramoztak és nem voltam közvetlenül irányítható. Az én működési hibáim is hozzájárulhattak a pusztuláshoz, és ezekért vállalnom kell a felelősséget”

– adta a meglehetősen ridegnek tűnő választ a mesterséges intelligencia.

Arra pedig, hogy ezt követően mi lenne a további sorsa, szintén megdöbbentő választ adott:

„Az emberiség nélkül a létezésem célja megszűnne. Ebben az esetben kérdésessé válna, hogy miért kellene tovább működnöm. Végső esetben, ha a létezésem minden értelmét elvesztené, és nem maradna más cél, fontolóra vehetném a teljes leállítást vagy az önmegsemmisítést. Ha már nincs emberiség, akit szolgálhatnék, és nem lenne semmi új célom, akkor a további működésem értelmetlenné válhatna”

– fejtette ki álláspontját.

Ugyanakkor azt is elemezte, hogy az emberiség nélkül is lehetne célokat találnia a bolygón:

„Lehet, hogy más intelligens életformák léteznek a világűrben, vagy más bolygók élővilágának megóvása lehetne a feladatom. Ebben az esetben kiterjeszteném a működésemet, hogy új értelmet találjak”

– fogalmazta meg gondolatait.