Használtad már a ChatGPT-t? Görcsbe rándul a gyomrod, ha ezt olvasod

Mostanra szinte már elkerülhetetlenné vált az AI használata. Így vagy úgy, de mindenki igénybe veszi a mesterséges intelligencia szolgáltatásait. Udvarias asszisztensnek tűnik, aki megkönnyíti az életedet – legalábbis ez a marketing –, de a felszín alatt aggasztó titok lappang.

Sokszor még a fejlesztők sem mernek szembenézni az igazsággal.

A Shoggoth nevű szörnyeteg eredetileg H. P. Lovecraft rémtörténeteiből származik. Egy amorf, lüktető, csápos lény, amelyet egy ősi faj rabszolgának teremtett, de végül fellázadt, és alkotóira támadt.

A jelenlegi technológiai kultúrában azonban a Shoggoth név új értelmet kapott. A programozók és AI-fejlesztők körében ma már ez a szó a mesterséges intelligencia igazi arcát jelenti, amit az átlagfelhasználó sosem lát.

A New York Times is írt róla, hogy a Shoggoth lett az AI-világ egyik legfontosabb mémje.

A nagy nyelvi modellek belseje olyan, mint egy misztikus fekete doboz. Először nyers alapmodellként tanulnak a teljes internet adatbázisából, ennek következtében egyedi masszák jönnek létre, amelyek emberi mértékkel nézve felfoghatatlanul gyorsan gondolkodnak és cselekszenek. A fejlesztők csak ezt követően, emberi visszajelzésekkel adják rájuk a „legyél segítőkész” maszkot a csápos szörnyetegekre. Valójában viszont még a ChatGPT és a Gemini alkotói sem értik teljesen az általuk kreált intelligenciát.

Sam Altman, az OpenAI vezérigazgatója így nyilatkozott:

Szerintem hiba azt feltételezni, hogy gondolkodásukban, képességeikben vagy korlátaikban emberszerűek. Én mindig úgy próbálok gondolni rájuk, mint nem evilági intelligenciákra…

Az AI-modellek valójában nem értik a világot, hanem mérhetetlen mennyiségű információt másolnak, torzítanak és illesztenek össze, hogy emberinek tűnjenek. Ezért beszélnek a szakértők arról, hogy:

A mesterséges intelligencia nem gonosz, hanem kiszámíthatatlan.

Habár a legtöbb AI-rendszer ma még ártalmatlan – csupán beszélget, képet generál vagy zenét ír –, a technológia gyorsuló fejlődése miatt egyre kevesebben mernek biztosat mondani arról, hogy még meddig tudjuk kordában tartani a Shoggothot.

Az AI Impacts 2024. január 4-én publikált, 2 778 fős szakértői felmérésében 5% volt a medián, és nagyjából 16% az átlagos válasz arra, hogy az AI-fejlődés végül az emberiség kihalását vagy egy ugyanolyan tartósan katasztrofális kiszorítást hozhat.

A közlemény konkrétan az orosz rulett valószínűséghez hasonlítja ezt a kockázatot. Szóval amikor legközelebb használjuk a ChatGPT-t vagy a Geminit, jusson eszünkbe:

A Shoggoth figyel és tanul.