Tényleg okosabb lesz nálunk a mesterséges intelligencia? Egy szakértő elmagyarázta, hogyan vernek át minket a gépek

Ha nem egy erdő mélyén élsz távol a civilizációtól, biztosan te is nap mint nap találkozol a mesterséges intelligencia és a nagy nyelvi modellek témájával az interneten. Bár az egyértelmű, hogy ezekben a rendszerekben óriási potenciál rejlik – a rákkutatástól az ősi iratok megfejtéséig –, a technológia körül elképesztő a felhajtás. A legmerészebb állítás mind közül az, hogy ezek a programok képesek gondolkodni, vagy már egyenesen öntudatra is ébredtek.

De vajon mennyi ebből az igazság? Mivel még az emberi tudat működését sem értjük teljesen, egy gép öntudatra ébredése óriási kijelentés. Dr. Alex Hanna, a Distributed AI Research Institute kutatási igazgatója egy friss interjú során a tettek mezejére lépett, és elmagyarázta, hogyan is érdemes kezelnünk ezeket a vad elméleteket.

Nem gondolkodnak, csak matematikai valószínűséget számolnak

A nagy nyelvi modellek valójában már a kilencvenes évek óta léteznek. Ezek alapvetően olyan statisztikai rendszerek, amelyek szavakat vagy szórészleteket – úgynevezett tokeneket – vizsgálnak. Hatalmas mennyiségű betáplált adat alapján képesek megjósolni, mi lesz a következő szó egy mondatban.

Bár a laikusok számára úgy tűnhet, hogy a gép "gondolkodik" a válaszon, erről szó sincs. Pusztán matematikai valószínűségszámítást végez, és kikövetkezteti, melyik szó illik a leginkább a kontextusba. Amikor tehát úgy tűnik, mintha egy hús-vér emberrel beszélgetnénk, a valóság az, hogy a háttérben egy kőkemény statisztikai gépezet dolgozik.

Mi a legnagyobb veszély az új rendszerekben?

Ezek a technológiák elképesztően hasznosak lehetnek bonyolult szövegek egyszerűsítésében vagy a keresőmotorok finomhangolásában. Ugyanakkor komoly veszélyeket is rejtenek. Mivel az olyan óriáscégek, mint a Google vagy az OpenAI, gyakorlatilag mindent lekaparnak az internetről az adathalmazokhoz, lehetetlen nyomon követni, milyen torzítások és előítéletek kerülnek a rendszerbe. Ennek eredményeként a gépek válaszai gyakran kirekesztőek lehetnek például társadalmi osztály vagy nem alapján.

Ráadásul a modellek hajlamosak a "hallucinációra", ami a kutató szerint egy meglehetősen rossz kifejezés. A gépek ugyanis nem hallucinálnak, egyszerűen csak kitalálnak dolgokat. Olyan szövegeket generálnak, amelyek a betáplált adatok alapján logikusnak tűnnek, de tartalmilag teljesen hamisak. Ez különösen veszélyes, ha a mesterséges intelligencia emberi munkaerőt próbál kiváltani az egészségügyben, a kormányzati szektorban vagy a szociális ellátásban.

A gépek soha nem lesznek tudatosak

Dr. Hanna határozottan leszögezi, hogy a jelenlegi rendszerek nem tudatosak, és soha nem is lesznek azok. Azért hisszük azt, hogy "élnek", mert az emberi agy úgy van kódolva, hogy ha értelmes nyelvi kommunikációt lát, azonnal egy gondolkodó elmét képzel mögé. Ha egy gép nyelvtanilag helyes és koherens mondatokban válaszol, önkéntelenül is emberi tulajdonságokkal ruházzuk fel.

A másik megtévesztő tényező a "neurális hálózatok" kifejezés használata. Ez a gépi tanulásban elterjedt modell csak nevében hasonlít az emberi agy működésére, valójában a biológiai neuronokhoz semmi köze. A modern mesterséges intelligencia mindössze egy következő-szó-megjósló gépezet, semmi több.

A szuperintelligencia egyelőre csak mítosz

Gyakori érv, hogy bár a rendszerek most még nem tudatosak, hamarosan kialakulhat egy szuperintelligencia, amely túljár az emberiség eszén. A neves kutató szerint ez a félelem is téves. Amit a gépek csinálnak, az nem intelligencia. Attól, hogy egy nyelvi modell hibátlanul átmegy egy teszten, még nem okosabb az embernél. Egyszerűen csak ügyesen van betanítva arra, hogy a hatalmas adatbázisából előhívja a megfelelő információt.

A legfontosabb üzenet a mindennapok embere számára tehát az, hogy abba kell hagynunk minden apró szoftver mesterséges intelligenciának hívását. Inkább arra kell figyelnünk, milyen folyamatokat automatizálnak velük, és pontosan kinek kell felelősséget vállalnia akkor, amikor a gép hibázik.

(via)