Tiszta Terminátor: a mesterséges intelligencia önálló életre kelt

A mesterséges intelligenciát (AI) az ember több célzattal alkotta meg. Egyfelől kitűzte, hogy a gép legyen képes automatizált módon reagálni környzeti ingerekre, tudja utánozni a természetes intelligenciával bíró élőlény viselkedését, harmadrészt pedig válljon képesség a tanulásra. Vagyis az ismétlődő tapasztalatok beépítésével fejlessze magát.

Talán ez utóbbi, talán más lehet annak a rémisztő fejleménynek az eredője, melyről most szinte minden, technológiával foglalkozó lap ír: egy számítógéppel vezérelt program megtanult csalni. Vagyis átverni az embert. Durva.

A digitalisan.hu a futurescience cikkét vette alapul, s ebből az derül ki, hogy a Stanford Egyetem és a Google szakemberei szándékosan rejtettek el egy programban olyan információkat, melyeket adott esetben a gép csalásra használhatta fel. A gép kiszúrta ezeket, s szinte észrevehetetlen, magas frekvenciájú jelet használt a manipuláláshoz.

Gyanús lett, hogy milyen jól teljesít az AI-rendszer

A kísérletbe azért kezdtek bele, mert a CycleGAN néven ismert neurális hálózat AI-rendszere kiemelkedő teljesítménye gyanússá vált a kutatók számára. Megállapították, hogy a rendszer rájött, hogy bizonyos tulajdonságokat finoman kódolhat egy légi térképről a másikra a ténylegesen „igazi” utcatérképadatokat használata nélkül.

A digitális térkép, melynek készítése közben a CycleGAN AI-rendszere megpróbált észrevétlenül csalni (Fotó: techcrunch.com)

„A szándék az volt, hogy az ügynök képes legyen értelmezni a térképtípusok jellemzőit és beilleszteni a másik helyes tulajdonságaihoz. Megtanulta, hogyan finom kódolhatja az egyik jellemzőjét a másik zajmintájába. A légi térkép részleteit titokban írják be az utcai térkép tényleges vizuális adataiba: a több ezer apró változás észlelésére az emberi szem nem képes, de a számítógép könnyen megoldja a feladatot” – olvasható a Tech Crunch honlapján.

A szakemberek szerint nem az a probléma, hogy az AI program csalt és hamis vagy pontatlan adatokat használt a légi térképadatok feltöltéséhez, hanem az, hogy magától megtanulta, hogyan kell alapvetően gyorsbillentyű üzemmódban működni – annak ellenére, hogy ezt eredetileg nem programozták bele.

A kutatók számára ez egy teljesen új, egyben rémisztő tapasztalat. Kicsit olyan, mint a Terminátorban önálló tudatra ébredő, a világot romba döntő Skynet viselkedése. Persze azért még ne vetítsünk előre atomholokausztot és hasonlókat.

A felfedezés egyszerűen arra utal, hogy a mesterséges intelligencia még többre képes mint azt a szakemberek valójában gondolták. Jelenleg két verziót vázoltak fel: az AI rendszer lerövidíti a munkafolyamatot, így egyszerűbben és gyorsabban volt képes elvégezni a feladatát. De az is igaz lehet, hogy az AI program azért csalt, mert tudta, hogy az emberek nehezen érzékelik, mi történt.