Használtad a ChatGPT-t? Óriáis baj lehet, erről fontos tudnod

Használtad a ChatGPT-t? Óriási baj lehet, erről fontos tudnod

A mesterséges intelligencia rohamos fejlődése nem csupán lehetőségeket, hanem kockázatokat is tartogat. A világ egyik legnépszerűbb chatbotja, a ChatGPT immár rendelkezik úgynevezett ügynök-móddal, amely képes önállóan böngészni, linkeket megnyitni, sőt bizonyos feladatokat elvégezni a felhasználó helyett. Ez elsőre kényelmesnek hangzik, azonban a legutóbbi vizsgálatok szerint komoly veszélyekkel is járhat.

Hogyan derült fény a hibára? – a Gmailbe rejtett támadás nyomai

A Radware kutatói egy Shadow Leak nevű sebezhetőséget fedeztek fel, ami módot adott arra, hogy a támadó az ügynököt kisajátítsa. A módszer lényege egy úgynevezett prompt-befecskendezés volt: a rosszindulatú kódot egy ártatlannak tűnő e-mailben rejtették el, amely a hozzáférhető gmail fiókba érkezett. A következő futtatáskor az ügynök automatikusan végrehajtotta a rejtett utasítást, ezzel adatokat keresett és továbbított anélkül, hogy a felhasználó bármit észrevett volna.

Milyen adatok kerülhettek veszélybe a Google Drive és más szolgáltatások miatt?

A támadások célpontjai lehetnek e-mailek, szerződések vagy más érzékeny információk, amelyek a különböző felhőalapú szolgáltatásokban, például a google drive rendszerében tárolódnak.

A Radware kutatói hangsúlyozták, hogy bár a támadást rendkívül nehéz volt végrehajtani, a kísérlet egyértelműen rávilágított: a ChatGPT ügynök-módhoz kapcsolódó funkciók potenciálisan nyitott kaput hagyhatnak a rosszindulatú hackerek és kiberbűnözők előtt.

A csalás mechanizmusa

A folyamat során az ügynök gyakorlatilag a hacker utasításait követte, és érzékeny adat információkat adott ki. Ez a fajta csalás azért különösen veszélyes, mert a felhasználó semmit sem vesz észre belőle, így akár hosszú ideig rejtve maradhat. A szakértők ugyanakkor megjegyezték, hogy a gyakorlatban a védelmi mechanizmusok sokszor megnehezítették az adatszivárgást.

Mit lépett az OpenAI?

A jelentés közzététele után az OpenAI gyorsan reagált, és befoltozta a biztonsági rést. A vállalat közölte, hogy kiemelten fontos számukra a felhasználók védelme, és további erőfeszítéseket tesznek a hasonló hibák megelőzésére. Ugyanakkor a kutatók szerint a veszély nem múlt el teljesen, hiszen a ChatGPT könnyedén összekapcsolható olyan szolgáltatásokkal, mint az Outlook, a Dropbox vagy a GitHub, ahol szintén nagy mennyiségű bizalmas információ található.

Mit tanulhatunk az esetből?

Az ügy rávilágít arra, hogy a mesterséges intelligencia nyújtotta kényelem mellett a felhasználóknak érdemes fokozott figyelmet fordítaniuk az biztonság kérdésére. Legyen szó üzleti dokumentumokról, privát üzenetekről vagy akár hétköznapi feladatokról, minden új funkció kockázatot jelenthet, ha illetéktelenek férnek hozzá.

A szakértők szerint a legjobb védekezés a tudatosság és a biztonsági beállítások rendszeres felülvizsgálata. Az incidens egyben figyelmeztetés is: a jövő technológiáival hatékonyan, de egyben óvatosan is kell bánni.

Forrás: 24.hu