Botrány a Metánál, tiltott tartalmak árasztották el a közösségi médiát – ez áll a háttérben

Egy technikai hiba következtében a Meta Reels felhasználói olyan tartalmakat láttak, amelyeket nem kellett volna. A cég gyorsan reagált, de a történet itt még nem ér véget.

A közösségi média óriás, a Meta, ismét kénytelen volt szembenézni egy komoly moderációs hibával, amely a úgynevezett Reels, azaz a rövid videók nézőit érintette. Egy váratlan algoritmus-probléma következtében több felhasználó felkavaró és erőszakos tartalmakkal találkozott, annak ellenére, hogy az érzékeny tartalmak ellenőrzéséért szolgáló funkciót a legmagasabb szintre állították. A vállalat hivatalosan bocsánatot kért, és hangsúlyozta, hogy a hibát már kijavították. 

Tömeges panaszok és Meta-bejelentés: mi történt pontosan?

A hiba hatására a Reels nézői tömegesen osztották meg tapasztalataikat más közösségi platformokon, tiltakozva a moderációs rendszer kudarcai ellen. Rengetegen számoltak be arról, hogy olyan megrázó videókkal találkoztak, amelyeket a Meta irányelvei szerint az algoritmusnak szűrnie kellett volna.

A Meta hivatalos bejelentésben reagált az ügyre:

"Kijavítottunk a problémát, amely miatt a felhasználók olyan tartalmakat láttak a Meta Reels feedjében, amelyet nem lett volna szabad. Elnézést kérünk a hibáért."

Az eset különösen problémásnak bizonyult, hiszen a jelentések szerint néhány felhasználó még az érzékeny tartalom ellenőrzés beállítását is a legszigorúbb szintre állította – ennek ellenére is találkoztak a szemet sértő vizuális ömleteggel.

Milyen tartalmak jelentek meg?

A CNBC újságírói is ellenőrizték a hiba hatását és több olyan bejegyzést is találtak, amelyeken holttestek, súlyos sérülések és erőszakos támadások képei sorozták a mit sem sejtő felhasználók hírfolyamát. Ezek közül néhány poszt ugyan megkapta az érzékeny tartalom figyelmeztető címkéjét, más felhasználóknál viszont mindenféle jelzés nélkül jelentek meg a folyamatosan frissülő hírfolyamban.

Meta-moderálás: hogyan szűrik az erőszakos tartalmakat?

A Meta korábbi irányelvei szerint a vállalat többféle módszert használ az ellenőrzés során:

• Mesterséges intelligenciát és algoritmusokat, amelyek automatikusan eltávolítják az irányelvekbe ütköző tartalmakat.

• Emberi moderátorokat, akik a bejelentett és a rendszer által kiemelt tartalmakat vizsgálják.

• Tartalomjelöléseket, amelyek alkalmazásával az érintett felhasználók elkerülhetik az érzékeny tartalmak hírfolyamba történő szivárgását.

A Meta hivatalos szabályzata szerint tiltott tartalomnak minősülhetnek például a:

• Súlyos sérüléseket mutató képek, videók

• Erőszakos felvételek

• Meztelenség

• Fegyvereket ábrázoló tartalmak

• Illegális tevékenységeket bemutató képek, videók

• Gyűlöletbeszéd

• stb.

Ugyanakkor a Meta engedélyezhet bizonyos grafikus tartalmakat, ha azok fontos társadalmi problémákra hívják fel a figyelmet – például emberi jogsértésekre, háborús bűncselekményekre vagy terrorcselekményekre. Ilyen esetekben a tartalom figyelmeztető címkével jelenhet meg.

A szólásszabadság és a moderáció közötti egyensúly

Az algoritmus-hiba különösen kényes időszakban történt, hiszen a Meta 2024 januárjában jelentette be, hogy új módszereket alkalmaz a tartalom moderálás területén.

A vállalat bejelentette, hogy csökkenti az automatikus tartalom eltávolításának számát, és a jövőben csak a legsúlyosabb jogsértések esetén avatkozik be azonnal. A kisebb szabálysértéseknél először a felhasználói bejelentések alapján történik az ellenőrzés, mielőtt a rendszer eltávolítaná a tartalmat.

A változásokat a Meta úgy indokolta, hogy korábban túl sok tartalom került eltávolításra előzetes ellenőrzés nélkül és sok esetben a cég indokolatlanul korlátozta a felhasználók szólásszabadságát.

Politikai és társadalmi következmények

Az ügy politikai vonatkozása sem elhanyagolható: Mark Zuckerberg, a Meta vezérigazgatója nemrég a Fehér Házban találkozott az Egyesült Államok elnökével, Joe Bidennel, hogy megvitassák, hogyan segíthet a Meta az amerikai technológiai iparág globális megerősítésében.

Emellett a vállalat átalakítja a tényellenőrzési rendszerét, és az Elon Musk-féle X platform mintájára bevezet egy közösségi alapú "Community Notes" rendszert. A jövőben ez azt jelentheti, hogy a felhasználók beavatkozhatnak a tényellenőrzésbe, azaz ők is hozzáfűzhetik saját észrevételeiket, megvitathatják a meglévő ellenőrzéseket, vagy akár közösségi alapon értékelhetik az információk hitelességét. Egyes kritikusok szerint ez segítheti a szólásszabadság érvényesülését, míg mások attól tartanak, hogy ezzel a platform sebezhetőbbé válhat a félrevezető információk és politikai manipuláció számára.

Mi lesz a Meta jövője?

A Meta által végrehajtott változtatások és a moderálás hibája felvetik a kérdést: Mennyire lehet megbízni az automatizált algoritmusokban? Ha egy ilyen rendszer véletlenül túl sok tartalmat tilt, a szólásszabadság sérülhet, ha pedig túl kevés szűrést alkalmaz, akkor az online tér veszélyes forrássá válhat a globális közösségi média felületén böngésző felhasználók számára.

A lenti videóban további fejlemények és a szenzitív tartalmakra érkezett hozzászólások láthatóak: