2022 májusában sokkoló esemény történt New York állam Buffalo városában: Payton Gendron felfegyverkezve rontott be egy helyi szupermarketbe, ahol tíz embert megölt és hármat megsebesített. Az eset nem csak helyi, hanem országos és globális visszhangot váltott ki, főként azért, mert kiderült, hogy az elkövető radikalizációja online közösségekben indult el – olyan helyeken, ahol a gyűlölet és szélsőséges eszmék váltak mindennapossá.

A túlélők és az áldozatok hozzátartozói most komoly jogi lépéseket tettek: beperelték a Redditet és a YouTube-ot azzal a váddal, hogy ez a két hatalmas platform algoritmusai automatikusan rávezették Gendront az egyre erőszakosabb és rasszista tartalmakra, ezáltal hozzájárultak a támadás előkészületeihez. A perben a felperesek azt állítják, hogy az ajánlórendszerek – melyeket a platformok arra használnak, hogy még több időt töltsenek felhasználóik az oldalaikon – valójában egyfajta „digitális propaganda” terjesztői, amelyek radikalizálják a könnyen befolyásolható személyeket.

Hogyan működnek az algoritmusok, és mi a gond?

A Reddit és a YouTube algoritmusai azon alapulnak, hogy tanulják a felhasználók viselkedését és preferenciáit, majd ehhez hasonló tartalmakat ajánlanak, hogy minél tovább lekössék őket. Ám ez az egyre testreszabottabb ajánlórendszer sebezhetővé teszi a platformokat a „defektusokra” – ilyen például az, hogy a gyűlölet és szélsőségesség könnyebben eljut a felhasználókhoz, és akár erős függőséget is kialakít.

Everytown for Gun Safety: a termékfelelősség mint új jogi alap

2023-ban az Everytown for Gun Safety nevű New York-i nonprofit szervezet perbe szállt nemcsak a Reddittel és a YouTube-val, hanem több más techóriással is, mint a Meta, Amazon, Discord vagy Snap. A keresetük újszerű álláspontot képvisel: az algoritmusokat – mint szabadalmazott termékeket – hibás tervezésűnek tartják, mert nem megfelelően védik a felhasználókat, és veszélyes, radikalizáló tartalmat segítenek elterjeszteni. Ezáltal a platformok felelősök azokért a károkért, amiket ezen „defektusok” okoznak.

Platformok védekezése: a Section 230 és más jogi érvek

A közösségi oldalak jogi képviselői a Section 230-ra hivatkoznak – ez az amerikai Communications Decency Act szabályozása, amely megvédi az interaktív szolgáltatásokat a felhasználói tartalomért való felelősség alól. Több bírói precedens is azt mutatja, hogy az algoritmusok által generált ajánlások nem jelentik a platformok felelősségvállalását. Ugyanakkor vannak eltérő ítéletek is, például az Anderson kontra TikTok ügyben a bíróság részben másként ítélt, így a jogi viták még messze nincsenek lezárva.

Mit jelent mindez a jövőre nézve?

Ha a bíróság elfogadja a termékfelelősségi elvet a közösségi oldalak algoritmusaira, az megnyithatja a kaput más hasonló perek előtt is, amelyek az Instagramtól a TikTokig terjedhetnek. Emellett ez nem csupán az Egyesült Államok, hanem az EU és Magyarország szabályozási szándékaira is hatással lehet, hiszen egyre inkább szóba kerül az online platformok felelőssége, különösen a digitális szolgáltatásokról szóló európai törvény (DSA) fényében.

Az ügy tehát jóval több, mint egy-egy tragikus támadás utóélete: a digitális tér szabályozásának és a technológiai fejlesztések etikai oldalának egyik fontos állomása. A vita tovább folytatódik, és mindannyiunkat érint majd, akik használjuk az internetet.

Források: a bírósági döntésekről bővebben a wuft.org tudósítása szerint, a per részletes hátteréről pedig a wral.com elemzése.