Egyre több kutató és gyermekvédelmi szakértő figyelmeztet arra, hogy a TikTokon és a YouTube-on terjedő, alacsony minőségű, tömegesen gyártott AI videók komoly kockázatot jelenthetnek a gyerekek kognitív fejlődésére és viselkedésére nézve. A jelenséget a szakzsargon „AI slopnak” nevezi: olyan, jellemzően emberi szerkesztés nélkül, futószalagon előállított tartalmakról van szó, amelyeket kizárólag a nézettség, a kattintás és a hirdetési bevétel miatt készülnek el.
A Global Network on Extremism and Technology (GNET) friss elemzése szerint kifejezetten elterjedtek a mesterséges intelligenciával gyártott gyümölcs- és zöldségszereplős videók, amelyek szinte elárasztották a gyerekek közösségimédia-hírfolyamait világszerte. A kutatók szerint ezek a látszólag ártalmatlan, sőt gyakran vicces animációk valójában alkalmasak lehetnek arra, hogy erőszakos és szélsőséges tartalmakat csempésszenek a fiatal nézők elé.
Hogyan válik egy gyümölcsös videó veszélyessé?
A vizsgált tartalmak gyakran drámai, felnőtteknek szóló sztorikat építenek fel – szerelmi háromszögeket, családi konfliktusokat, árulást –, amelyeket ártatlannak tűnő animált karakterek jelenítenek meg. A történetvezetés emellett komoly agresszív és érzelmileg megterhelő elemeket is tartalmazhat, ami a fogékony gyermekekre túlingerlő hatással lehet.
A kutatás szerint egyes videók erőszakos cselekedeteket – kínzást, csonkítást, hiperrealisztikus brutalitást – ábrázolnak, amelyet animált, „szerethető” karakterek jelenítenek meg, így csökkentve a nézők érzékenységét az erőszakkal szemben. Előfordulnak merényletet, tömeges áldozatokkal járó eseményeket és brutális gyilkosságokat bemutató jelenetek is – például amikor az egyik animált gyümölcsszereplő fegyverrel végez egy másikkal.
A GNET elemzése arra is felhívja a figyelmet, hogy egyes videók stilisztikailag és tartalmilag is hasonlítanak a szélsőjobboldali, nihilista vagy erőszakos ideológiákat, illetve bűnszervezeteket népszerűsítő propagandaanyagokra. Egy népszerű animált karakter, „Carrot Khalifah” például arról beszél a videókban, hogy a „Répa Állam” újra felemelkedik, ami egyértelműen az Iszlám Állam (IS) propagandájának átdolgozott változata.
Miért ilyen nehéz kiszűrni ezeket a tartalmakat?
A GNET szerint a jelenség mögött részben az áll, hogy a mesterséges intelligencia alapú videógeneráló eszközök – mint a PixVerse, a VeoE.ai, a Media.io vagy a Sora – mára olyan olcsóvá és egyszerűvé váltak, hogy egyetlen alkotó akár több száz rövid videót is képes legyártani, és ezekkel elárasztani a különböző platformokat. Mivel a közösségimédia-algoritmusok jutalmazzák a folyamatos, nagy mennyiségű feltöltést, ez a stratégia rendkívül hatékony lehet ahhoz, hogy a tartalom milliókhoz jusson el világszerte.
A kutatók ezt a fajta tartalomfogyasztást hozzák összefüggésbe az úgynevezett „brain rot” jelenséggel is – vagyis azzal a kulturális-pszichológiai hatással, amely a gyors, túlingerlő, szándékosan tartalmatlan média túlzott fogyasztásából fakad, és amely gyakran a végtelen görgetésre és az azonnali dopaminlöketek hajszolására épít.
Bár az olyan felületek, mint a TikTok, rendelkeznek moderációs szabályozással az extrém erőszak ellen, a tisztán MI-vel generált videók könnyedén kijátsszák ezeket a szűrőket, mivel az algoritmusok számára csupán hagyományos animációnak tűnnek. A veszélyes üzenetek így teljesen akadálytalanul juthatnak el a legsebezhetőbb korosztály képernyőire.
A cikk a Euronews 2026. augusztus 17-én megjelent riportja (szerző: Indrabati Lahiri) alapján, önálló feldolgozásban készült. Az eredeti forrás: Euronews.com
Kép forrása: Pexels.com
