A gyümölcs- és zöldségfigurák által elkövetett véres erőszakot bemutató, mesterséges intelligenciával létrehozott videók szélsőséges eszméket terjesztenek, és hozzájárulnak a nyers erőszak normalizálásához – állítják a kutatók.
A tartalom állítólag része azoknak a „brain rot” videóknak a terjedésének, amelyekben antropomorf élelmiszerek melodramatikus szerelmi történeteket, árulásokat és botrányos cselekményeket játszanak el.
Van azonban egy sötét oldala is a jelenségnek: egyes videókban „szélsőséges csonkítások, kínzások és hiperrealisztikus erőszak” látható. Más videók konkrét bűnözői és szélsőséges csoportokra utalnak, például az Iszlám Államra.
A Szélsőségesség és Technológia Globális Hálózata (GNET) – a Terrorizmus Elleni Globális Internetes Fórum által támogatott kutatási kezdeményezés – egy jelentésben tette közzé a figyelmeztetést.
A jelentés szerint a videók kijátsszák a TikTok erőszakos tartalmakra vonatkozó szabályait, mivel első pillantásra ártalmatlannak tűnhetnek. Emellett gyakran „aranyos” vagy „Pixar-szerű” megjelenést használnak.
A tanulmány megállapítása szerint az egyik példában az IS-videók tartalmát utánozták azzal, hogy egy sárgarépa „felrobbantott” egy burgonyát, míg egy másikban egy sárgarépa kalapáccsal „meggyilkolt” egy burgonyát. Egy másik videóban egy „Carrot Khalifah” azt mondja a seregének, hogy „a Sárgarépa-állam újra fel fog emelkedni” – ami a GNET szerint az IS egyik szlogenjére utal.
A jelentés szerint a két bejegyzés olyan hashtageket tartalmazott, amelyeket a terrorcsoport támogatói gyakran használnak a propaganda terjesztésére.
Más videókban láthatóan a kábítószer-kartellek borzalmas gyilkosságait utánozzák.
Állítólag más videók utalnak az Atomwaffen Division nevű neonáci szervezetre és a No Lives Matter nevű nihilista szubkultúrára is.
A kutatók szerint a tartalmak mellett szélsőjobboldali ideológiára utaló kijelentések és kommentek is megjelentek, és a „burgonya-felsőbbrendűség” kifejezés állítólag a fehér felsőbbrendűségre utal.
A kutatók szerint az ilyen tartalmak hozzájárulnak a „szélsőséges és erőszakos narratívák és képek” normalizálásához, és a felhasználók véletlenül terrorista anyagokra is rábukkanhatnak, ami veszélyes útra terelheti őket.
„Ez a fajta tartalom alapot teremthet további erőszakon alapuló audiovizuális anyagok fogyasztásához, ami miatt a fiatal felhasználók az online radikalizálódás és az audiovizuális erőszak fogyasztásának csapdájába eshetnek”
állítják a szerzők.
A GNET azt szeretné, ha a TikTok „ellenintézkedéseket” dolgozna ki az ilyen mesterséges intelligencia által generált tartalmak korlátozására. A TikTok egyelőre nem reagált.
Forrás: Sky News
Hozzászólások