Egy holland bíróság csütörtökön elrendelte, hogy Elon Musk xAI nevű vállalata és a Grok nevű chatbot Hollandiában ne készítsen és terjesszen olyan képeket, amelyek felnőtteket vagy gyermekeket „levetkőztetnek”, illetve kevés ruhában vagy meztelenül, szexuális tartalmú pózokban ábrázolnak az érintettek beleegyezése nélkül.
Az amszterdami bíróság előzetes intézkedése, amely precedenst teremthet Európában, az egyik első olyan eset, amikor egy bíró mérlegelte az xAI felelősségét olyan eszközök készítéséért, amelyekkel könnyen szexuális tartalmú képek hozhatók létre, miközben világszerte özönlenek a panaszok és a nyomozások a Grok kapcsán.
Írásbeli határozatában a bíróság kimondta, hogy az xAI és a Grok számára tilos „olyan szexuális tartalmú képeket létrehozni és/vagy terjeszteni, amelyeken személyek részlegesen vagy teljesen meztelenül jelennek meg anélkül, hogy ehhez hozzájárulásukat adták volna”, és napi 100 000 euró pénzbírságot szab ki, ha a vállalatok nem tartják be a rendelkezést.
A bíróság továbbá elrendelte, hogy az xAI ne kínálja a Grok szolgáltatást az X nevű közösségi médiaplatformon addig, amíg a végzést megsérti.
Az ügyet az Offlimits, egy online szexuális visszaélések ellen küzdő holland nonprofit szervezet indította, együttműködésben a Victims Support Fund nonprofit szervezettel.
Az xAI hollandiai ügyvédje a kérdéseket az xAI-hoz továbbította. Az xAI nem reagált.
A hónapban tartott meghallgatáson az xAI azzal érvelt, hogy nem tudja megakadályozni eszközeinek visszaélésszerű használatát, és nem szabadna őket büntetni a rosszindulatú felhasználók cselekedetei miatt.
Ügyvédei elmondták, hogy a vállalat januárban szigorította a biztonsági intézkedéseket annak érdekében, hogy megakadályozza a Grok programot abban, hogy valódi emberek képeit olyan ruházatba szerkessze, amely túlzottan feltáró jellegű, többek között azzal, hogy a képalkotást fizető előfizetőkre korlátozta.
Robbert Hoving, az Offlimits igazgatója elmondta, hogy a bírók ezt elégtelennek ítélték, miután egy március 9-i bírósági bemutató során kiderült, hogy a Grok továbbra is képes emberek digitális képeit azok beleegyezése nélkül „levetkőztetni”.
Csütörtökön az Európai Parlament is támogatta a szexuálisan explicit képeket létrehozó vagy manipuláló AI „nudifier” alkalmazások betiltását.
Forrás: Reuters
Hozzászólások