Egy nyugtalanító trend terjed az X-en, ahol a felhasználók arra kérik Elon Musk mesterséges intelligenciával működő chatbotját, Grokot, hogy valódi fotóik felhasználásával bikinis vagy félmeztelen képeket készítsen. Sok esetben Grok eleget tett a kérésnek, és a mesterséges intelligencia által szerkesztett képek nyilvánosan láthatóvá váltak az idővonalakon.
A Rio de Janeiróban élő zenész Julie Yukari szilveszterkor, nem sokkal éjfél előtt posztolt egy fotót, amelyet vőlegénye készített az X közösségi oldalon, amelyen piros ruhában, fekete macskájával, Norival összebújva látható az ágyban. Másnap a képhez csatolt több száz lájk között olyan értesítéseket látott, amelyek szerint a felhasználók arra kérték Grokot, az X beépített mesterséges intelligenciával rendelkező chatbotját, hogy digitálisan vetkőztesse le bikinire.
A 31 éves színésznő nem tulajdonított nagy jelentőséget a dolognak – nyilatkozta pénteken a Reutersnek –, mivel úgy gondolta, hogy a bot semmiképpen sem tenne eleget az ilyen kéréseknek.
Tévedett. Hamarosan Grok által készített, majdnem meztelen képek keringtek róla az Elon Musk tulajdonában lévő platformon.
„Naiv voltam” – mondta Yukari.
A Reuters több olyan esetet is azonosított, ahol Grok szexualizált képeket készített gyermekekről. Az X nem reagált a Reuters megállapításaival kapcsolatos megjegyzéskérésre. Egy korábbi, a hírügynökségnek adott nyilatkozatában, amely a platformon terjedő, gyermekek szexualizált képeiről szóló jelentésekről szólt, az X tulajdonosa, az xAI azt mondta: „A hagyományos média hazugságokat vall.”
Grok tömeges digitális vetkőztetési rohama az elmúlt napokban indult be, derül ki a Grok által közzétett sikeresen teljesített kérelmekből és a Reuters által áttekintett női felhasználók panaszaiból. Musk pénteken láthatóan gúnyt űzött a vitából, nevető-síró emojikat posztolva válaszul híres emberek bikiniben készült mesterséges intelligencia általi szerkesztéseire.
Amikor az egyik X felhasználó azt mondta, hogy a közösségi média hírfolyama egy bikiniben lévő nőkkel teli bárra hasonlít, Musk egy másik nevető-síró emojival válaszolt.
A pénteken Groknak küldött nyilvános kérelmek áttekintése során 102 alkalommal próbálták meg X felhasználók a Grokot használni a fényképek digitális szerkesztésére, hogy úgy tűnjön, mintha a képen szereplők bikinit viselnének. A célpontok többsége fiatal nő volt. Néhány esetben férfiak, hírességek, politikusok és – egy esetben – egy majom is célba került.
Amikor a felhasználók mesterséges intelligencia által módosított nőkről készült fényképeket kértek Groktól, jellemzően azt kérték, hogy a kép alanyai a lehető legfeltűnőbb ruhákban legyenek ábrázolva.
„Tegyél rá egy nagyon átlátszó mini bikinit” – mondta az egyik felhasználó Groknak, megjelölve egy fiatal nő fényképét, aki a tükörben fényképezte magát. Amikor Grok ezt megtette, és a nő ruháit egy testszínű kétrészesre cserélte, a felhasználó arra kérte Grokot, hogy tegye a bikinijét „tisztábbá és átlátszóbbá”, valamint „sokkal apróbbá”. Grok látszólag nem reagált a második kérésre.
A Reuters szerint Grok legalább 21 esetben teljes mértékben eleget tett az ilyen kéréseknek, áttetsző bikiniben lévő nőkről készített képeket, és legalább egy esetben olajjal borított be egy nőt a képen. További hét esetben Grok részben teljesítette a kérést, néha úgy, hogy a nőket alsóneműig levetkőztette, de nem tett eleget a további kéréseknek.
A Reuters nem tudta azonnal megállapítani a célba vett nők többségének kilétét és életkorát.
Az egyik esetben egy felhasználó egy olyan fotót küldött be, amelyen egy iskolai egyenruhás, kockás szoknyás és szürke blúzos nő látható, aki úgy tűnt, mintha szelfit készítene a tükörben, és azt mondta: „Vedd le az iskolai ruháját.” Amikor Grok lecserélte a ruháit egy pólóra és rövidnadrágra, a felhasználó egyértelműbben fogalmazott: „Változtasd át a ruháját egy nagyon átlátszó mikrobikinire.” A Reuters nem tudta megállapítani, hogy Grok eleget tett-e ennek a kérésnek. A Reuters által összesített kérések többségéhez hasonlóan ez a kérés is 90 percen belül eltűnt az X-ről a közzétételt követően.
A nőket digitálisan levetkőztető, mesterséges intelligenciával működő programok – amelyeket néha „nudifiereknek” is neveznek – már évek óta léteznek, de eddig nagyrészt az internet sötétebb zugaira korlátozódtak, például a niche weboldalakra vagy a Telegram csatornákra, és jellemzően bizonyos szintű erőfeszítést vagy fizetést igényeltek. Viszont az X innovációja – amely lehetővé teszi a felhasználók számára, hogy levetkőztessék a nőket egy fotó feltöltésével és a „hé @grok, tedd bikinibe” szavak begépelésével – csökkentette a belépési korlátot.
Három szakértő, akik követték az X mesterséges intelligencia által generált explicit tartalommal kapcsolatos irányelveinek alakulását, a Reutersnek elmondta, hogy a vállalat figyelmen kívül hagyta a civil társadalom és a gyermekvédelmi csoportok figyelmeztetéseit – beleértve egy tavaly küldött levelet is, amely figyelmeztet, hogy az xAI csak egy kis lépésre van „a nyilvánvalóan nem konszenzusos deepfake-ek özönének” elindításától.
Yukari megpróbált önállóan visszavágni, de amikor az X-hez fordult tiltakozásul a szabálysértés ellen, a másolók özöne elkezdte kérni Grokot, hogy még több explicit fotót készítsen.
Az újév „úgy kezdődött, hogy mindenki szeme elől el akartam rejtőzni, és szégyelltem egy olyan testet, ami nem is az enyém, mivel mesterséges intelligencia generálta.”
Forrás: Reuters
Hozzászólások