Teen Marvel-stjernen Xochitl Gomez er det siste offeret for dypfalsk porno. Etter å ha funnet de seksuelt eksplisitte deepfakes uten samtykke som sirkulerte på X, tidligere Twitter, ble hun imidlertid forvirret da plattformen ikke klarte å iverksette tiltak og fjerne dem.
Mange problemer har oppstått ved siden av fremveksten av kunstig intelligens, men dypfalsk porno er en av de mest bekymringsfulle. Mens deepfakes har eksistert ganske lenge, har fremskritt innen teknologi gjort dem mer tilgjengelige og overbevisende. Som et resultat har mange individer, spesielt kvinner, funnet sin likhet tatt eller gjenskapt uten deres samtykke og brukt i pornografisk innhold. Det har blitt et enormt problem for kvinnelige kjendiser, men også for vanlige kvinner som har opplevd å bli brukt i seksuelt eksplisitt innhold for hevnporno, trakassering og mobbing. Det er også en stor bekymring for deepfakes som brukes til å skildre overgrep mot barn.
Dessverre er det for øyeblikket ingen føderale lover mot dypfalsk porno uten samtykke, og bare noen få stater har lovgivning som beskytter innbyggerne mot det. Mange kvinner som har blitt ofre for dypfalsk pornografi har funnet seg selv uten muligheter til å bekjempe det på grunn av mangelen på regulering og lovløsheten til internett. De fleste har ikke økonomiske ressurser til å ta rettslige skritt. Selv kjendiser som Scarlett Johansson har erklært det nytteløst å prøve å kjempe mot deepfakes.
Et lite beskyttelsesnivå kvinner har kommer fra sosiale medieplattformer som har forbudt deepfake og AI-generert porno. Hvis disse nettstedene håndhever slike forbud, vil det gjøre sirkulasjonen av dette skadelige innholdet vanskeligere. Gomezs erfaring viser imidlertid at sosiale medier ikke håndhever reglene.
Xochitl Gomez åpner opp om sin erfaring med dypfalske porno
(Axelle/Bauer-Griffin/Getty)
Mens han dukket opp på Taylor Lautner og hans kones podcast, The Squeeze , åpnet Xochitl Gomez (a.k.a. America Chavez ) opp om sine opplevelser som et offer for dypfalsk pornografi. 17-åringen avslørte at hun fant det seksuelt eksplisitte materialet som sirkulerer på X, tidligere Twitter, men at hun har det ekstremt vanskelig å fjerne det. X forbød AI-generert porno tilbake i 2018 og har retningslinjer mot seksuelt eksplisitte dypfalske bilder og videoer, samt villedende media og nakenhet uten samtykke. Med tanke på at bildene av Gomez klart bryter med Xs regler og at dette innholdet inneholdt en mindreårig, ville man trodd at plattformen umiddelbart ville iverksette tiltak.
Gomez ble imidlertid sjokkert da hun fant ut at teamet hennes allerede hadde forsøkt å iverksette tiltak mot innholdet til ingen nytte. NBC Nyheter rapportert at så sent som 19. januar 2024 var bildene fortsatt å finne på X, som ikke svarte på forespørsler om kommentarer. Gomez forklarte at innholdet gjorde henne rar og ønsket desperat at det ble fjernet, siden det ikke var bra for henne. Hun spurte: Hvorfor er det så vanskelig å ta ned? Det var hele tanken min om det, var: 'Hvorfor er dette tillatt?'
Til syvende og sist sa hun opp for å akseptere at innholdet rett og slett ikke kunne fjernes, og avslørte at hun bare prøver å ikke tenke på det og legger bort telefonen for å håndtere problemet. Spørsmålene hun stilte er fortsatt svært relevante. Hvorfor er det så vanskelig for dette innholdet å bli fjernet? Det er moralsk forkastelig og ekkelt når dypfalske porno er laget av et individ som ikke samtykker. Det er rett og slett forferdelig når det involverer en mindreårig. Det er faktisk barnepornografi som sirkulerer på X, og plattformen gjør, bisarr nok, ikke noe med det, selv om dette burde være det mest presserende problemet å håndtere.
Det høres neppe ut som en kompleks situasjon hvis en person rapporterer seksuelt eksplisitt materiale og varsler plattformen om at de ikke har samtykket til det. Materialet strider mot flere regler på nettstedet. Hva annet er det å vurdere eller bestemme? Det er allerede traumatiserende nok for et individ å finne denne typen innhold på sosiale medier; det minste disse plattformene kan gjøre er å følge forespørslene deres om å få den fjernet. Ingen enkeltpersoner, spesielt ikke en mindreårig, burde bare måtte akseptere at innholdet er der fordi X og andre sosiale medieplattformer vedvarende og forvirrende nekter å beskytte brukerne sine.
(utvalgt bilde: Axelle/Bauer-Griffin/FilmMagic / Getty)
