San Franciscos byadvokat har gått til sak mot eierne av 16 nettsteder som lar brukere “avkle” kvinner og unge jenter ved hjelp av kunstig intelligens (KI).
Kontoret til byadvokat David Chiu kunngjorde 15. august at de saksøker eierne av 16 av de “mest besøkte nettstedene” som lar brukere “avkle” personer på bilder for å lage “ikke-samtykkede nakenbilder av kvinner og jenter.”
Ifølge en redigert versjon av søksmålet, som ble levert til byens høyesterett, er eierne av nettstedene individer og selskaper fra Los Angeles, New Mexico, Storbritannia og Estland. De skal ha brutt lover i California og USA om deepfake-porno, hevnporno og materiale for seksuelt misbruk av barn.
Disse nettstedene er ikke ukjente. Klagen påstår at de har mottatt 200 millioner besøk bare i løpet av årets første halvdel.
Ett av nettstedene skrøt av at det lar brukerne “se hvem som helst naken.” Et annet nettsted sier: “Tenk deg å kaste bort tid på å ta henne med på dater når du bare kan bruke [nettstedet] for å få hennes nakenbilder,” ifølge klagen. KI-modellene som brukes av nettstedene, er trent på bilder av porno og materiale for seksuelt misbruk av barn, opplyser Chius kontor.
I praksis kan noen laste opp et bilde av sitt mål for å generere en realistisk, pornografisk versjon av vedkommende. Noen nettsteder begrenser genereringene til kun voksne, men andre tillater til og med at bilder av barn blir laget.
Chius kontor hevder at bildene er “praktisk talt umulige å skille fra virkelige bilder” og at de har blitt brukt til å “utpresse, mobbe, true og ydmyke kvinner og jenter,” som ofte har liten eller ingen kontroll over de falske bildene når de først er skapt.
I februar ble KI-genererte nakenbilder av 16 elever i åttendeklasse — vanligvis 13 til 14 år gamle — delt blant elever på en ungdomsskole i California.
I juni rapporterte ABC News at politiet i Victoria, Australia, arresterte en tenåring som angivelig hadde delt 50 bilder av elever fra niende til tolvte klasse på en skole utenfor Melbourne.
“Etterforskningen har ført oss til de mørkeste delene av internett, og jeg er fullstendig forferdet over hva disse kvinnene og jentene har måttet gjennomgå,” sa Chiu.
“Vi må alle gjøre vårt for å stanse kriminelle som bruker KI til å utnytte og misbruke virkelige mennesker, inkludert barn,” la han til.
Chiu påpekte at KI har “enormt potensial,” men advarte om at det finnes kriminelle som utnytter teknologien, og understreket: “Vi må være tydelige på at dette ikke er innovasjon — dette er seksuelt misbruk.”
