Sexövergreppen frodas i teknikrevolutionen

2023 blev det år då den artificiella intelligensen slog igenom på bred front, men i kölvattnet av teknikrevolutionen frodas sexövergreppen på helt ny skala.

"AI, likväl som internet i stort, är världens kraftfullaste verktyg för att sprida kunskap och information. Men mer än något annat fylls det med porr. Porr och sexuella övergrepp", skriver Simon Olofsson.

"AI, likväl som internet i stort, är världens kraftfullaste verktyg för att sprida kunskap och information. Men mer än något annat fylls det med porr. Porr och sexuella övergrepp", skriver Simon Olofsson.

Foto: Jessica Gow/TT

Krönika2024-01-10 07:04
Det här är en krönika. Åsikterna i texten är skribentens egna.

En fråga till männen: smygtittade ni någonsin in i tjejernas omklädningsrum? Spänningen och upphetsningen i att se tjejer nakna har förlett mången man till att begå övertramp och har tyvärr också lett till att kvinnor redan från väldigt ung ålder utsätts för en ständigt närvarande risk för sexuella övergrepp. De flesta män kan inte relatera till denna högst utbredda kvinnliga erfarenhet – att överallt och hela tiden bli avklädd med blicken, att ständigt vara sexuellt övervakad. Pojkar som tittar in i tjejernas omklädningsrum må ha gått till historien som en form av oskyldigt pojkstreck. I verkligheten är det sexuella trakasserier och ett djupt kränkande beteende.

Desto större anledning till att vara orolig nu då. Där tjuvtittandet in i tjejernas omklädningsrum krävde både ett omklädningsrum och en naken tjej att tjuvkika på så skapar dagens utveckling inom artificiell intelligens (AI) helt nya möjligheter för sexuell voyeurism. 

 2023 blev året då AI slog igenom på riktigt. Techbolagens aktievärde rusade till skyarna och nu klättrar alla över sig själva för att klura ut vilka branscher och företag tekniken ska revolutionera. Bakom glädjeyran syntes däremot snabbt mörka moln på himlen. I höstas upptäckte den norska influencern Linnea Løtvedt att nakenbilder på henne spreds på nätet. Det märkliga var dock att Linnea Løtvedt aldrig tagit några nakenbilder på sig själv. Istället hade AI-teknik använts för att ”klä av” henne och skapat fejkade nakenbilder genom att använda helt vanliga foton på Linnea, foton hon själv laddat upp på sin Instagram. 

En månad senare publicerades svarta rubriker hos BBC. Den spanska småstaden Almendralejo chockades när nakenbilder på lokala barn spreds online. Inte heller här hade några ”verkliga bilder” tagits. Liksom i fallet Linnea Løtvedt användes AI-teknik med helt vanliga, påklädda fotografier som grund för att skapa nakenbilder på barn i åldrarna 11–17 år, bilder som ofta tagits från barnens egna Instagram-konton. Nära 30 barn misstänks nu fått sina ”nakenbilder” spridda i kanaler på WhatsApp och Telegram. Ytterligare någon månad senare, i början på december, rapporterar AP hur en 14-årig tonårstjej fått fejkade nakenbilder på sig själv spridda på en skola i New Jersey.

Detta är bara ett axplock, incidenter som av olika orsaker plockats upp av världspressen och fått stort nyhetsgenomslag. Tekniken för att skapa AI-genererade nakenbilder är gratis och mörkertalet bland drabbade offer torde vara enormt. I dag kan vem som helst bli utsatt för kränkningen att få nakenbilder på sig själv spridda på internet. Inget grundmaterial krävs annat än en vanlig bild, bilder som vi dessutom själva gillar att ladda upp på sociala medier. Oaktat mängden kläder är det ingen som går fredad, alla är potentiella offer när AI-tekniken klär av oss nakna för hela världen att se. Som vanligt finns det uppenbarligen två grupper som är mer benägna att bli utsatta än andra: kvinnor och barn.

Jag var i åttaårsåldern när internet började få fäste på riktigt. Många vuxna oroades då för dess ofiltrerade potential att sprida information. Det pratades om att ritningar på bomber skulle spridas, på att vem som helst skulle kunna tillverka vapen i sitt garage. Det var också just vad som hände. Matnyttig information, forskning, skolmaterial och nyhetsmedier samsas i dag med ritningar på bomber och 3D-skisser för hemmatillverkning av vapen. Via darknet kan vem som helst köpa skjutvapen och beställa mord. Knark säljs helt öppet och kan beställas hem till brevlådan med varubrev. Men mer än något annat finns där porr, en hel jävla massa porr. Näst efter de stora sökmotorerna och sociala medie-sidorna talar statistiken sitt tydliga språk: de största sidorna online är porrsidor.

Liksom internet när det begav sig har AI-tekniken i dag potential att revolutionera hur vi interagerar med information. Vår kultur och vårt sätt att generera kunskap kommer i grunden att förändras i och med att AI-tekniken gör sitt intåg. Med detta kommer både för- och nackdelar. Bland de senare kan vi redan nu se hur den nya tekniken skapar möjlighet för sexualbrott på en aldrig skådad nivå, där vem som helst kan komma att se sig själv på nakenbilder som snabbt och okontrollerat sprids online. Det är en nedslående insikt. AI, likväl som internet i stort, är världens kraftfullaste verktyg för att sprida kunskap och information. Men mer än något annat fylls det med porr. Porr och sexuella övergrepp.