Annons

Viktor Lundquist:Hårdare tag mot deepfakes

I Kalifornien försöker man minimera de negativa konsekvenserna från den typen av manipulerade filmklipp som syftar till att sprida desinformation.

Under strecket
Publicerad

Deepfakes där representanthusets talman Nancy Pelosi framstår som full eller förvirrad har under hösten blivit virala.

Foto: J. Scott Applewhite/TT Bild 1 av 1

Deepfakes där representanthusets talman Nancy Pelosi framstår som full eller förvirrad har under hösten blivit virala.

Foto: J. Scott Applewhite/TT Bild 1 av 1
Deepfakes där representanthusets talman Nancy Pelosi framstår som full eller förvirrad har under hösten blivit virala.
Deepfakes där representanthusets talman Nancy Pelosi framstår som full eller förvirrad har under hösten blivit virala. Foto: J. Scott Applewhite/TT

Deepfakes, det vill säga filmer som manipulerats via artificiell maskininlärning, blir ett allt större problem. Precis som många experter varnat för.

Inte nog med att deepfakes blir allt mer skickligt producerade och därmed svårare att genomskåda, verktygen för att skapa dem blir dessutom allt enklare att använda. För bara några år sedan krävdes förutom relativt goda tekniska kunskaper också förhållandevis avancerad maskinvara. Idag finns det appar och program som på beställning kan producera färdiga deepfakes.

Som ren underhållning kan deepfakes vara oerhört fascinerande. I slutet av sommaren blev en deepfake med skådespelaren Bill Hader viral. I klippet har någon redigerat in Tom Cruises och Seth Rogens ansikte, samtidigt som Hader imiterar dessa, och det ser oerhört autentiskt ut.

Annons
Annons

Men deepfakes har på senare tid i huvudsak använts i två andra syften, med betydligt mörkare intentioner.

Det första, vilket också var fenomenets ursprung, är redigering av kända (och i vissa fall faktiskt också mindre kända) kvinnors ansikten så att dessa ser ut att förekomma i porrfilmer. Att detta upplevs som ett personligt trauma och en integritetskränkning är förståeligt, speciellt med tanke på hur virala denna typ av klipp kan bli.

Det andra fallet av frekvent förekommande användning av deepfakes handlar om politiker, och är inte sällan försök att misskreditera och svartmåla de drabbade.

En politiker som utsatts för just detta är talmannen för det amerikanska representanthuset, demokraten Nancy Pelosi. På sociala medier har det spridits manipulerade klipp där hon under officiella tal förefaller vara förvirrad och full.

I dagens klimat på sociala medier kan den här typen av klipp snabbt få stor spridning, och dementier når aldrig en lika stor publik som originalklippen. Eller samma publik.

I Kalifornien har man nu försökt komma till rätta med problemet, åtminstone inför primärvalen inför det amerikanska presidentvalet 2020. Häromveckan beslutade man att det två månader inför ett val ska vara olagligt att sprida den här typen av manipulerade filmer.

Beslutet grundar sig i rädslan för vad deepfakes kan komma att göra för skada. Vi vet alla hur intensiv en valspurt kan vara, och hur skandaler då ofta kan ta oväntade proportioner.

En strategisk och välgjord deepfake bara några dagar innan ett val kan mycket väl få stora konsekvenser, inte minst då den drabbade kan komma att behöva lägga kraft på att dementera snarare än att kampanja.

I Kalifornien försöker man även att komma till rätta med deepfakes i porrfilmer, genom att kvinnor som drabbats nu kan stämma personer som producerat dessa.

Att fler delstater och länder i framtiden kommer att behöva hantera deepfakes även legalt är ingen vågad gissning. Huruvida Kaliforniens försök till hantering kommer att bära frukt återstår att se, men man är i alla fall bland de första att försöka motverka och minska de negativa effekterna från deepfakes.

När det gäller den här typen av lagstiftning är det mer regel än undantag att man i USA också börjar diskutera huruvida det kan ses som inskränkning i yttrandefriheten, och så har fallet varit även nu.

Kommunikationsprofessorn Dr. Matt Cabot är dock av en annan syn än kritikerna, och säger att:

”Democracy rests on citizens being informed, and deepfakes isn’t free speech. It’s fake speech”.

VIKTOR LUNDQUIST är biträdande redaktör för Säkerhetsrådet och projektledare på tankesmedjan Frivärld.

Annons
Annons
Annons
Annons
Annons