Det som vi brukar kalla ”den fria viljan” är bara en myt – som kan manipuleras av modern teknologi. Roboten Sophia, skapad av företaget Hanson Robotics, visades upp på holländska teknikfestivalen Bright day för en knapp månad sedan.
Det som vi brukar kalla ”den fria viljan” är bara en myt – som kan manipuleras av modern teknologi. Roboten Sophia, skapad av företaget Hanson Robotics, visades upp på holländska teknikfestivalen Bright day för en knapp månad sedan. Foto: IBL/Ill Staffan Löwstedt

Så manipuleras vår ”fria vilja” av ny teknologi

Inom en snar framtid känner regeringar och företag oss bättre än vad vi gör själva. Och när människan kan hackas av artificiell intelligens har liberalismens myt om en fri vilja blivit farlig, skriver den israeliske historikern Yuval Noah Harari i en text i SvD.

Publicerad

Den liberala demokratin står för närvarande inför en dubbel kris. För det mesta riktas all uppmärksamhet mot den utmaning som auktoritära regimer utgör. Men nya vetenskapliga upptäckter och teknologisk utveckling utmanar på ett mycket mer grundläggande sätt själva kärnan i det liberala idealet om människans frihet. I århundraden har liberalismen framgångsrikt överlevt demagoger och autokrater som försökt strypa människors frihet utifrån. Men liberalismen har knappt mer än fått en försmak av de teknologier som har förmågan att fräta sönder människans frihet inifrån.

För att förstå de nya utmaningarna, måste vi börja med att slå fast vad liberalism betyder. I ett västerländskt politiskt sammanhang definieras termen ”liberal” i dag ofta på ett smalt och ensidigt sätt; som motsatsen till ”konservativ”. Och ändå bejakar också de flesta så kallade konservativa den allmänna liberala synen på världen. Den typiska Trump-väljaren skulle ha betraktats som en radikal liberal för hundra år sedan. Pröva själv var du står. Tycker du att människor ska få välja sin regering hellre än att plikttroget lyda en kung? Tycker du att människor ska få välja yrke hellre än att födas in i en kast? Tycker du att människor ska få välja sin make/maka hellre än att tvingas gifta sig med den som deras föräldrar utser? Har du svarat ”Ja” på dessa tre frågor? Grattis, du är liberal.

Har du svarat ”Ja” på dessa tre frågor? Grattis, du är liberal.

Liberalismen värnar människans frihet, eftersom den förutsätter att mänskliga varelser är unika väsen, annorlunda jämfört med alla andra djur. Till skillnad från råttor och apor förmodas homo sapiens ha en ”fri vilja”. Det är detta som upphöjer mänskliga känslor och mänskliga val till den yttersta moralen och ett politiskt rättesnöre i världen. Dessvärre är inte ”den fria viljan” vetenskapligt bevisad. Den är en myt som liberalismen har ärvt från kristen teologi. Teologer har utvecklat tanken om ”den fria viljan” för att begripliggöra varför Gud har rätt att bestraffa syndare för deras dåliga val och belöna helgon för deras goda val. Men om de val vi gör inte görs av fri vilja, varför skulle då Gud bestraffa eller belöna oss för dem? Enligt teologer är det ett förnuftigt beteende av Gud, eftersom våra val speglar den fria viljan i våra odödliga själar, vilka inte har några som helst fysiska eller biologiska begränsningar.

Annons
Roboten Sophia.
Roboten Sophia. Foto: Robin Utrecht/IBL

Myten stämmer inte överens med vad vetenskapen numera lär ut om homo sapiens och andra djur. Människor har förvisso en vilja – men den är inte fri. Jag kan inte själv besluta vilka begär jag ska hysa. Jag fattar inte beslut om huruvida jag ska vara introvert eller extrovert, avslappnad eller ängslig, homo eller hetero. Människan gör förvisso val – men aldrig självständiga val. Varje val beror på biologiska och sociala förutsättningar bortom ens egen kontroll. Jag kan välja vad jag ska äta, vem jag ska gifta mig med och vem jag ska rösta på, men dessa val styrs av mina gener, min biokemi, mitt kön, min familjebakgrund, min nationella kultur och så vidare – och inget av allt detta har jag valt.

Annons

Ge akt på nästa tanke som dyker upp i ditt huvud. Var kom den ifrån? Valde du den av fri vilja? Förstås inte.

Det här är ingen abstrakt teori. Du kan lätt se detta hos dig själv. Ge akt på nästa tanke som dyker upp i ditt huvud. Var kom den ifrån? Valde du den av fri vilja? Förstås inte. Om du noggrant iakttar ditt eget medvetande börjar du snart inse att du har mycket liten makt över vad som pågår där, och att du inte av fri vilja väljer vad du ska tänka, känna eller hysa begär till. Har det någonsin hänt dig när du försökt sova kvällen före en viktig begivenhet, att du hålls vaken av en oavbruten ström av irriterande tankar och oro? Om det verkligen var så att du av fri vilja valde vad du ska tänka – varför kan du då inte hejda den där strömmen av tankar och bara slappna av?

Även om ”den fria viljan” aldrig har varit något annat än en myt, så har den under tidigare århundraden varit en nyttig myt. Den gett människan modet att kämpa mot inkvisitionen, kungars gudomliga rätt, KGB och KKK. Den har heller inte kostat oss något. År 1776 eller 1939 gjorde det inget att våra känslor och val ansågs vara resultatet av ”den fria viljan”, och inte biokemi och neurologi. För varken 1776 eller 1939 var det någon som förstod sig på biokemi och neurologi särskilt bra. Men i dag är tron på ”den fria viljan” plötsligt farlig. De som tror på en fri vilja, kommer att vara de som är lättast att manipulera om regeringar och företag lyckas med att hacka in sig i människans operativsystem.

Annons

För att lyckas hacka in sig i människor behövs tre saker: goda biologikunskaper, massor av data och massor av datorkraft. Inkvisitionen och KGB kunde inte hacka in sig i människor, eftersom de saknade nödvändiga biologikunskaper, data och datorkraft. Men snart kan såväl företag som regeringar komma att ha allt detta – och så snart de kan hacka in sig i oss, kan de inte bara förutspå våra val utan också manipulera våra känslor.

När du väljer något – en vara, en karriär, en livspartner, en politiker – intalar du dig att du gör det av fri vilja.

Om du tror på den traditionella liberala berättelsen lär du frestas att helt enkelt avfärda den här utmaningen. ”Nej, det kommer aldrig att hända. Ingen kommer någonsin att kunna hacka sig in i den mänskliga anden, för där finns något som ligger bortom gener, neuroner och algoritmer. Ingen kommer någonsin att kunna förutspå och manipulera mina val, eftersom mina val grundar sig i min fria vilja.” Men tyvärr försvinner inte den här utmaningen bara för att du avfärdar den. I stället gör det dig bara mer sårbar för den. Den naiva tron på den fria viljan förblindar. När du väljer något – en vara, en karriär, en livspartner, en politiker – intalar du dig att du gör det av fri vilja. Om så vore, behövs detta inte undersökas närmare. Då finns det ingen anledning att vara nyfiken på vad som pågår inom dig, eller på de krafter som i själva verket formar ditt val.

Annons
Foto: Robin Utrecht/IBL

Det börjar med små saker. När du surfar på internet dröjer sig din blick kvar på en rubrik: ”Invandrargäng våldtog kvinnor i grannskapet.” Den klickar du på. I samma ögonblick surfar även din granne på internet, men hennes blick fastnar på en annan rubrik: ”Trump förbereder kärnvapenanfall mot Iran.” Den klickar hon på. I själva verket är båda rubrikerna falska nyheter, möjligtvis skapade av ryska troll eller av en hemsida som försöker öka sin trafik för att få ett uppsving i reklamintäkter. Både du och din granne upplever det som att ni klickade på dessa rubriker av fri vilja. I själva verket har ni blivit hackade.

Både du och din granne upplever det som att ni klickade på dessa rubriker av fri vilja. I själva verket har ni blivit hackade.

Annons

Propaganda och manipulation är så klart inget nytt. Men om detta förr i tiden lades ut i bombmattor, så fungerar det numera mer som precisionsbomber. När Hitler höll ett tal på radio riktade han in sig på minsta gemensamma nämnare, eftersom han inte kunde skräddarsy sitt budskap efter unika svagheter i individuella hjärnor. Nu för tiden kan man göra just detta. En algoritm förstår att du redan har fördomar mot invandrare, medan din granne redan ogillar Trump, och därför får du se en viss rubrik och din granne en helt annan. På senare år har några av världens smartaste personer utvecklat förmågan att hacka in sig i mänskliga hjärnor, för att få dig att klicka på annonser och köpa prylar. Bästa sättet att åstadkomma detta är att trycka på knapparna till rädslor, hat eller girighet i din hjärna. Numera används dessa metoder också för att sälja på dig politiker och ideologier.

Och det här är bara början. Än så länge förlitar sig hackare på analyser av yttre signaler: varorna du köper, platserna du besöker, sökorden du använder på nätet. Men om bara några år kommer biometriska sensorer att kunna ge hackare omedelbar tillgång till din inre verklighet och de kommer att kunna iaktta vad som händer inuti ditt hjärta. Inte metaforen hjärta, som liberala fantasier omhuldar, utan den muskelpump som styr ditt blodtryck och stora delar av din hjärnaktivitet. Hackarna kan sedan ställa din hjärtfrekvens i förhållande till uppgifter om ditt kreditkort, ditt blodtryck i förhållande till din sökhistorik. Vad skulle inte inkvisitionen och KGB ha kunnat göra om de hade kunnat förse oss alla med biometriska armband som hela tiden övervakar vår sinnesstämning och våra känslor? Tyvärr kommer vi antagligen snart att få reda på svaret.

Annons

Medan du läser dessa rader försöker regeringar och företag att hacka dig.

Liberalismen har genom åren lyckats ta fram en imponerande arsenal av argument och institutioner för att försvara individens frihet gentemot utifrån kommande angrepp från förtryckande regeringar och trångsynta religioner. Men liberalismen är oförberedd inför en situation då den individuella friheten bryts ner inifrån och då själva föreställningen om ”individ” och ”frihet” ställs på ända. För att överleva och frodas i 2000-talet måste vi överge den naiva synen på människor som fria individer – en syn vi ärvt från kristen teologi och från den moderna upplysningen – och i stället acceptera att människor i själva verket är djur som går att hacka sig in i. Vi måste lära känna oss själva bättre.

Det är knappast ett råd som vi inte har hört förut. Alltsedan antiken har visa män och helgon gång på gång rått människan att lära känna sig själv. Men på Sokrates, Buddhas och Konfucius tid fanns där ingen egentlig konkurrens. Om du struntade i att lära känna dig själv, var du ändå alltjämt en svart låda för resten av mänskligheten. Numera har du konkurrens. Medan du läser dessa rader försöker regeringar och företag att hacka dig. Datorer kan man hacka sig in i på grund av redan existerande brister i programmeringen. Människor kan man hacka sig in i på grund av redan existerande rädslor, hat, fördomar och begär. Hackare kan inte skapa rädsla eller hat ur intet. Men när de upptäcker vad det är som människor redan fruktar eller hatar, är det enkelt att trycka på de känsloknappar som hör dit och på så sätt driva fram än större vrede.

Annons
Foto: Robin Utrecht/IBL

Om människan inte kan lära känna sig själv av egen kraft kan kanske hackarnas egen teknologi vändas om så att den skyddar henne. Precis som en dator har anti-virus för att skydda mot sabotageprogram behöver vi kanske anti-virus för att skydda våra hjärnor? En sådan AI-kompis skulle lära sig dina särskilda svagheter – vare sig det är roliga kattvideor eller irriterande Trump-historier – och sedan blockera dem för din räkning.

För om människan är ett hackbart djur och om hennes val och åsikter inte är ett uttryck för fri vilja, vad är då poängen med politik?

Men allt det här är egentligen bara en bisak. För om människan är ett hackbart djur och om hennes val och åsikter inte är ett uttryck för fri vilja, vad är då poängen med politik? Under 300 år har liberala idéer inspirerat till en politik som syftar till att möjliggöra för så många individer som möjligt att förverkliga sina drömmar och få sina önskningar uppfyllda. Vi har aldrig varit så nära att uppnå detta mål som nu – men vi har å andra sidan heller aldrig varit så nära att inse att det är en illusion. Just den teknologi som vi har uppfunnit för att individer ska kunna uppfylla sina drömmar gör det också möjligt att stöpa om dessa drömmar. Så hur ska jag kunna lita på mina drömmar?

Annons

Den här upptäckten kan kanske ge människan en helt ny sorts frihet. I det förflutna har vi identifierat oss starkt med våra begär och strävat efter friheten att kunna tillfredsställa dem. Så fort en tanke dykt upp inom oss har vi försökt följa dess befallning. Vi har ägnat dagar åt att rusa runt som galna, pådrivna av en berg-och-dalbana av tankar, känslor och begär – som vi felaktigt har uppfattat som ett utslag av vår fria vilja. Vad händer om vi inte längre identifierar oss med den här berg-och-dalbanan? Vad händer om vi noggrant ger akt på nästa tanke som dyker upp och frågar oss själva: ”Var kom det där ifrån?”

Detta kan vara början på den mest spännande upptäcktsresa människan över huvud taget kan ge sig ut på.

Det finns en vag uppfattning om att om vi avsäger oss tron på den fria viljan, så kommer vi att bli helt apatiska, gå ner i fosterställning i något hörn och sedan svälta ihjäl. Men i själva verket skulle det kunna ge upphov till en djupt känd nyfikenhet. Så länge man identifierar sig själv med den tanke eller det begär som råkar fara genom huvudet, krävs det inte någon större ansträngning för att lära känna sig själv. Människan tror nämligen att hon redan vet exakt vem hon är. Men så fort hon inser att ”de där tankarna är inte jag – de är bara biokemiska vibrationer”, så inser hon också att hon inte har en aning om vem – eller vad – hon är. Detta kan vara början på den mest spännande upptäcktsresa människan över huvud taget kan ge sig ut på.

Annons
Foto: Robin Utrecht/IBL

Att tvivla på den fria viljan är inget nytt, inte heller att vilja utforska människans sanna natur. Vi människor har diskuterat detta tusentals gånger tidigare. Men vi har aldrig haft teknologin tidigare. Och teknologin förändrar allt. Uråldriga filosofiska frågeställningar förvandlas till nutida praktiska problem inom teknologi och politik. Och medan filosofer är en mycket tålmodig sorts människa – de kan tvista om något i 3 000 år utan att komma till ett avslut – så är ingenjörer betydligt mindre tålmodiga. Och politiker är allra minst tålmodiga av dem alla.

Hur ska människan leva sitt liv efter insikten om att hon är ett hackbart djur, att hennes hjärta kan vara en agent i regeringens tjänst och att hennes amygdala kanske arbetar för Putin?

Annons

Hur väl fungerar den liberala demokratin i en tid när regeringar och företag kan hacka människan? Vad återstår av uppfattningen om att väljaren, precis som kunden, alltid har rätt? Hur ska människan leva sitt liv efter insikten om att hon är ett hackbart djur, att hennes hjärta kan vara en agent i regeringens tjänst, att hennes amygdala kanske arbetar för Putin och att nästa tanke som dyker upp i hennes huvud inte har åstadkommits av hennes ”fria vilja”, utan av en algoritm som känner henne bättre än vad hon själv gör? Så lyder de mest intressanta frågor som mänskligheten i dag bör ställa sig.

Tyvärr ställer sig de flesta människor inte sådana frågor. I stället för att utforska det som ligger bortom ”den fria viljan” söker människor jorden runt skydd i ännu äldre självbedrägerier. I stället för att anta utmaningen från AI och bioteknik vänder sig människor till religiösa och nationalistiska fantasier, som än mindre än liberalismen är i takt med vår tids vetenskap. I stället för färska politiska modeller erbjuds vi återförpackade rester från 1900-talet – ja, ibland till och med från medeltiden.

Annons

Om man försöker ta till sig sådana nostalgiska fantasier, leder det snart till att man tvingas debattera saker som Bibelns sanningshalt och nationens okränkbarhet (särskilt om man, som jag, råkar bo på ett ställe som Israel). För oss forskare är detta ett verkligt bakslag. Bibeln var ett brännhett diskussionsämne på Voltaires tid och att debattera fördelarna med nationalism var verkligen det allra senaste för ett århundrade sedan – men 2018 framstår allt detta som ett fruktansvärt slöseri med tid. AI och bioteknik kommer att förändra själva evolutionens förlopp och vi har bara några få decennier på oss att klura ut hur vi ska hantera dem. Jag vet inte varifrån svaren ska komma, men de lär förmodligen inte kunna hämtas ur berättelser som för två tusen år sedan sattes samman av människor som visste mycket lite om genetik och ännu mindre om datorer.

Vi bör försvara den liberala demokratin, inte bara för att den har visat sig ge ett mer gynnsamt styre, utan också för att den lägger minst hinder i vägen för att diskutera mänsklighetens framtid.

Vad göra? Jag tror att vi måste kämpa på två fronter parallellt. Vi bör försvara den liberala demokratin, inte bara för att den har visat sig ge ett mer gynnsamt styre, utan också för att den lägger minst hinder i vägen för att diskutera mänsklighetens framtid. Samtidigt måste vi ifrågasätta liberalismens traditionella utgångspunkter och utveckla ett nytt politiskt projekt som ligger mer i linje med vår tids vetenskap och teknologiska möjligheter.

Yuval Noah Harari

Copyright © Yuval Noah Harari 2018

Översättning från engelska: Anders Q Björkman

Yuval Noah Harari.
Yuval Noah Harari. Foto: Jonas Ekströmer/TT

Roboten Sophia.

Foto: Robin Utrecht/IBLBild 1 av 5
Foto: Robin Utrecht/IBLBild 2 av 5
Foto: Robin Utrecht/IBLBild 3 av 5
Foto: Robin Utrecht/IBLBild 4 av 5

Yuval Noah Harari.

Foto: Jonas Ekströmer/TTBild 5 av 5