Annons

Merete Mazzarella:Redan de gamla grekerna såg farorna med AI

Robotar, bioteknik och artificiell intelligens var långt ifrån främmande för antikens människor, vars myter och gudar inte sällan uppvisade science fiction-artade drag. En ny bok analyserar antikens föreställningar om teknikens löften och konstgjort liv.

Under strecket
Publicerad

Den mytologiska ­Talos, ”världens ­första robot”, i filmen ”Jason and the Argonauts” från 1963.

Foto: TTBild 1 av 1

Den mytologiska ­Talos, ”världens ­första robot”, i filmen ”Jason and the Argonauts” från 1963.

Foto: TTBild 1 av 1
Den mytologiska ­Talos, ”världens ­första robot”, i filmen ”Jason and the Argonauts” från 1963.
Den mytologiska ­Talos, ”världens ­första robot”, i filmen ”Jason and the Argonauts” från 1963. Foto: TT

Man behöver inte vara särdeles bevandrad i grekisk mytologi för att ha hört talas om Prometheus, titanen som stal elden från gudarna och därmed underlättade människosläktets tillvaro på jorden, men att Prometheus hade en yngre bror visste jag inte förrän alldeles nyligen. Ändå är denne Epimetheus viktig, för det var han som vid skapelsen tiggde sig till uppgiften att bestämma vilka förmågor varje levande varelse skulle ha. Han började med djuren och hade så fullt upp med att dela ut fart, styrka, smidighet, ypperligt syn- och luktsinne, päls, fjädrar, klor och horn att han inte hade något kvar att ge människan. När sedan Prometheus av medkänsla med den nakna apan trotsade gudarna blev han förebilden för människornas egen oupphörliga strävan att skaffa sig ny teknik och att på alla tänkbara vis förbättra sina förmågor. 

Annons
Annons

Epimetheus roll fick jag lära mig om tack vare Adrienne Mayor, forskare i antikens vetenskapshistoria och författare till ”Gods and robots: Myths, machines and ancient dreams of technology” (Princeton University Press). Prometheus, mänsklighetens välgörare, påminner för sin del inte bara om att framsteg är möjliga för den djärve utan också om att övermod kan ha ett högt pris: överguden Zeus blev som bekant rasande och lät honom kedjas vid en klippa där en örn fick kalasa på hans lever. Varje gång levern var uppäten växte den ut igen för att tortyren skulle kunna fortsätta år ut och år in. 

Mayor visar hur samma ambivalens går igen i myt efter myt. När gryningens gudinna Eos förälskar sig den unge, vackre musikern Titonius bönfaller hon sina medgudar om att han – liksom hon själv – ska ha evigt liv. Hon blir bönhörd men hon har glömt att han också borde ha beviljats evig ungdom och när han åldras och tappar både rörelseförmåga och minne grips hon av förtvivlan. Enligt vissa versioner av myten torkar han in och förvandlas till en cikada vars entoniga sång är en oupphörlig vädjan om att få dö. 

När den utomordentligt skickliga hantverkaren och konstnären Daidalos samlat fågelfjädrar och limmat ihop dem till vingar så att både han och hans son Ikaros lyckas ta sig upp i luften kan ynglingen, trots faderns varningar, inte motstå frestelsen att flyga så högt att solen smälter limmet och han störtar. Mer skeptiska antika författare ville ge myten en rationell förklaring och föreslog att Daidalos kunde ha uppfunnit segel – som under arkaisk tid ofta jämfördes med vingar eftersom de gjorde det möjligt för fartyg att ”flyga” över vågorna – men det är med egna vingar försedda som Daidalos och Ikaros genom årtusendena varit ett kärt motiv i litteratur och konst. En tidig avbildning av Daidalos finns på en etruskisk kruka från ungefär 630 f Kr.

Annons
Annons

Mest intresse tycks de gamla grekerna emellertid ha ägnat artefakter som såg ut att ha liv. Daidalos var känd för att ha tillverkat statyer som var så illusoriska att de framkallade vad man idag kallar en ”uncanny valley”-effekt hos iakttagarna – det vill säga en desorientering som kommer sig av att något ser ut som men bara nästan beter sig som människor. Många var övertygade om att de sett dem röra sig. 

Daidalos var också känd för ett framgångsrikt experiment av mer pornografisk karaktär. När drottning Pasifaë av Kreta blev erotiskt besatt av en vacker vit tjur snickrade han till en träko som han beklädde med äkta kohud varpå drottningen kunde krypa in och lägga sig på alla fyra och vänta på den åtrådde. Också detta tilltag hade allvarliga konsekvenser: drottningen födde det människo­ätande monstret Minotauros. 

Ordet robot ska ha använts första gången av den tjeckiske författaren Karel Čapek i en pjäs som hade premiär 1921 och är därmed ännu inte fullt 100 år gammalt men föreställningar och fantasier om det som vi idag kallar robotar – och om artificiell intelligens – har mer än 2 000 år på nacken. Man drömde om föremål eller varelser som var automaton, som det grekiska ordet lydde, som kunde röra sig av sig själva, men var “gjorda, inte födda”, och därmed representerade “liv genom hantverk”, biotechne, alltså vad vi idag kallar bioteknik.

Än idag tenderar vi dels att tillskriva robotar känslor, dels att själva känna empati för dem.

Och det är inte bara föreställningarna om möjligheterna som är urgamla, det är – åter­igen – också medvetenheten om riskerna. Redan de gamla grekerna skulle troligen ha förstått de lagar för robotar som biokemisten och science fiction-författaren Isaac Asimov formulerade 1942: 

Annons
Annons

”1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada. 

2. En robot måste lyda order från en människa, förutom om sådana order kommer i konflikt med första lagen.

3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med första eller andra lagen.” 

Enligt den grekiska mytologin hette världens första robot Talos. På 300-talet f Kr figurerar han i Apollonios Rhodios diktverk ”Argonautika” men han finns omnämnd redan ett par hundra år tidigare och har flitigt avbildats på krukor och vaser. Han var en jättestaty i brons, ett slags android med en enda åder med livgivande vätska som löpte hela vägen genom kroppen ner till ena vristen där den hölls tillsluten med en spik och han var ”programmerad” att tjäna Kretas kung Minos genom att marschera ön runt tre gånger om dagen och att kasta väldiga stenbumlingar för att hålla främmande fartyg borta. Om någon inkräktare kom riktigt nära kunde han värma sin kropp så den blev rödglödande, ta sitt offer i famn och bränna honom till döds. 

Olika texter ger olika skildringar av hur Talos till slut röjs ur vägen men ett gemensamt drag är att det är den sköna men farliga Medea som blir hans nemesis eftersom hon vet hur han är konstruerad. I en särskilt intressant version ger hon honom först en drog som framkallar mardrömmar om ond, bråd död och när hon väl har väckt hans dödsskräck lovar hon att göra honom odödlig på det villkoret att han tar bort sin spik. Det gör han, vätskan rinner ur honom och därmed är det slut med honom. I en film från 1963, ”Jason and the Argonauts”, ser vi honom kämpa för att få luft och förtvivlat gestikulera mot bröstet innan han faller ihop.

Annons
Annons

Och varför är just den här versionen intressant?

Jo, därför att man här förställer sig att Talos hade egna känslor och avsikter – det är ju förutsättningen för att han ska låta sig manipulera psykologiskt. Än idag tenderar vi dels att tillskriva robotar känslor, dels att själva känna empati för dem. I den amerikanska militären lär robotar inte bara kunna få namn utan också tapperhetsmedaljer och begravningar med alla hedersbetygelser och det lär finnas soldater som säger sig vara beredda att riskera livet för dem.

Talos – den enda mytologiska automaton vars konstruktion i någon mån blir förklarad – var tillverkad av ingen mindre än smeden Hefaistos, den enda av Olympens gudar som hade ett yrke. Hans meritlista var imponerande: bland mycket annat hade han tillverkat hjälten Akilles rustning, ett antal trefotingar som fungerade som serveringsbord och åkte runt på golvet för att passa upp gudarna med mat och vin, ett par tjurar av guld och en port som öppnade sig av sig själv så att gudarnas vagnar bekvämt kunde köra in och ut – ”den första automatiska garagedörren”, har en antikforskare skämtsamt sagt. Men alldeles särskilt märkvärdiga var hans guldjungfrur, en skara unga kvinnor alla gjorda i ädelmetall, som hjälpte honom i hans arbete och som inte bara kunde röra sig utan också ”inom sig hade medvetande, förstånd, röst och kraft”. Guldjungfrurna är det närmaste grekerna kommer vår tids föreställningar om artificiell intelligens. 

Hefaistos verk inspirerade för övrigt också Aristoteles tankar om slaveriet. Först jämför han slavar med redskap som följer sin herres vilja. För ett gott liv, heter det, behövs ”instrument av vilka några har liv medan andra är utan /.../ För den som styr ett fartyg gäller att rorpinnen saknar liv medan sjömannen är levande. /.../ En slav är ett levande redskap – men en tjänare eller en slav som kan handla på eget initiativ är mer värd än något annat redskap”. Så långt är resonemanget naturligtvis ett försvar för slaveriet men Aristoteles tar ett steg till och föreställer sig tekniska framsteg som skulle göra slaveriet överflödigt: ”Om varje redskap skulle kunna utföra sitt arbete på befallning eller rentav för att det kan förutse ett behov, liksom Daidalos statyer och Hefaistos trefotingar”, och om ”skott­spolar kunde väva /.../ skulle hantverkare inte behöva tjänare och herrar skulle inte behöva slavar.” 

Annons
Annons

Så långt är allt gott och väl men i ett av sina sista kapitel kommer Adrienne Mayor till Pandora och här sluter sig cirkeln: Pandora – förstår jag först nu – har med Prometheus att göra, Pandora är ingen levande kvinna, liksom Talos är hon ”gjord, inte född” och den som har gjort henne är naturligtvis Hefaistos, därtill uppmanad av Zeus som efter att ha straffat Prometheus kommit till att det är dags att straffa människorna. Pandora är bildskön och flera gudar har samarbetat om att klä och bekransa henne innan hon nedstiger till jorden i Hermes sällskap och förs till Prometheus lättsinniga bror Epimetheus som hon genast bedårar. Det är där hon öppnar sin ask – eller i poeten Hesiodos version snarare kruka – och släpper alla tänkbara olyckor och sorger ut världen. 

Men hoppet, då?

Enligt den nog så torftiga version av myten som jag inhämtade i skolan fanns hoppet kvar i krukan när alla olyckorna flugit ut. Ja, frågan är om inte hoppet framställdes som viktigare än olyckorna. Adrienne Mayor ser emellertid ingen tröst i detta, tvärtom. Hon hävdar att de gamla grekerna uppfattade hoppet som något fåfängt och bedrägligt, alltså som ytterligare en plåga för människosläktet. För övrigt talar de 2 000 år gamla avbildningarna av Pandora för sig själva: hennes ansiktsuttryck skiljer sig från andra arkaiska ansiktsuttryck, hon har ett alldeles eget glädjelöst leende, ett uncanny valley-leende.

Sedan kan man ju fråga sig om det är en tröst att Talos idag är namnet på ett system för cybersäkerhet.

Annons
Annons
Annons
Annons
Annons