Roboten med själ

2012-10-05

I framtiden kommer man att kunna bygga medvetna maskiner – maskiner som förstår när man kränker deras rättigheter och som i filosofisk mening också kan känna smärta.

Det hävdar neurofysiologen Germund Hesslow utifrån en hypotes som utmanar vår bild av vad det innebär att vara människa.

Vi människor tycker oss leva i två världar. Den ena yttre och materiell; den andra inre och mental. Många anser nog att också högre stående djur har en sådan inre värld.

Däremot kan döda ting som maskiner förstås inte ha en själ. Eller?

Det är faktiskt inte alltid så lätt att dra gränsen mellan människa och maskin – det förstår man när man möter K – en robot stor som en knytnäve!

– K har en inre värld, ett primitivt medvetande, hävdar en av hans skapare – Germund Hesslow, professor i neurofysiologi vid Institutionen för experimentell medicin.

Germund Hesslow har under ett par decennier utvecklat en hypotes kring vad som utmärker det mänskliga medvetandet. Den går ut på att det är förmågan att föreställa sig saker och föregripa skeenden som i själva verket är det som vi menar med ett medvetande. År 1999 höll han en föreläsning om detta vid högskolan i Skövde. Efter­åt kom ett par åhörare från Institutionen för kommunikation och information fram. De menade att det var möjligt att skapa en robot som fungerar enligt de principer Hesslow skisserat. Så kom det sig att Dan-Anders Jirenhed och hans handledare Tom Ziemke utgick från Khepera, en robot som fanns på marknaden och som de gett smeknamnet K.

K har hjul och kan rulla framåt och bakåt samt svänga. Forskarna försåg den med en elektronisk ”hjärna” som gör att den kan reflektera över vad den gör, låt vara i begränsad mening.

Precis som hos människor har Ks ”hjärna” en sensorisk del där ”sinnesintrycken”, dvs information i form av ljud, ljus etc kan tas in. Den sensoriska delen är kopplad till en motorisk del som styr robotens rörelser.

K:s elektroniska hjärna är byggd på ett annat sätt än klassiska datorer. Den är ett nätverk av en typ som kallas Artificiella Neurala Nätverk, ANN. Neurala nätverk kan lära sig saker genom träning, dvs. nätverket samlar in erfarenheter, lär av dem och prövar sig fram tills det lyckas med ett uppdrag. Det påminner om hur barn lär sig behärska den fysiska världen. Roboten K förmår med hjälp av sin konstgjorda hjärnas läraktighet att efterhand undvika hinder på sin väg genom ett rum eller en labyrint.

Utmärkt, säger skeptikern, men detta klarar faktiskt också en automatisk dammsugare eller en gräsklippningsrobot. Och dessa maskiner är ju inte särskilt själfulla!

Nej visst, Germund Hesslow håller med:

– Både K och en hushållsrobot kan undvika hinder tack vare sina ”känselspröt”, sensorerna. Det är inget konstigt med det.

Men, tillägger han, skillnaden blir uppenbar när man stänger av sensorerna:

– Då kan K, så att säga med förbundna ögon, ändå undvika hindren därför att den kan ”se”, det vill säga utifrån tidigare erfarenheter föreställa sig vad som håller på att hända och vilka konsekvenser detta har, förklarar han.

Det handlar alltså inte om en enkel programmering som säger ”undvik det där hindret” som när det gäller gräsklippningsroboten, utan om en inre process som leder till att maskinen undviker hindret. Och själva poängen är inte vad maskinen har lärt sig utan vad den kan förutse. Det är detta som roboten K, enligt Germund Hesslow, har gemensamt med oss människor.

Hur fungerar då roboten?

– Den lär sig två saker. Dels lär den sig att undvika hinder. Den kan med sina sensorer se att ett hinder närmar sig och växer på dess artificiella näthinna. Dels lär den sig då också en mängd kopplingar mellan beteenden och visuella konsekvenser av dessa beteenden. Den kan då förutse vad som kan hända när den närmar sig hindret. Dessa förutsägelser kan sedan föras in i robotens synsystem, som gör att K ”ser” även när sensorerna är stängda.

K har inte bevisat att Germund Hesslows hypotes (se ruta på förra sidan) om mänskligt tänkande är sann. Men den visar att principen är en fungerande möjlighet – K beter sig ju som om den gjorde överväganden utifrån en inre föreställningsvärld. Hesslow medger att K:s inre är torftigt jämfört med en människas inre. Men det kan byggas ut. Exempelvis skulle man kunna få K att rapportera om sina förutsägelser.

Dock – en viktig komponent i människans medvetande är självmedvetandet. Den inre världen är min, den enskilda individens, och ingen annans. Om K varit utrustad med självmedvetande skulle vi ha fått ett moraliskt problem på halsen – det finns ju ingen deklaration om maskiners rättigheter…

Germund Hesslow tvivlar inte på att man i framtiden kommer att kunna bygga medvetna maskiner.

– Och ja, medger han, det kan bli etiska problem om vi utrustar roboten med en motsvarighet till värderingar och sensorer för att upptäcka skador och mekanismer för att undvika dessa.

Germund Hesslow menar nämligen att roboten därmed skulle kunna känna smärta!

Är det verkligen möjligt? Är den bara en zombie som spelar teater och skriker aj när man sparkar den på smalbenen, som luras och bara ser ut som om den kände något?

– Nej, eftersom jag menar att smärta är förnimmelsen av skada i kombination av med mycket starka drivkrafter att undvika skador. Det är lätt att förstå hur en vanlig robot fungerar. Den får inputs och svarar på dem. Men K:s beteende blir oförklarligt om vi inte antar att den har en inre värld, säger Germund Hesslow.

Den springande punkten är förstås vad man menar med ”en inre värld” och hur man tänker sig att en sådan uppstår. Men om det går att bygga en mänsklig maskin blir den naturliga följdfrågan: måste inte då också människan vara en maskin?

Göran Frankel

Foto (på Germund Hesslow): Maria Lindh

Germund Hesslows hypotes om de processer som leder till uppkomsten av en inre verklighet eller ett medvetande hos oss människor, bygger på tre mekanismer eller förmågor:

Man kan i sitt inre simulera, dvs. föreställa sig, ett beteende.

Det finns flera studier som visar att det är samma nervceller som aktiveras när en människa utför en handling som när hon tänker sig att hon utför samma handling; det är så att säga bara slutsignalen, som verkställer själva handlingen, som fattas när man simulerar eller föreställer sig något. Det kan jämföras med att köra bilen utan att släppa upp kopplingen.

Man kan simulera sinnesintryck.

Man tänker sig att man tittar på exempelvis ett träd. Då händer liknande saker i hjärnan som när man tittar på ett träd i verkligheten. Skillnaden är att signalen till hjärnas sensorer nu kommer inifrån, från människans fantasi byggd på erfarenhet, och inte från ett verkligt träd.

Man kan koppla ihop föreställningen om ett visst beteende med de sinnliga konsekvenser det får.

Om jag slår med en hammare mot något så blir det en smäll, och sätter jag mig ner kommer jag att känna trycket under rumpan. Eller så kan jag sitta här och tänka att jag reser mig upp och går fram till dörren. Det är en simulering som kommer att föra med sig att jag framför mig ser dörren och dörrhantaget – vilket kan stimulera mig att faktiskt öppna dörren. På det här sättet kan man simulera långa kedjor av beteenden och deras konsekvenser.

Är människan

en raffinerad maskin?

Professor Peter Gärdenfors, kognitionsvetenskap:

– Jag är skeptisk till tanken att det skulle gå att bygga en maskin som har ett medvetande som liknar människans. Det låter sig sägas att K har en ”inre värld” men det är långt ifrån vad jag skulle kalla för en medveten upplevelse. Och själva frågan om människan är en maskin är omöjlig att svara på om man inte först gör klart för sig vad man menar med ”maskin”.

Professor em. K G Hammar, teologi:

– Det anser jag inte. Det är riktigt att medvetande och materia står i ett nära förhållande till varandra. Men medvetandet är inget statiskt, det utvecklas hela tiden i relation till andra människor. Visst hade det varit intressant om man kunnat bygga en maskin som kunde känna kärlek – den skulle ha ett och annat att lära oss människor….

Professor Dan-E Nilsson, biologi:

– Tveklöst ja! Men i dag vet vi för lite om vad medvetande är och hur det fungerar. Anta att vi i en maskin kan simulera mänskligt beteende så exakt att vi inte kan skilja det från en människas. Om vi frågar maskinen ”Är du medveten?” måste den svara ”Ja”. Annars är den felprogrammerad. Men vi kan inte veta om den verkligen är medveten.