Hva skjer når menneskets teknologiske oppfinnsomhet tas i bruk for å skape kunstig forsterket lidelse?
Tekst: Adrian Holm
Illustrasjon: Vincent Dahlgren Lima
Smerte er alltid blitt brukt som et maktmiddel av autoriteter gjennom sivilisasjonens historie. Å bli dratt langs brosteinsgatene i London etter hest for så å bli lemlestet levende foran allmuen var i flere hundre år en trussel ment å få forrædersk innstilte briter på bedre tanker (Drawing and quartering, 1998). For å kue den persiske befolkningen beordret Aleksander den store at deres konge, Bessos, skulle bli offentlig torturert (Arrianos, overs., 1884). Trusselen om evig pinsel er i årtusener blitt brukt av geistlige for å fostre lydighet. Også i nyere tid har ekstrem smerte blitt tatt i bruk etter ulike autoriteters forgodtbefinnende; amerikanerne bruker som kjent tortur for å avhøre terrormistenkte i Guantánamo Bay (Julsrud, 2009).
Historiens lederskikkelser har dog sjeldent tatt innover seg smertens etiske tyngde; den er hovedsakelig blitt brukt som et verktøy. Dette reflekterer menneskets manglende evne til å handle moralsk på et samfunnsnivå, og har ført til en rekke tragedier opp gjennom historien. Men i en tid der små teknologiske revolusjoner finner sted hvert år, har vi kanskje kun begynt å ane mulighetene vi mennesker har til å skape smerte. Tidligere tiders torturister har tross alt hatt begrensninger i omfanget av smerte de har kunnet skape, selv om deres oppfinnsomhet har vært stor. Ved hjelp av teknologi kan det tenkes at tidligere naturgitte grenser vil opphøre. Ved hjelp av teknologi kan smertens omfang bli tilnærmet uendelig.
Smertens fenomenologi og etikk
Før jeg utdyper hvordan teknologi kan skape kunstig forsterket smerte, er det imidlertid nødvendig å få en klarere forståelse av hva smerte egentlig er. Både filosofer og psykologer har lenge slitt med å bli enige om en klar forståelse og definisjon av smerte (Aydede, 2005). Av International Association for the Study of Pain (IASP) blir smerte definert som «En ubehagelig sensorisk og emosjonell opplevelse forbundet med faktisk eller potensiell vevsskade, eller beskrevet med ord som for en slik skade» (IASP Taxonomy, 2017, tekstforfatters oversettelse). Denne definisjonen ser imidlertid ikke ut til å fullstendig fange det vi assosierer med den fenomenologiske opplevelsen smerte – og særlig ikke ekstrem smerte. Filosof Arne Johan Vetlesen (2004) hevder at torturofferets tilstand kan beskrives som følgende:
Det som smertepåføringen oppnår, er at hele denne skapte verden med alt dens psykologiske og mentale innhold, alt det som språket normalt objektiverer, kommuniserer og opprettholder – hele denne skapte verden utenfor kroppen opphører å kjennes reell, å kjennes gyldig. Det eneste reelle, det eneste gyldige, virkeligheten rett og slett, er nå vendt innover mot subjektet selv i stedet for utover mot en felles verden. Det er kroppen. Kroppen består av smerte, kroppen er smerten og smerten er kroppen. Alt annet er ikke-eksisterende, ikke-betydningsfullt, lettheten selv. ( s. 23)
Fysisk smerte er ikke trivielt. Det samme gjelder psykisk smerte, noe enhver klinisk psykolog vil kunne skrive under på. For enkelhets skyld vil jeg fokusere på den fysiske smerten i denne teksten. Smerten har som sagt lenge blitt neglisjert som et objekt for etisk refleksjon av samfunnets autoriteter. Det samme kan ikke sies om moralfilosofene. Og den moralfilosofiske leiren som fremfor noen har fokusert på smertens etiske status, er utilitaristene. For disse er handlinger kun moralsk rett når de maksimerer nytte (Sagdahl, 2009). Dette impliserer at handlinger skal gi oss så mye lykke eller nytelse som mulig, og så lite smerte eller lidelse som mulig. Men et problem ved en slik tankegang, som blant annet er påpekt av Karl Popper, er at nytelse aldri kan veie opp for smerte. Med sin negative utilitarisme hevdet han at det er viktigere å minimere smerte enn å maksimere nytelse (Popper, 1945).
Popper begrunner dette blant annet med at det ikke gir mening å se på smerte som den ene siden av et kontinuum der man finner nytelse på den andre siden. Det er mye som er fornuftig med en slik tankegang. Det virker kanskje intuitivt å tenke at man kan gi en tenkt skåre, for eksempel 10, til den høyeste grad av nytelse det er mulig å oppnå. Ved en nøytral tilstand vil man oppnå skåren 0, og ved ulike grader av nytelse kan man skåre mellom 0 og 10. Om man så har «negativ» nytelse, altså smerte, vil man på den andre siden av skalaen kunne skåre slike følelser til og med -10. -10 vil da se ut til å være like «ondt» som +10 er «godt».
Men en slik intuisjon faller sammen straks man innser at den mest intense smerte er så mye mer «(v)ond» enn den mest intense nytelse er «god». Om man skulle hatt en kontinuerlig skala som den skissert ovenfor, måtte man skåret nytelse mellom 0 og 10, og smerte mellom 0 og 10 000, eller et annet svært høyt tall. Når forholdet mellom de to endepunktene av en skala blir så skjevt, er det kanskje ikke slik at de to fenomenologiske opplevelsene er kvantitativt forskjellige, men at de er kvalitativt forskjellige. Jeg vil hevde at smerten, i alle fall i sin ekstreme form, er av en slik kvalitet at det blir meningsløst å tenke at den kan stå i et omvendt proporsjonalt forhold til nytelse eller lykke. Ekstrem smerte kan fra et moralsk perspektiv aldri oppveies av selv den mest euforiske lykke, uansett hvor mange som måtte få en slik lykke på bekostning av den ekstreme smerten. Dette skal bli et viktig poeng når vi nå utforsker smertens fremtid.
Kunstig smerte
Det beste som kan sies om ekstrem smerte, er at den er midlertidig. Uansett hvor kreativ torturisten er, vil torturofferet før eller siden slippe fri eller dø. Med fremtidens teknologi kan det imidlertid være at smertens varighet kan strekkes ut mot det uendelige. Hvordan kan så det gjøres?
Det finnes flere muligheter, og den som kanskje først melder seg for fantasien omhandler kunstige intelligenser. Hvis det noen gang blir mulig å lage en selvbevisst og følende kunstig intelligens, slik noen tror vi vil klare i en ikke altfor fjern fremtid, er det naturlig å tro at de som programmerer intelligensen også kan skape smerte i så stor grad de ønsker.
Hvorvidt det er mulig å skape kunstige intelligenser med selvbevissthet eller menneskelige følelser som smerte, er et tema som allerede er diskutert i flere tiår (Dennett, 1978; Searle, 1980). Mange hevder at dette er teoretisk umulig, men uansett hva dagens argumenter og spekulasjoner skulle tilsi, er det alltid vanskelig eller umulig å forutse hva morgendagens teknologi vil bringe. Det er ikke lenge før vi får kvantedatamaskiner, med eksponentielt større prosesseringskraft enn dagens digitale datamaskiner. Hva disse blir i stand til er vanskelig å spå.
Om bevissthetsfilosofen fortsatt nekter for at det blir mulig å skape moralsk relevante følelser hos kunstige intelligenser, er det uansett mulig å tenke seg at ekstrem kunstig smerte kan oppstå på andre måter. Etter hvert som vi får en større forståelse av hjernen, kan det bli mulig å «kapre» nervesystemet til mennesker, for så å påføre dem ekstrem smerte uten å skade dem kroppslig. Slik teknologi trenger ikke en gang å bli utviklet som en torturmetode i utgangspunktet: Det kan for eksempel tenkes at vi vil skape virtuelle verdener som er ment som underholdning, hvor vi kobler oss på med nervesystemet vårt for å oppnå maksimal innlevelse i den virtuelle opplevelsen. Denne teknologien kan enten modifiseres for å bli brukt i tortur av terrororganisasjoner eller nasjoner, eller den kan bli hacket av enkeltindivider med kun sadistiske motivasjoner. Enkelte transhumanistiske fremtidsfantasier åpner også opp for scenarioer hvor ekstrem kunstig smerte er mulig, uten at jeg skal gå inn på disse i detalj.
Det er verdt å dvele litt ved omfanget av den kunstige smerten vi snakker om her. Selv om jeg har valgt å omtale smerten som «kunstig» grunnet dens opphav, er det lite som egentlig er kunstig ved den. Den er kunstig forsterket, men vil oppleves som høyst reell for offeret. Om man skulle klare å kapre et menneskes nervesystem, vil smerten for det første kunne bli ekstrem rent gradsmessig. I en simulert virkelighet vil man kunne la personen oppleve all slags tortur som tidligere er brukt i historien. Om man ikke vil gjøre det så komplisert, kan man alltids bare aktivere smertekretser i hjernen og skru dem på maks. For det andre vil smerten kunne bli ekstrem i sin temporale utstrekning. I den nevnte simulerte virkeligheten kan man fortsette torturen så lenge man måtte ønske. Kanskje kan man også justere offerets tidspersepsjon på en slik måte at de opplever at torturen varer nærmest i det uendelige.
Nøyaktig hvor det er mulig å sette parameterne for slik tortur er vanskelig å si. Men om fremtidens teknologi skal muliggjøre om så en brøkdel av det som er skissert her, er det uansett grunn til å slå alarm.
Implikasjoner
Det fremtidsbildet jeg har tegnet her virker dystert. Jeg skal likevel se om det er mulig å finne noen form for optimisme på slutten av denne tankerekken. Dog er det uunngåelig å streife innom noen dystopiske tanker på veien.
For hva er konsekvensene av en fremtid der ekstrem kunstig smerte er mulig, og hvor man går ut i fra at slik smerte må unngås for enhver pris? Som moralfilosofen John Smart innvendte mot Poppers negative utilitarisme (Smart, 1958), kan implikasjonen være at man bør finne den første og beste måten å tilintetgjøre menneskeheten. Da ser man jo ut til å slippe både ekstrem og ordinær smerte. Kanskje dette hadde vært den beste løsningen, gitt at det var mulig. Uansett virker det nytteløst å spekulere i dette, da det er absurd å se for seg et scenario hvor menneskeheten blir enig om å gjennomføre en slik plan. Gitt at menneskeheten ikke utsletter seg selv før en fremtid med kunstig smerte blir mulig, noe mange selvsagt tror vil skje uansett, må vi gå ut i fra at arten vår kommer til å fortsette sine teknologiske fremskritt. Kanskje er det beste vi kan gjøre å jobbe for å forebygge ekstrem kunstig smerte.
Hvordan kan man få til det? Om teknologi som muliggjør kunstig smerte blir bredt tilgjengelig, virker det uunngåelig at den blir tatt i bruk. Derfor må den på en eller annen måte reguleres. Men som jeg beskriver innledningsvis har samfunnets strukturer og autoriteter historisk sett brukt smerte som et verktøy for å fremme egne interesser. Få statsledere har snakket om smerte som et særlig relevant moralsk objekt, som noe som bør unngås. Det virker lite sannsynlig at våre ledere vil frastå fra å ta i bruk kunstig smerte gitt at de får muligheten.
Men siden vi snakker hypotetisk, spekulerende og dystopisk i relativt store tidsmessige skalaer, bør man kanskje tillate seg å tenke utopisk også. I løpet av relativt få tiår har vi fått menneskerettigheter, krigskonvensjoner og De forente nasjoner. Vi har hatt oppturer og nedturer – noe som kan være lett å glemme når man for tiden befinner seg i det mange vil beskrive som en nedtur – men vi har tross alt fått et større internasjonalt fokus på å unngå menneskelige tragedier enn det som har eksistert tidligere, også på statlig nivå.
Allikevel er det vanskelig å se for seg hvordan samfunnet i fremtiden kan organiseres for å unngå bruk av kunstig smerte. Folk undervurderer generelt hvor vanskelig det er å forutse hvordan verden kommer til å se ut i den fjerne fremtid, særlig etter at AI-revolusjonen («singulariteten») er et faktum. Men for å unngå at sadistiske enkeltindivider tar i bruk teknologi som kan skape kunstig smerte, trenger man på en eller annen måte en streng samfunnsmessig regulering av teknologien. For at samfunnet skal gjennomføre slike reguleringer når det en gang blir nødvendig, må samfunnets innbyggere og ledere faktisk ønske å gjennomføre endringene.
Altså: Nøyaktig hva som skal gjøres må av nødvendighet være opp til de som lever på det aktuelle tidspunktet. Det som er avgjørende er at vi er motivert til å gjennomføre de aktuelle endringene når teknologien som muliggjør kunstig smerte blir tilgjengelig, enten dette skjer om 30, 50, 100 eller 200 år. Kanskje alt vi kan gjøre fram til da er å jobbe for å endre samfunnets holdninger til smerte og lidelse. I første omgang ville det vært et stort steg i riktig retning om man skapte en bredere oppfattelse av våre medmenneskers lidelser – uansett hvem de er og hvor de kommer fra – som noe som angår oss alle.
For å møte etiske problemer som ligger langt borte på horisonten, er det nødvendig at man håndterer de etiske problemene som eksisterer i dag. Kun slik vil man få den trinnvise progresjon som trengs for å møte morgendagens etiske utfordringer.
Adrian Holm går 7. semester på profesjonsstudiet i psykologi.
Litteraturliste
Aydede, M. (2005). Pain. I Edward N. Zalta (red.), The Stanford Encyclopedia of Philosophy (Spring 2013 Edition). Hentet fra https://plato.stanford.edu/archives/spr2013/entries/pain/
Dennett, D. C. (1978). Why You Can’t Make a Computer That Feels Pain. Synthese, 38(3), s. 415–56.
Drawing and quartering (1998, 20. juli). I Encyclopædia Britannica. Hentet fra
https://www.britannica.com/topic/drawing-and-quartering
IASP Taxonomy. (2017, 14. desember). Hentet fra https://www.iasp-pain.org/Taxonomy
Julsrud, O. (2009, 14. februar). Guantánamo Bay. Hentet fra https://snl.no/Guantánamo_Bay
Popper, K. (1945). The Open Society and Its Enemies: Volume 1: The Spell of Plato. Routledge: London.
Sagdahl, M. (2009, 15. februar). Utilitarisme. Hentet fra https://snl.no/utilitarisme
Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), s. 417-457.
Smart, R.N. (1958). Negative Utilitarianism. Mind, 67(268), s. 542–543.
Vetlesen, A.J. (2004). Smerte. Bærum: Dinamo Forlag.
