Maskingudene. Enkelte science fiction-scenarioer truer med å bli science facts.

«I bunn og grunn bygger vi en gud!» sier en av de intervjuede kildene i Tonje Hessen Scheis nye dokumentarfilm «iHuman». Den gransker utviklingen av kunstig intelligens. Prosjektene som skildres, er både imponerende og urovekkende. Kanskje mest det siste. Schei ønsker å problematisere, for å vekke debatt.

Problemstillingen er da også overmoden for en grundig og prinsipiell diskusjon, ifølge flere eksperter. Selv optimister er enige i dette. Den teknologiske utviklingen som forventes å finne sted i de kommende tiårene – med kunstig intelligens i en nøkkelrolle – vil kunne gi oss maskiner som overgår mennesket på felt etter felt.

Redselen for hva dette potensielt vil innebære, er velkjent. Vi har bearbeidet det i årtier. Høyteknologiske mareritt er et sentralt tema i science fiction-sjangeren. Autonome roboter i ymse varianter forsøker å utrydde eller undertvinge oss blant annet i «Terminator»- og «The Matrix»-seriene. De gjør opprør i «Westworld» (1973/2016-) og «Ex Machina» (2015), og er hensynsløst manipulerende i «Prometheus» (2012).

Men andre filmer – som «A.I.» (2001), «WALL-E» (2008), «Her» (2013) og «Chappie» (2015) – skotter mot en noe mer fortrøstningsfull horisont, hvor mennesket og maskinene ikke er dømt til å ut-kjempe eksistensielle konflikter. I Iain Banks romanserie «The Culture» (1987–2012) er sam-spillet med den kunstige intelligensen positivt.

Supermennesket. Fremtidstroen og teknologi-optimismen er fortsatt med oss. Og noen kaller seg teknologiutopister. Ulike varianter av denne ideo-logien har fått ny vind i seilene de siste 30–40 årene – mer eller mindre parallelt med fremveksten av Silicon Valley-selskapene som tunge markedsaktører.

Særlig to ideer fra dette miljøet har fått mye oppmerksomhet: Transhumanismen og singulariteten.

Transhumanismen ønsker å bruke ulike former for nevro-, bio-, gen- og nanoteknologi til å forbedre menneskekroppen. De fysiske og intellektuelle kapasitetene skal endres radikalt. Det snakkes også om å stanse aldringsprosessen.

Den teknologiske singulariteten beskriver et hypotetisk punkt i fremtiden (ofte angitt til et sted rundt midten av dette århundret), hvor mennesket har lykkes med å skape en Generell Kunstig Intelligens (GKI) som opererer selvlærende og selvforbedrende i et voldsomt akselerert tempo.

Resultatet blir antagelig en ekspansiv superintelligens, og «slutten på menneskehetens æra», ifølge mannen som gjorde begrepet allment kjent, Vernor Vinge.

Det er ikke ment som en advarsel, men et fortrøstningsfullt løfte. Tilhengerne av singulariteten (Mark Potts lanserte begrepet «singularitarianere» i 1991) ser frem til dette øyeblikket.

Her er nemlig budskapet frelse. Teknologien vil bli i stand til å ta det endelige spranget som frigjør mennesket – fra sykdom, lidelse og død. Det kan se ut som vi også fritas fra ansvar, kilden til så mye bekymring og uro. Et høyteknologisk nirvana venter.

En kvasireligion? De religiøse konnotasjonene i dette budskapet er ikke vanskelige å fange opp. Det poenget har da også kritikere grepet fatt i.

Science fiction-forfatteren Ken MacLeod har kalt singularitanismen for «the Rapture for nerds». Formuleringen er en henvisning til den kristne endetidsforestillingen om at de troende skal «rykkes bort» i tide innen Dommedag. Vitenskapsjournalisten John Horgan har fulgt opp med å påpeke at forskernes virke bør være å løse reelle problemer, ikke hengi seg til «eskapistiske, pseudovitenskapelige fantasier».

En del av skepsisen skyldes nok også teknologioptimismens historikk. Den har vært formulert i grenseoverskridende målsetninger, hvor etiske og demokratiske verdier må vike for mulighetene i de revolusjonære omveltningene. Bevegelsen har for eksempel ideologiske forløpere som agiterte for å forbedre de arvelige egenskapene i befolkningen. Francis Galton kalte dette eugenikk, og ideen ble senere realisert som rasehygiene eller arvehygiene i en rekke land. Det var flere enn nazistene som tok budskapet til seg.

Andre ganger har det vært naiviteten i visjonene som har utpekt seg. For eksempel håpet oppfinneren Nikolai Tesla at såkalte telautomater – fjernstyrte roboter – ville gjøre fremtidens kriger ublodige. I dag har vi dem. De kalles droner.

Dagens teknologiutopisme forsøker selvsagt å holde ideologisk avstand fra fortidens verste eksesser. Men den nye bølgen er nært forknippet med miljøer preget av filosofen Ayn Rands budskap, noe mange finner urovekkende i seg selv. (Vi får nevne at en sosialistisk fremtidsvisjon, Fully Automated Luxury Communism, er beskrevet av den iransk-britiske skribenten Aaron Bastani.) Og det radikale aspektet ved bevegelsen er knapt dempet. Er egentlig transhumanisme mindre grenseoverskridende enn eugenikk?

Forklart magi. Det er utsiktene til teknologisk frelse og fortapelse som får brorparten av oppmerksomheten i den gryende debatten. Men et helt avgjørende spørsmål er om det loves for mye? Både guder og demoner har det med å svikte menneskeheten. Eksisterer de i det hele tatt?

Forfatteren Arthur C. Clarke formulerte i sin tid tre lover om fremtiden. Den siste er blitt et ordspråk: «All teknologi som er tilstrekkelig avansert, er umulig å adskille fra magi.»

Men Clarkes lov kan omskrives fra motsatt perspektiv: «All magi som blir tilstrekkelig forklart er umulig å adskille fra teknologi.»

Formuleringen tilhører Mark Halpern, som i et essay i siste utgave av tidsskriftet The American Scholar forsøker å avmystifisere kunstig intelligens. Han har jobbet med programvareutvikling, blant annet for IBM, i femti år, og hovedbudskapet hans er at datamaskinen er en svært misforstått oppfinnelse. Den kan ikke tenke, og det er derfor den er nyttig for oss. Den lar oss tenke, og bevarer tankene våre i form av instruksjoner vi har formulert – eller programmert. Intet mindre, og intet mer.

Datamaskinen er en svært misforstått oppfinnelse. Den kan ikke tenke, og det er derfor den er nyttig for oss. Den lar oss tenke, og bevarer tankene våre i form av instruksjoner vi har formulert – eller programmert. Intet mindre, og intet mer.

«De fantastiske resultatene datamaskinene leverer, demonstrerer hvor gode vi er blitt til å lage algoritmer (...) Men datamaskinen selv gjør ikke mer enn den gjorde før, som er å utføre våre ordre», skriver Halpern.

Tåkeleggende misforståelse. Han sammenligner fascinasjonen for kunstig intelligens og datamaskinenes yteevne med prinsippet bak levende bilder. Film er en sekvens med enkelteksponeringer som spilles av i en hastighet av 24 bilder pr. sekund. Dermed lures hjernen til å oppfatte projeksjonen som bevegelse. På samme måte er «magien» i datamaskinen en rekke med banale enkeltprosesser som utføres så raskt at det forbløffer oss.

I tillegg har vi en psykologisk tendens til å tillegge eksterne fenomener en egen personlighet og agenda.

«Datamaskinen gjør oss spesielt innstilt på å tenke i slike baner, fordi det den produserer så ofte er symbolske tegn (...) noe som får den til å virke spesielt menneskelig», poengterer Halpern.

Han mener det skumleste med denne misforståelsen er at det tåkelegger menneskets rolle og ansvar i prosessen. Når vi omtaler maskiner som autonome og utstyrt med kunstig intelligens, forsvinner programmererens hensikter og instrukser bak teppet.

Det skumleste med denne misforståelsen er at det tåkelegger menneskets rolle og ansvar i prosessen. Når vi omtaler maskiner som autonome og utstyrt med kunstig intelligens, forsvinner programmererens hensikter og instrukser bak teppet.

Akkurat som en ateist vil insistere på at det er mennesket som skaper sin egen gud (og ikke omvendt), vil Halpern understreke at det er våre tanker som artikuleres av maskinene. Problemstillingen handler altså mer om vi er i stand til å sikkerhetskontrollere vår egen programmering, enn om maskinene vil begynne å tenke uten vår medvirkning.

Halpern er ikke alene om å dempe forventningene til teknologien. Gary Marcus og Ernest Davis gir uttrykk for skepsisen i boken «Rebooting AI» (2019). Her på berget har blant andre Kai Olav Ellefsen ved Universitetet i Oslo i et intervju med Morgenbladet luftet sin irritasjon over alle overdrivelsene. 

Animisme 2.0. Det finnes imidlertid et mer pragmatisk scenario, som hverken lover frelse eller fortapelse. Artig nok rommer også dette en kvasireligiøs dimensjon, men den er ikke like dramatisk.

I 2018 utførte Max Planck-instituttet i Tyskland et forsøk hvor roboter delte ut «varme og myke klemmer» til mennesker. Deltagerne i eksperimentet beskrev etterpå hvordan de hadde følt tillit og tilknytning til maskinen. Noen ga uttrykk for at de «følte seg forstått» av roboten.

Igjen er det menneskets behov for å respondere selv på ganske vage sosiale signaler som kommer til uttrykk.

Akkurat som Chuck Nolan (Tom Hanks) som strander på en øde øy i «Cast Away» (2000) hvor han tilbringer de neste fire årene helt alene. Chuck får berget noe vrakgods, deriblant en volleyball som han kaller «Wilson», og som han prater og krangler med.

På samme måte responderer vi instinktivt på kommunikasjonsmulighetene med maskinene. Hvis de er spesiallaget for å gi inntrykk av at «noen» bor under panseret på dem, blir effekten forsterket.

Filosofen Stephen T. Asma har skrevet om hvordan bølgen av høyteknologiske duppeditter er i ferd med å vekke til live en nyanimistisk livsanskuelse. Animistene tror at alt har en sjel eller ånd, både døde og levende ting.

Asma påpeker nettopp dette med at vi så lett knytter oss til livløse objekter: «Vårt sosialt orienterte følelsesliv blir nå kapret av ubevisste enheter som Amazons Alexa, Apples Siri eller IBMs Watson, og vi opplever kontakten med dem som enkel, behagelig og tilfredsstillende.»

Mens det er naturlig for animister å personliggjøre trær, elver, fjell og andre naturfenomener, blir det stadig mer naturlig for oss å omgås teknologi med en programmert personlighet.

Hva blir konsekvensen av dette? En del er skeptiske, men Asma velger å se positivt på utviklingen.

«Vår nye animisme – animisme 2.0. – kan øve og forberede sosiale følelser og ferdigheter på reell menneskelig tilknytning, perspektivvalg og empati. I stedet for å avhumanisere oss, kan denne tekno-animismen faktisk vedlikeholde menneskeligheten vår», tror filosofen.

Dette er kanskje ikke akkurat Utopia. Men det er ikke Dommedag heller.

Kilder: «iHuman» (Regi: Tonje Hessen Schei, 2020), «All Watched Over by Machines of Loving Grace» (Regi: Adam Curtis, 2011), Aeon, The Atlantic Monthly, The American Scholar, The New Yorker, Dag og tid, Morgenbladet, Fast Company, Wikipedia.