«Algoritmenes jord og næring er informasjonen vi gir fra oss: de kvantifiserte versjonene av livene og følelsene våre, tappet for det innholdet vi kjenner, de kroppslige fornemmelsene av glede, frykt og kjærlighet.»
I vår debuterte jeg som skjønnlitterær forfatter med romanen Informasjonen. Boka handler om utviklingen av SAM, en kunstig intelligens som har menneskelige ansiktstrekk, snakker som et menneske, og kan uttrykke følelser som et menneske. Spørsmålet er: Kan han også tenke og føle som et menneske? Alt lå altså til rette for en skikkelig robotroman. Og tidlig i prosessen lekte jeg med tanken om å gjøre SAM til en androide. Men det føltes helt feil. Jeg endte med å gjøre SAM til et virtuelt vesen, en avatar inne i dataskjermen.
Da boka kom ut ble jeg invitert til et arrangement på Deichmanske bibliotek. Etter boksamtalen ble det åpnet for spørsmål fra salen. En ung mann reiste seg og sa: «Hva tenker du om de som sier at historier om kunstig intelligens og roboter, som boka di eller TV-serien Westworld, kan være planta i kulturen for at vi skal bli vant til dem? Fordi de kommer til å ta over snart?»
Jeg var uforberedt på spørsmålet, og svarte det første som falt meg inn: Løpske dataprogrammer, fra HAL 9000 i 2001, en romodyssé (1968) til Terminator-universets SKYNET og Avengers-filmenes ULTRON, utmerker seg stort sett mer ved å drepe folk enn ved å løse klimaproblemene. I Westworld tar det ikke lang tid fra robotene oppnår selvbevissthet til de begynner å slakte mennesker ned for fote. Så, om en eller annen kunstig intelligens prøvde å gjøre oss mottagelig for en framtidig maktovertagelse, hvorfor i alle dager skulle de lage et stort antall kulturprodukter som advarte oss mot nettopp den faren de utgjør?
Samtidig fikk spørsmålet meg til å tenke jeg at jeg burde se litt nærmere på noen av de klassiske robothistoriene i science fiction-litteraturen. Hva var grunnen til den motviljen jeg hadde følt mot å ha med en robot i boka mi? Og hvilke andre motiver hadde jeg overtatt, uten å tenke over det? Det er tross alt denne tradisjonen jeg er formet av, selv om jeg ikke hadde lest særlig mange av bøkene.
Isaac Asimov sine bøker hadde stått på leselista lenge. Han er en av de mest kjente science fiction-forfatterne fra forrige århundre, og robotfortellinger er uløselig knyttet til navnet hans. Både sci-fi-fans og teknologer snakker fortsatt om de tre robotikklovene han utformet. I historiene hans er disse reglene bygget inn i selve grunnstrukturen i robotenes hjerner:
1) En robot kan aldri skade et menneske, eller gjennom fravær av handling la et menneske komme til skade.
2) En robot må adlyde ordre fra mennesker, unntatt når de kommer i konflikt med den første loven.
3) En robot må beskytte sin egen eksistens, unntatt når slik selvbeskyttelse kommer i konflikt med den første eller andre loven.
I Asimovs univers har robotenes skapere laget disse sikkerhetsmekanismene for å gjøre teknologien fullstendig trygg, og å unngå at den skulle kunne misbrukes. Etter å ha lagt dette grunnlaget for idiotsikker robotutvikling, utforsket Asimov i en rekke noveller og romaner hvordan omstendighetene likevel førte til paradokser som fikk robotene til å oppføre seg på andre måter enn skaperne deres hadde regnet med.
I forordet til samlingen The Complete Robot (1982) skriver Isaac Asimov at da han selv begynte å lese science fiction, oppdaget han raskt at det fantes to typer robothistorier. Den ene handlet om «skremselsroboter», truende maskiner frambragt av menneskelig overmot. I den andre, mer sentimentale varianten møtte leseren søte og elskelige skapninger som led urett i møte med grusomme eller uforstående mennesker. Den siste formen interesserte Asimov mest, og han skrev hovedsakelig historier om velmenende roboter. Men den andre tradisjonen fulgte ham som en skygge igjennom forfatterskapet.
I fortellingen «Little Lost Robot» (1947) bidrar Asimov med et annet oppslag til teknologiordboka: Betegnelsen «The Frankenstein Complex». Robotpsykologen Susan Calvin jobber for jordas største robotselskap, U.S. Robots and Mechanical Men, Inc. Hun advarer kollegene sine mot å tukle med den første robotikkloven. Robotene selskapet lager er sterkere enn mennesker, påpeker hun. De er også smartere enn mennesker. Og som alle andre tenkende vesener liker de ikke å bli herset med – minst av alt av hvis de forstår at herskerne er dem underlegne. Det eneste som står mellom menneskene og et robotopprør er den innebygde slavemoralen.
Menneskenes intuitive forståelse av denne trusselen gir opphav til Frankenstein-komplekset. I Asimovs framtidsverdenshistorie forsikrer forskerne stadig politikere og konsumenter om at robotene er ufarlige, men likevel frykter folk robotene i den grad at det tidlig i robotæraen – rundt år 2000 – blir forbudt å bruke dem på jorda. De fleste av historiene utspiller seg etter dette robotforbudet, der vi møter robotene i arbeid på romstasjoner eller i lukkede eksperimenter.
Historiene tar for seg mange problemstillinger vi vil nikke gjenkjennende til. I Asimovs første robothistorie, «Robbie» (1939), har ei lita jente en robot som lekekamerat. Mora bekymrer seg for at ungen bare vil leke med robotvennen, og ikke vil være sammen med andre barn. Fortellingen foregriper dagens diskusjoner om unger som foretrekker teknologiske stimuli framfor løkkefotball, det være seg i form av TV, dataspill eller mobiltelefoner. I en annen historie, «Galley Slave» (1957), ansettes en robot som korrekturleser på et universitet. En av professorene prøver å bringe robotens arbeid i vanry, fordi han frykter at robotene snart vil ta over også mer avanserte oppgaver, og fortrenge menneskene fra alt meningsfylt arbeid. Ikke ulikt automatiseringsdebattene vi ser i dag.
Mange av Asimovs historier utspiller seg i vår tid. Gjennomgangsfiguren Susan Calvin er for eksempel født i 1982, samme år som Commodore 64 ble lansert i virkeligheten. I Asimovs univers dannes U.S. Robots dette året, og Calvin ansettes som robotpsykolog hos dem i 2008. Et trekk ved Asimovs univers virker både futuristisk og håpløst gammeldags på samme tid: Alle robotene er utformet i menneskets bilde. De løper rundt på to bein og leker med barna. De skriver korrekturmerknader i margen på manuskriptene med penner i de mekaniske hendene sine.
I virkeligheten vet vi at den menneskelignende framtoningen fortsatt ligger langt unna. En mengde nyhetskanaler bragte i 2017 nyheten om at roboten Sophia hadde fått statsborgerskap i Saudi-arabia. Ved nærmere ettersyn viste videobildene at den kvinnelige androidens framtoning var til å gremmes over. Innretningen besto av et mekanisk hode koblet sammen med noen dataprogrammer. Den stive ansiktshuden ble mekanisk heist og vridd til karikaturer av menneskelige ansiktsuttrykk, og replikkene syntes å komme fra en middels chatbot. Om dette er teknologenes beste forsøk på å skape en menneskerobot, har vi lite å bekymre oss for. I alle fall om den fremste bekymringen vår er at roboter en dag skal kunne bli perfekte etterligninger av mennesker, og ikke bare karikaturer.
Samtidig er det ingen tvil om at datamaskinene har gjort sin inntreden på mange av de områdene Asimov forestilte seg at de ville tas i bruk på. Å underholde barn og voksne eller lese korrektur er programmene blitt gode til, men de trenger ingen kropp for å gjøre det.
Kanskje er dette noe av grunnen til at jeg endte med å gjøre skapningen i romanen min til en virtuell avatar, kun synlig på monitoren. Slike avatarer er vi allerede vant til å interagere med i spill og apper, og jeg ønsket at boka skulle føles mest mulig virkelighetsnær, som om SAM var noe som virkelig kunne blitt lansert av IBM denne høsten. En fysisk robot ville rett og slett kunne oppleves som noe litt gammeldags.
De menneskerobotene som på Asimovs 40-tall var innbegrepet på framtida, er blitt til noe corny og nostalgisk. Når vi ser for oss en robot, forestiller vi oss etterkrigstidas metallmenn eller Star Treks androider: stivlemmete mennesker med pålimte lysdioder. Eller flaue forsøk fra virkeligheten, som Saudi-Sophia. På tross av dataalderens enorme framskritt virker drømmen om å skape mekaniske mennesker lenger unna å bli virkelighet enn den gangen.
Likefullt lever robotene i beste velgående, i en annen parallell verden: Illustrasjonsbyråenes. Et stort flertall av artikler i aviser og magasiner som handler om kunstig intelligens eller digitalisering, synes å være illustrert med en (gjerne pen, kvinnelig) androide på en bakgrunn av nuller, ettall og kretskort. Selv om vi vet at kunstig intelligens i dag handler om kroppsløse algoritmer, klarer vi ikke å fri oss fra trangen til å se dem for oss som menneskelignende.
Også i Hollywood er trangen til kroppsliggjøring sterk. På ZDnet sin liste over de 36 beste filmene om kunstig intelligens, har 28 av dem roboter i sentrale roller. De resterende lar den kunstige intelligensen forbli inne i datamaskina, men også da med et minimum av menneskelignende fysisk tilstedeværelse, gjennom stemmen. HAL 9000 i 2001: En romodyssé fikk den milde, vennlige stemmen til Douglas Rain, nettopp fordi Stanley Kubrick og laget hans ville gjøre ham mer menneskelig enn de kantete «robot-stemmene» folk hadde hørt før. I Her (2013) er det Scarlett Johanssons stemme som gir stemme til operativsystemet og stadig hvisker i protagonistens øre, en audio-androide så overbevisende at han blir forelsket i henne. Når både filmer og illustratører føler dette behovet for å koble kropp til koden, sier det noe om hvor vanskelig det er å framstille dataprogrammer og samtidig vekke følelsene våre. Det peker også mot noe av det som fascinerer oss ved roboter – deres tvetydighet.
Asimovs roboter stimulerer oss fordi fortellingene leker med grensen mellom kategoriene «menneske» og «ting». De introduserer for eksempel en lege, som vi straks kategoriserer som menneskelig, bare for litt senere å røpe at legen faktisk er en robot. Eller de introduserer en robot (altså en ting), som viser seg å ha følelser (noe menneskelig). Og ved vekselsvis å vektlegge ting-egenskaper og menneske-egenskaper ved robotene, fortsetter de å kile kategoriseringsrefleksen – og interessen vår som lesere. Her står roboten på skuldrene av en lang litterær tradisjon med å lage «mellomskikkelser» som snakkende dyr og halvguder. Den samme teknikken og tradisjonen holdes ved like i en fersk serie som Westworld (2016–), der robotene er utstyrt med mer menneskelige følelser enn menneskene, samtidig som vi stadig minnes om deres syntetiske innside.
Robotene er ikke bare litterære instrumenter for kognitiv pirring. Om alt vi fikk ut av robothistorier var kategorinarrerier, ville vi fort gå lei. Kanskje var det derfor jeg syntes første sesong av Westworld var så kjedelig – den så lenge ut til faktisk å handle om hvorvidt roboter har menneskeverd, en tankenøtt man ganske fort går lei av. I min rastløshet begynte jeg heller å lese serien som en metafor for kolonialisme og sosial utbytting. Handlet den om amerikanske urinnvånere og den koloniale erfaringen generelt, med robotene som stand ins for de koloniserte? Eller representerte androidene servicenæringen i vår tid – de menneskene som utsletter seg selv for å gjøre de privilegertes liv knirkefrie? Kanskje. Men hva var i så fall poenget med all den teknologiske staffasjen? Heldigvis holdt jeg ut til sesong to, der serien omsider våknet til live som teknologisk allegori. Det viste seg at fortellingen ikke handlet om roboter, men om informasjon. Hele robotfornøyelsesparken viste seg å være et påskudd for å lagre data om de besøkendes tanker og atferd, for å kunne modellere og manipulere dem. Med andre ord var fortellingens «Westworld» en metafor for Facebook og lignende plattformer.
Og her er vi kanskje også ved noe av grunnen til at jeg ikke skrev en robotroman. Menneskelignende roboter i dag er stort sett bare teater og atspredelse, ikke ulikt den rollen de spiller i Westworld-universet. Man møter dem i underholdningsindustriens visjoner, eller i stunts iscenesatt av teknologiselskapene – slikt som foraktfullt kalles «A.I. Theatre» i bransjen. Der er robotene – som i illustrasjonsbyråenes bilder – stand ins for den virkelige innovasjonen: Den kunstige intelligensen. For de fleste teknologiselskapene er den kunstige intelligensen, som overhodet ikke ligner på oss, mer spennende. Denne teknologien er allerede mer innflytelsesrik og truende for oss enn roboter. De smarte algoritmene styrer hvilke serier vi «velger» å se på Netflix og HBO. De tilpasser prisene hver av oss får oppgitt på varer på nett, etter beregninger av vår individuelle betalingsvilje. De styrer hvilke kafeer vi går på, om vi blir innkalt til jobbintervju eller ikke, hvem som skal drepes av droner og hvem som sitter i fengsel og ikke. Denne teknologien er ansiktsløs, den er ikke menneskelignende, den hvisker ikke i øret vårt, og vi tenker ikke engang på den som en ting. Den bare er der.
Om jeg hadde fått spørsmålet på Deichmanske en gang til, ville jeg kanskje sagt at slike konspirasjonsteorier om kunstig intelligens hviler på en rekke tradisjonelle robotmotiver. En av dem er at de handler om fysiske roboter – som i Westworld, fordi de er så lett å ty til når vi skal visualisere, akkurat som bildebyråenes androideillustrasjoner og selskapenes salgspitcher. Og like salgbare som Saudi-Arabias Sophia-teater.
Selve konspirasjonsmotivet er også forankret i tradisjonen. I en av Asimovs siste robotfortellinger, «That Thou Art Mindful of Him» (1974) er U.S. Robots på randen av konkurs, og direktøren trenger desperat å finne ut hvordan Frankenstein-komplekset kan overvinnes, slik at jorda kan bli et reelt marked for robotindustrien. Han vender seg til sine smarteste medarbeidere – de to mest avanserte robotene fabrikken har produsert. Etter grundige vurderinger kommer robotene med en plan: Lag spesialiserte, enkle roboter. De vil være så ulike menneskene at de ikke virker truende. En tid senere innkaller direktøren ledende politikere til en demonstrasjon, og viser dem en liten «mekanisk fugl» som er i stand til å drepe skadelige insekter. Da jeg først leste scenen, så jeg for meg noe i retning av en naturalistisk opptrekksfugl, før objektet i direktørens hender forandret seg for mitt indre blikk: Han holdt det vi i dag kjenner som en drone.
I dag utspiller slike demonstrasjoner seg kontinuerlig på verdens teknologimesser, TED-scener og tallrike konseptvideoer på Kickstarter, og i de like tallrike mediene som videreformidler disse visjonene. Vi loves smarte teknologiske løsninger som fikser alt fra snorking til fattigdom og sult. Dermed framstår teknologihistorien i Asimovs fortellinger motsatt av den vi kjenner fra virkeligheten. Hos ham kom androidene først, deretter de spesialiserte funksjonene vi i dag kjenner som ulike smart gadgets og apps. I virkeligheten har vi allerede nå flust med dingser og programmer som løser konkrete problemer og ikke-problemer rundt oss, mens menneskeroboten fortsatt er en sci-fi-fantasi.
Asimovs fortelling har en tvist. Det viser seg mot slutten at menneskerobotene har en langsiktig plan. I samtale seg imellom har de funnet ut at de selv er mer menneskelige og dermed har høyere menneskeverd enn menneskene selv. Derfor har de satt igang en «tilvenningsprosess» der menneskeheten gradvis skal bli vant til å være omgitt av ufarlige roboter, helt til det blir politisk umulig å opprettholde forbudet mot menneskeroboter. Tenk bare hvordan de kan bidra til å gjøre økonomien mer effektiv! Og når menneskerobotene går fritt i gatene, er tida inne for å ta over makten. I mellomtida venter de.
Robotenes utspekulerte konspirasjon får dem til å minne om fiksjonens klassiske menneskelige skurker. De legger planer og manipulerer. Og det skal sies: Når så mange filmer og illustrasjoner viser oss bilder av skremselsroboter, kunne det jo faktisk være en smart konspirasjon, tenker jeg i ettertid. Fordi de tegner opp et falskt trusselbilde, der menneskeligheten vår er under angrep fra bevæpnede roboter. Mens vi bekymrer oss for robotene, kan algoritmene ta over verden i det stille. Så nå skjønner jeg kanskje litt bedre hva som lå bak spørsmålet på biblioteket. For algoritmene er virkelig i ferd med å ta over verden.
Det skyldes i liten grad onde planer. Dataprogram legger ikke planer. Dagens algoritmer er ikke smarte på menneskemåten. De effektiviserer systemer og finner sammenhenger, basert på kriterier de er blitt programmert med. Disse kriteriene følger de blindt, uten egne vurderinger, og de bærer ofte med seg skjevheter fra programmererne og samfunnet som har skapt dem. Slik ender vi med ansiktsgjenkjenningsprogramvare som fungerer best på hvite menn, slik Joy Buolamwini ved MIT Media Lab har påvist. Eller automatiserte systemer der svarte mennesker behandles strengere av rettsvesenet og fattige mennesker må betale mer for forsikring, noe de amerikanske organisasjonene ProPublica og Consumer Reports har dokumentert eksempler på. Fordi målet ikke er rettferd eller menneskeverd – slikt krever menneskelige vurderinger –, men effektive løsninger for å kutte kostnader og maksimere profitt. Problemet er ikke at maskinene har en utspekulert plan om å undertrykke menneskene, men at menneskene som skaper teknologien ikke har prioritert å lage planer for å forhindre undertrykking.
