Når menneske og maskin smelter sammen Kan historien lære oss å forstå fremtidens teknologi?

Jeg befinner meg i en forelesningssal i tiende etasje på Mariott Marquee på Times Square i New York, med en klar for­nem­melse av å være med på noe utenom det vanlige. Det ruller Twitter-feeds med #exponentialtechnology og #singularity over storskjermene på scenen, noe som gir deltakerne nede i salen mulighet til å oppnå femten sekunder med hyperlokal berømmelse, eller i det minste skaffe seg litt oppmerksomhet. Popmusikken dundrer ut av høyttalerne. Singularity University har sitt årlige seminar for finansbransjen, og et par hundre deltakere befinner seg i salen, stort sett menn, alt overveiende utlendinger. De med premium-billetter sitter fremst, i hvite skinnstoler med armlener og små bord å sette fra seg ting på, mens vi andre sitter tett i tett på vanlige konferanse­stoler og må holde kaffekruset i hånden samtidig som vi prøver å notere.

Singularity University er ikke et universitet, men en privat tankesmie, etablert av Ray Kurzweil og Peter Diamandis i 2008, sponset av blant andre Google, IBM og Genentech. Gjennom publikasjoner, seminarer, konsulent­virksomhet, nettverksarbeid og investeringer har de på kort tid bygget opp en organisasjon med stor gjennomslags­kraft, basert på ideen om at teknologien utvikler seg eksponentielt og at dette vil få dyptgripende konsekvenser for alt fra næringsliv og samfunns­struktur til hva det vil si å være menneske. Denne ideen er ledere og investorer over hele verden lydhøre for, enten de ser den som en trussel mot eksisterende forretnings­virksomhet eller en mulighet til å hevde seg i konkurransen videre. Kurzweil har dessuten skrevet flere bøker der han spekulerer rundt hva den eksponentielle teknologi­utviklingen til syvende og sist vil føre til, og på den måten skapt seg en posisjon som sjefsideolog for den transhumanistiske bevegelsen og forestillingen om en kommende teknologisk singularitet.[1]

I likhet med The Long Now Foundation, som Anders Dunker presenterte i Vagant 3/2017,[2] er Singularity University et resultat av miljøet som har vokst frem i Silicon Valley de siste femti årene. Det unike med dette miljøet er forankringen i en særegen California-ideologi med utspring i 68-generasjonens protest mot kommersialismen, videreført i kommersiell form. Denne ideologien består av en salig blanding av teknologi­optimisme, idealisme, ungdoms­opprør, venture­kapital, østlig-inspirert spiritualitet, materialisme og dragning mot 70-tallets motebilde. På et eller annet vis har denne utover all rimelighet heterogene ideologien klart å vinne frem. Budskapet til resten av verden ser ut til å være: «La oss finne opp nye teknologier, ha det gøy, tjene masse penger og samtidig forbedre livene til milliarder av mennesker med disse vidunderlige nye teknologiene.»

Dagens første presentasjon handler om fornybar energi, og tar opp spørsmålet om når vi kan fase ut oljeavhengigheten og for alvor gå over til renere energikilder. Vi blir presentert for forskningsfronten på ulike områder, blant annet i form av et prosjekt med ambisjoner om å gjøre saltvann til ferskvann. Vi får vite hvor langt forskningen har kommet, når det vil komme praktiske løsninger i markedet og hva slike løsninger vil bety for verdens fattige. Så er det pause. Storskjermene skifter fra presentasjonsmodus til Twitter-feed og popmusikken kommer på. Jeg går ut i foajeen for å få meg noe å drikke. På vei ut blir jeg tilbudt å være med på morgenyoga. En oppstartsbedrift fra Silicon Valley har utviklet et mindfulness-konsept med hodebånd og sensorer som skal gjøre yogaopplevelsen bedre. Dette er tydeligvis det som skal til for at jeg skal kunne yte mitt aller beste på jobben og ta ut det siste jeg har av mentale og intellektuelle ressurser, hver eneste dag. Jeg takker høflig nei og setter kurs mot kaffemaskinen.

Fiendebilder

Transhumanismen er 1900-tallets fattigste utopi, skriver Håkan Lindgren i et debattessay i Vagant 3/2017.[3] Her harselerer han over California-ideologien, dens historieløshet, åndsfattigdom og mangel på visjoner, samtidig som han setter den i sammenheng med makt og undertrykkelse, ikke uten en viss manikeisme, som om forholdet mellom under­trykker og undertrykt var ukomplisert og gjennomsiktig. At undertrykkelse vanligvis virker gjennom strukturelle mekanismer og at enkelt­individers eventuelle onde hensikter som regel har lite med saken å gjøre, bør være kjent for alle som har lest Michel Foucault. Men denne innsikten finner Lindgren det opportunt å ignorere. Isteden tar han oss med inn i den altfor kjente, og til kjedsommelighet gjentatte, demoniseringen av enkeltindivider. «Vi skal indoktrineras till lydiga små konsumenter som accepterar den framtid av algoritmer och artificiell intelligens som våra självutnämnda herrar planerar åt oss,» skriver han. De selvutnevnte herrene som planlegger vår indoktrinering er, slik jeg forstår essayet, venture­kapitalister og gründere av teknologi­bedrifter, altså individer som prøver å skape noe og som har tjent penger på det de har skapt – og det er naturligvis alltid mistenkelig.

Hvorfor er tanken på at det finnes gründere og venturekapitalister som ønsker å gjøre verden til et bedre sted så umulig for Lindgren?

Denne måten å tenke på, denne holdningen, er ikke noe Lindgren har funnet på selv. Vi har alle sammen, eller i hvert fall de fleste av oss, ikke minst på universitetet, gjennom pensumlitteratur, forelesninger, kollokvier og studentfester, blitt sosialisert inn i en tenkemåte der vestlige kapitalister legemliggjør verdens grådighet. Og for de som ikke har gått på universitetet, har nyhets­mediene stått klare med et par fordummende standard­fortellinger som opp gjennom årene har blitt gjentatt i den grad at det er ubegripelig at noen fremdeles betaler for å bli utsatt for dem.

Hvorfor er tanken på at det finnes gründere og venturekapitalister som ønsker å gjøre verden til et bedre sted så umulig for Lindgren? Er behovet for et fiendebilde så sterkt at alt som ikke harmonerer med en overlevert forutforståelse må ignoreres eller fortrenges? I så fall blir analysen hans lite annet enn et resultat av den overleverte forutforståelsen og gir bare tilsynelatende ny innsikt og nye perspektiver. I virkeligheten får leserne bekreftet verdensbildet sitt uten nevneverdig indre dissonans, mens Lindgren kan briske seg med sine meningers mot.

Forstå meg rett: Etter å ha pløyet gjennom hundrevis av positivistiske artikler om trans­humanismen, er det forfriskende med et normativt og fandenivoldsk innlegg fra en mer klassisk-humanistisk orientert skribent. Likevel skulle jeg ønske at Lindgren evnet å heve seg over mistankens hermeneutikk og reproduksjon av gamle fiendebilder.

Sammensmeltningen skjer allerede

Transhumanistisk ideologi har som forutsetning at teknologien kan forbedre menneskers fysiske og mentale evner. I seg selv er dette ikke tilstrekkelig til at vi skal kunne beskrive trans­humanismen som en utopi, siden det å bruke teknologi som forsterkning er noe vi hele tiden gjør og allerede har gjort i hundrevis av år. Utopien oppstår i det øyeblikket noen begynner å snakke om evig liv, eller om å overskride de menneskelige grunnvilkårene i retning av noe annet, en annen eksistensform. Dette er et viktig skille siden den teknologiske utviklingen, ikke minst innenfor syntetisk biologi og nanoteknologi, går så raskt og virker så dypt at det er vanskelig for oss som lever nå å ha noen rimelig forestilling om hvordan fremtidens mennesker vil være, uavhengig av om de kommer til å kunne leve evig eller ikke. Selv om Lindgren briljerer med sin kritikk av transhumanismen som utopi, har han lite eller ingenting å komme med om den faktiske teknologiutviklingen, og hvordan den former oss som samfunn og individer. For at mennesker og maskiner kommer til å smelte sammen kan det ikke være tvil om – det skjer allerede.[4] Usikkerheten handler om hvilken form sammens­meltingen vil få og hvilke konsekvenser den vil bringe med seg.

Det går en grense et sted, jeg vet ikke hvor, der de teknologiske endringene begynner å utfordre hva det vil si å være menneske. I A Cyborg Manifesto (1984)[5] diskuterer Donna Haraway, fra et feministisk perspektiv, hva som kan skje med identiteten vår når grensen mellom menneske og maskin, det organiske og det digitale, natur og kultur, smuldrer opp. Hun spør seg også hvordan virkeligheten kan konstrueres på nytt når de grunnleggende betingelsene endrer seg fundamentalt, og om tiden nå endelig er kommet for å kvitte seg med dualistiske tankebygninger, slik at en ny verden vil kunne realiseres, denne gangen som en helhetlig organisme uten det som i hennes øyne fremtrer som et patriarkalsk herredømme. Disse problem­stillingene kunne 1600-tallsfilosofen Baruch Spinoza ha kjent seg igjen i, og i lys av trans­humanismen er det god grunn til å ta dem opp til ny diskusjon.

Romanforfatterne har også fått øynene opp for at trans­humanistiske ideer kan brukes som utgang­spunkt for å diskutere spørsmål ved menneskelig identitet og grensene mellom liv og død. I Null K (2016) skriver Don DeLillo om nedfrysning av hoved­personens far og stemor på et anlegg i Russland. En av romanpersonene spør (i Kyrre Haugen Bakkes oversettelse): «Hva skjer med forestillingen om et sammen­hengende hele – fortid, nåtid, fremtid – i det kryoniske kammeret?» Ja, er vi fremdeles mennesker når kausaliteten og tidsfornemmelsen settes ut av spill? Eller mer presist, hva slags menneske er det mulig å være under slike betingelser?

Ole Martin Moen, filosof ved Universitetet i Oslo, har diskutert denne type spørsmål i flere essays og vitenskapelige artikler. I «Slutten på mennesket som vi kjenner det» (Samtiden 4/2014)[6] skriver han: «Vi vet at en bil kan holdes i god stand i tiår etter tiår så lenge den repareres tilstrekkelig og slitte deler byttes ut. Siden kroppene våre består av samme type partikler som biler, kan vi spørre oss hvorfor kroppene våre, i prinsippet, ikke skal kunne holdes i stand på samme måte forutsatt tilstrekkelig reparasjon og utskiftning.» Moen gjør imidlertid mer enn å spørre, og har fått mye medie­oppmerksomhet for sin argumentasjon om at nedfrysning er rasjonelt og sin beslutning om faktisk å la seg fryse ned, når den dagen kommer. Til tross for interessante diskusjoner av status quo bias og begrepsparet naturlig/unaturlig, uttrykker artiklene hans gjennom­gående en positivistisk grunnholdning. Spørsmålene DeLillo stiller, har han ingen gode svar på.

Foreløpig er det stor avstand mellom spekulasjonene på den ene siden og den praktiske virkeligheten på den andre. I Vagant 2/2016 gir Hallvard Haug en innføring i hvordan forberedelsene til nedfrysning skjer i praksis. Han følger en gruppe kryonikere, i et lite hus i utkanten av Sheffield, gjennom en helg der de forbereder seg til å komme raskest mulig på banen etter at noen av medlemmene «har meldt sin avgang». For at forberedelsene til nedfrysing skal gå raskt nok, anbefales det å ikke bruke kanyle, men rett og slett kutte strupen på tvers. Å kutte struper er, ifølge Haug, krevende arbeid og han lar seg overraske over hvor hardhendte de må være. Men kryonikerne ser ikke ut til å la seg avskrekke, for «det er tydelig av flere av medlemmene også har disse helgene i den sosiale kalenderen».[7]

Heldigvis er kun ti personer blitt behandlet på denne måten de siste femten årene. Det er ikke til hinder for at Anders Sandberg, ved Future of Humanity Institute i Oxford, en av transhumanismens frontfigurer, beviselig en intelligent og velutdannet mann, går rundt med en medaljong som inneholder en beskrivelse av hvordan liket hans skal behandles.[8] Vi får håpe, for Sandbergs skyld, at det ikke er disse amatørene fra Sheffield, med utstyr innkjøpt for medlemskontingenten i foreningen, som får oppgaven med å sikre ham evig liv.

Siden nedfrysning av døde kropper, eller bare hoder (som i skrivende stund er lavpris­alternativet), kun er nødvendig i en overgangsfase, inntil teknologien som eventuelt vil gi oss evig liv blir tilgjengelig, vil jeg hevde at medie­oppmerksomheten rundt kryonikk er en avsporing fra de virkelig store spørsmålene trans­humanismen stiller oss overfor. Er det mulig for mennesker å stanse aldrings­prosessen? Er det mulig å reversere den? Er det mulig å skape liv av livløs materie?

Min egen umiddelbare reaksjon er at ingenting av dette er mulig, en reaksjon jeg antakelig deler med mange. Problemet er at jeg med dette stiller meg i en posisjon jeg er usikker på om jeg kan forsvare. For ender jeg ikke dermed i en gammeldags dualisme, hvor kroppen er en ting og sjelen noe annet, en 1600-talls idé som de fleste moderne filosofer og vitenskapsmenn ikke tar alvorlig, eller i hvert fall ikke, i dagslys, vil innrømme at de tar på alvor? Dagens vitenskapsfolk tenderer til å tenke at alt er materie, også det vi kaller bevissthet og som, for alle praktiske formål, ikke lar seg skille fra selve livet. Det er i denne leiren vi finner Anders Sandberg, Ole Martin Moen og de andre som mener at det er mulig for menneskeheten, gjennom vitenskap og teknologi, å skape evig liv.

Filosofisk materialisme

Den grunnleggende forutsetningen for den filosofiske materialismen er at mennesker, i likhet med andre levende organismer, ikke er noe annet enn en form for komplekse maskiner, der bevisstheten, den subjektive opplevelsen av å være seg selv, er uavhengig av hvilket materiale den er realisert i. Det betyr i prinsippet at bevissthet like gjerne kan oppstå i en datamaskin som i en menneskelig hjerne. Flere fremtredende filosofer tenker seg at bevissthet er noe som oppstår rent fysisk i hjernen, eller i andre former for materie, når prosesser og tilstander blir tilstrekkelig komplekse. Douglas Hofstadter, forfatteren av Gödel, Escher, Bach (1979), kaller dette «strange loops»,[9] mens Daniel Dennett bruker metaforen «multiple drafts»[10] for å beskrive det han forestiller seg skjer rundt omkring i den fysiske hjernen når magien finner sted. Men teoriene deres er lite annet enn intelligent spekulasjon, noe i hvert fall Dennett ikke legger skjul på, og noen form for bevis, utover mer eller mindre overbevisende argumenter, kan ingen av dem legge frem.

Er det vesensforskjell på en handlende bevissthet og en ting blant tingene? Kan maskiner ha bevissthet?

Trond Berg Eriksen, Morgenbladets etiker, angriper denne måten å tenke på i sin anmeldelse av Yuval Noah Hararis bestselger Homo Deus (2015), som har popularisert ideen om menneskelig selvoverskridelse.[11] For, skriver han, «Harari er ikke i nærheten av å skjønne Kants elementære poeng at det å være i verden som handlende bevissthet, er noe ganske annet enn å beskrives utenfra som en ting blant tingene». Sterke ord fra Berg Eriksen, om enn ikke overraskende fra en etiker. Dette perspektivet harmonerer forøvrig godt med mitt eget. Likevel klarer jeg ikke å fortrenge mistanken om at Harari, Hofstadter og Dennett kan ha skjønt noe som Berg Eriksen og jeg har gått glipp av. For hva vil det si å være en handlende bevissthet? Er det vesensforskjell på en handlende bevissthet og en ting blant tingene? Kan maskiner ha bevissthet? I så fall, hvordan kan vi vite det? Trenger bevisstheten et sanseapparat, for eksempel en kropp, for å kunne fungere? Vil andre typer sanseapparater kunne komme opp med annen type kunnskap?

Noen av disse spørsmålene finnes det gode svar på, andre ikke.

John Searle gjorde allerede i 1980 sitt berømte «Chinese rooms»-tankeeksperiment, der han demonstrerte at det er umulig å verifisere hvorvidt en maskin har bevissthet eller ikke.[12] Det samme eksperimentet viser i prinsippet at det samme gjelder for mennesker. Noen år tidligere, men lenge etter at Kant skrev om tilsvarende emner, lanserte Thomas Nagel et tankeeksperiment som viser at form og egenskaper ved sanseapparatet vårt bestemmer hvilke forståelses­former vi kan gjøre bruk av, som på sin side styrer hva slags kunnskap vi kan tilegne oss.[13]

Til tross for dette, oppfører Ole Martin Moen og andre transhumanister seg som om den filosofiske materialismen ikke er ett perspektiv blant flere, men selveste sannheten, noe filosofene selv ikke gjør. Både Hofstadter og Dennett har da også, på hvert sitt vis, tatt avstand fra både singulariteten og trans­humanismen.

Dagens fremtidsvisjoner

Lindgrens artikkel handler ikke bare om transhumanisme, men om teknologiutvikling og fremtidsvisjoner i vid forstand. Flere av eksemplene hans knytter seg snarere til singulariteten – forestillingen om at teknologi kan utvikle bevissthet og ta kontroll over menneskeheten – enn transhumanismen, og det er antakelig singulariteten mye av kritikken hans retter seg mot. «Det finnes ikke rom for genuin tvil eller dissens, bare teologisk spekulasjon rundt endetidens innhold og form, hvorvidt Singulariteten, omegapunktet, vil finne sted virtuelt, i den fjerne Skyen, eller reelt, i optimaliserte transhumane kropper,» skriver Jan Grue i essayet Bortenfor, bortenfor, bortenfor[14], som utkom omtrent samtidig med Lindgrens essay. Han peker på at singularitetsbegrepet, slik det blir brukt i det daglige, ikke bare rommer én, men to visjoner.

Transhumanistene Ray Kurzweil og Nick Bostrom er mest interessert i den formen for singularitet som manifesterer seg på objekt- og individnivå, i det Grue kaller «optimaliserte transhumane kropper». Denne forestillingen baserer seg på at datamaskiner blir stadig kraftigere, mer intelligente og bedre i stand til å løse stadig mer avanserte oppgaver i stadig større bredde, helt til de til slutt vil være bedre enn mennesker på alle områder som krever intelligens. Samtidig vil teknologien kunne brukes til både intellektuell og kroppslig forsterkning av mennesker, både direkte og gjennom sammensmeltning med maskiner, for eksempel ved å laste innholdet i en menneskelig hjerne over i digitalt format uten at noe går tapt. Hva som skjer på det punktet maskinene blir mer intelligente enn menneskene, er det ingen som vet og få som vil spekulere over. Det eneste som virker klart er at det fra det tidspunktet av, ikke er menneskene som styrer, men maskinene.

For å beskrive hvordan denne formen for singularitet vil oppstå, har både Kurzweil og Bostrom tatt i bruk en type pseudovitenskapelig sjargong, uttrykt i form av komplekse regnestykker som gir presise svar, men som knapt diskuterer premissene og forutsetningene regnestykkene bygger på. Dette gir hypotesene deres et skinn av vitenskapelighet, samtidig som intellektuelle uten erfaring med denne type kvantitative metoder, stenges ut av diskusjonen. Kurzweil og Bostrom gjør heller ingen forsøk på å falsifisere hypotesene som regnestykkene skal støtte, noe som skaper et inntrykk av at denne formen for singularitetsforestilling ikke er forankret i vitenskap, men ideologi.

Siden det ideologiske grunnlaget i liten grad anskueliggjøres, kan man mistenke dem for å ha et vitenskaps­teoretisk naivt forhold til sine egne teorier. Dette står i kontrast til den formen for singularitet som tar utgangspunkt i ideen om omegapunktet, og som i følge teorien vil realiseres virtuelt, i skyen, som en altomfattende og allesteds­nærværende global hjerne. Denne hypotesen ble først beskrevet av den jesuittiske presten og filosofen Pierre Teilhard de Chardin, og handler, litt forenklet, om å forene tanken om en allesteds­nærværende og allvitende Gud med Darwins utviklingslære. Teilhard de Chardin tenkte seg at all materie utvikler seg i retning av stadig større kompleksitet, fra cellen via mennesket til nye livsformer vi ikke kan forestille oss, og mot stadig tettere konsentrasjon, fra livløs materie til bevissthet. Denne utviklingen fortsetter helt til hele planeten (og universet) er bevisst og selvbevisst, en tilstand han kalte omega­punktet eller også Gud. I 1955, da boken kom ut, kunne nok dette virke i overkant spekulativt, og det skortet heller ikke på kritikk.[15] I dag, når en hel verden, selv de mest bortgjemte steder, står på terskelen til å bli kolonialisert av tingenes internett og virtualisert i skyen, er hypotesen kanskje ikke så urimelig likevel, verken for hardcore materialister eller religiøse individer med legitimerings­behov.

Begge singularitetshypotesene baserer seg på at alt er materie og at bevissthet er uavhengig av hvilket materiale den realiseres i. Disse premissene danner utgangspunktet for at det er mulig å snakke om singularitet overhodet, og alle som tror på singulariteten må godta dette, til tross for at også Bostrom innrømmer at premissene er kontroversielle.[16] I tillegg baserer de seg på at det finnes objektiv kunnskap om verden og at denne kunnskapen kan formidles gjennom språket. Dette står i sterk kontrast til hovedretningene i de siste hundre årenes filosofi, der hele rekken av moderne tenkere, til tross for uenighet om alt mulig annet, virker enige om at det ikke finnes noen form for objektiv kunnskap, og at hvis den hadde fantes, så ville vi ikke hatt noen måte å uttrykke eller formidle den på. Allerede Kant visste at all kunnskap om verden er subjektiv og at det ikke kan eksistere språk eller symbolsystemer som kan uttrykke sannheten om verden uavhengig av sin egen iboende struktur og sine egne menneskelige begrensninger. Dessverre har ikke noe av dette sevet inn hos teknologene, som rolig fortsetter med sitt, uberørt av den filosofiske tradisjonen.

En tredje vei

Singulariteten kan altså realiseres på to måter, enten gjennom Kurzweils transhumane kropper eller Teilhard de Chardins altomfattende nettverk, eventuelt en kombinasjon av de to. Det vi trenger nå er en tredje vei, en fremtidsvisjon, eller i det minste et perspektiv som ikke ender opp i singulariteten og som ikke hviler på antropomorfe forutsetninger eller overleverte fiendebilder, men som tar den filosofiske tradisjonen på alvor og forholder seg til dagens teknologiske og økonomiske virkelighet uten å moralisere.

En slik fremtidsvisjon vil nødvendigvis måtte bygge på en form for historisk materialisme som står i motsetning til de perspektivene som fremføres av Lindgren, Grue og Berg Eriksen. Samtlige av disse postulerer individets frihet, og dermed mulighet til å styre historiens gang. Lindgren er kanskje den som tydeligst forutsetter dette premisset. Han vil ikke høre snakk om at individets mulighetsrom er innskrenket eller illusorisk. «Ge mig hundra tusen nye framtider!» skriver han. «Den framtid som påstås vara den enda möjliga är en minimal sektor av alla de framtider som väntar på att vi skal våga utforska dem.» Det virker som at han ikke registrerer premissene slike utsagn baserer seg på, og nå bare venter på at resten av verden skal sette i gang og utforske nye fremtidsvisjoner, helt uten hensyn til de historiske og materielle begrensningene slike visjoner med nødvendighet vil springe ut av. For til tross for at vi liker å fortelle hverandre historier, der rådsnare helter, som vi mer enn gjerne projiserer våre egne fantasier over på, spiller hovedrollen, drives vi fremover av en usynlig og ubønnhørlig dialektikk, som utvikler seg fra materielle forhold over tid og som styrer verden mot en stadig mer omfattende instrumentell fornuft, der sivilisasjoner, nasjoner og individer enten må tilpasse seg eller forsvinne ut av historien.[17]

Jeg skulle gjerne hatt samme holdning til dette som Lindgren, Grue og Berg Eriksen. Det er umulig for meg, men jeg har selvsagt ingen problemer med å forstå at det er nødvendig for en kritiker (Lindgren) å tro på alternative fremtider, for en etiker (Berg Eriksen) å tro på individets frihet til å ta beslutninger og for en filosof (Grue) å tro på individets mulighet til å tenke selv.

Det uunngåelige

Jeg vil heller knytte an til Kevin Kelly, som var med på å etablere tidsskriftet Wired og The Long Now Foundation, og som i et tiår har vært en av California-ideologiens frontfigurer. Han skriver om teknologi og teknologiutvikling i populære bøker med titler som What Technology Wants (2011)[18] og The Inevitable (2016)[19], der han legger an et strengt deterministisk syn på teknologi og samfunns­utvikling. Likevel er han kritisk til ideologien rundt singularitet og transhumanisme, som han sammenligner med primitive samfunns forveksling av teknologi med magi.[20] Kelly har, i motsetning til Lindgren, som hele tiden insisterer på at vi må forstå de emosjonelle drivkreftene hos dem som lengter etter trans­humanismen, ingen tro på at enkeltindividers følelser har noen rolle å spille i hverken teknologi- eller samfunns­utvikling. «Hvis ikke Edison hadde funnet opp lyspæren, så ville noen andre gjort det,» konstaterer han. Det samme gjelder all annen innovasjon, noe han bruker store deler av What Technology Wants til å argumentere for.

Kreativitet og innovasjon handler om noe så prosaisk som innsikt i nødvendigheten, om å forstå dagen og fremtiden i lys av historien.

Budskapet hans er at innovasjon ikke handler om de store menn, genier som med sin formidable hjernekraft og enestående kreativitet stiger opp fra dypet med nye ideer som revolusjonerer menneskehetens videre liv. Nei, kreativitet og innovasjon handler om noe så prosaisk som innsikt i nødvendigheten, om å forstå dagen og fremtiden i lys av historien. Tidligere leder for teknologiutvikling og strategi i Microsoft, Nathan Myhrvold, har med etableringen av selskapet Intellectual Ventures,[21] som dag for dag bygger opp en stadig mer omfattende portefølje av patenter og immaterielle rettigheter, tatt dette til sin logiske konklusjon. Når luringer og oppfinnere kommer på banen med geniale ideer som de har «suget fra eget bryst», har Intellectual Ventures og andre institusjonelle aktører med innsikt i nødvendigheten, allerede sikret seg rettighetene. 

Teknologiutvikling og innovasjon skjer i tett sammenheng med den økonomiske utviklingen. Allerede i 1847 skrev Karl Marx at «håndmøllen gir deg et samfunn styrt av føydalherrer, mens dampmøllen gir deg et samfunn styrt av industrielle kapitalister».[22] Så hva slags samfunn får vi av skybaserte teknologiplattformer? Dette kunne virkelig ha vært givende å diskutere, men Lindgren er ikke interessert. For ham er det mer maktpåliggende å postulere at teknologi er et verktøy som hver og en av oss kan velge å benytte oss av, eller ikke, etter eget forgodt­befinnende, adskilt fra alt annet. Vi har misforstått vår relasjon til teknologien, skriver han, for teknologien «är et verktyg, varken mer eller mindre». Han inntar med det en posisjon der han ikke bare må ignorere det meste som er skrevet om teknologi de siste hundre årene, men også sin egen, og over to milliarder andre brukeres, mer eller mindre daglige, praksis på Facebook. Med dette postulatet går han også uforvarende de digitale økosystemenes ærend. For verken Facebook eller noen av de andre digitale økosystemene ønsker å synliggjøre for et bredt publikum at de bruker markedsmakt til å ekstrahere monopolprofitt. De foretrekker å fremstå som nøytrale verktøy- og tjeneste­leverandører som opptrer på det frie markedet og følgelig ikke trenger noen innblanding fra verken politiske eller ideologiske aktører.

Kevin Kelly er selvsagt ikke den eneste som har tenkt og skrevet om teknologi som en historisk prosess. Han knytter an til en tradisjon, som med utgangspunkt i Marx, via Max Weber, Martin Heidegger, Jacques Ellul og Frankfurterskolen, frem til nålevende teoretikere som Langdon Winner og Andrew Feenberg, der vitenskapen og teknologien er bærere av den instrumentelle fornuften, som med kald og klar konsekvens driver samfunns­utviklingen videre, uavhengig av enkeltpersoners tanker og følelsesliv. Det er denne kunnskapen vi må trekke på nå, og det er i denne sammenhengen vi kan forstå singulariteten som forestilling og transhumanismen som ideologi.

For å få bedre innsikt i nødvendigheten og for å gjøre oss bedre i stand til å forutse det som skal komme, må vi forstå hva den instrumentelle fornuften er og hvordan den fungerer i praksis. Det første vi må legge til side er tanken om at fremtiden er åpen for alle slags utviklingsmuligheter, eller som Lindgren formulerer det: «Från den punkt där vi befinner oss nu kan vi gå framåt i 360 grader.» Slik er det ikke. Lindgrens postulat er ren ønsketenkning. I virkeligheten finnes det kun én mulighet og det er den som blir virkeliggjort. Hva denne består i, kan vi ikke vite på forhånd, men at utviklingen er styrt av materielle og historiske forhold, kan vi være ganske sikre på.

Mange av tidens diskusjoner innenfor vitenskaps- og teknologistudier handler om nettopp dette, om hvilke faktorer som driver utviklingen videre og på hvilke måter kultur, ideologi, økonomi og teknologi påvirker utviklingen, hver for seg og sammen. Her opptrer hele spekteret av posisjoner, fra Ellul som i sin tid argumenterte for at det er de teknologisk-instrumentelle kreftene som er avgjørende[23] til Feenberg og Winner[24] som beskriver et komplekst og uoversiktlig samspill mellom de ulike drivkreftene.

«Teknologisk utvikling er ikke en pil som søker sitt mål, men et tre som forgreiner seg i mange retninger,»[25] skriver Feenberg, og gjør bruk av en rekke eksempler for å vise at teknologiutviklingen er sosialt og kulturelt betinget. Dessverre er det enkelt å gjendrive eksemplene hans, selv om enkelte av dem har en viss forklaringskraft på kort sikt. Ett av eksemplene han legger frem er den digitale kommunikasjonsplattformen Minitel, som på grunn av lokale forhold slo an i Frankrike, men ikke i noen andre land. Isolert sett fungerer eksempelet greit nok, men hvorfor ikke legge til at det nå er internett som har tatt over som kommunikasjonsplattform over hele verden, også i Frankrike, og at knapt noen bruker Minitel lenger? Han argumenterer videre med at forbudet mot barnearbeid som ble forhandlet frem i industrialiserte land ved begynnelsen av forrige århundre viser at lokale reguleringer og sosiale prosesser kan påvirke den historiske utviklingen. Noen refleksjon over hvem som har sydd klærne han har på seg mens han sitter og skriver om dette, finnes ikke i teksten.

Den instrumentelle fornuften

I motsetning til Lindgren og Feenberg vil jeg argumentere for at teknologisk utvikling på nært hold kan se ut som et tre som forgreiner seg i mange retninger, men på litt avstand viser seg å være en pil som søker sitt mål. Et slikt perspektiv innebærer at teleologien igjen bringes inn i historieforståelsen. Til tross for at vi hele tiden bruker teleologiske forklaringer i dagliglivet, har denne tankefiguren vært lite populær i filosofiske og vitenskapelige kretser de siste hundreårene. Resultatet har blitt et skille mellom natur og virkemidler på den ene siden, og mål og mening på den andre.

For at fornuften skal være instrumentell, må den, som Lindgren også er inne på i sitt essay, ha et mål som den er instrumentell i forhold til. Hvorvidt dette målet er menneskelig mulig å begripe eller ikke, er en annen sak. Teilhard de Chardin har sitt omegapunkt som han tolker i religiøse kategorier. Et alternativ kan være å knytte rasjonaliteten til det menneskelige behovet for makt og herredømme – på alle nivåer, fra individuell til geopolitisk makt.[26] Eller kanskje det er genenes overlevelse som legger premissene for den instrumentelle fornuften?[27]

I Opplysningens dialektikk (1947)[28] beskriver Max Horkheimer og Theodor W. Adorno hvordan den instrumentelle fornuften driver utviklingen fremover mot stadig mer teknologibaserte og avanserte samfunn. Siden boken ble publisert for første gang, har den bare blitt mer mer aktuell, til tross for at Jürgen Habermas kritiserte den for å være totaliserende.[29] Det er ikke vanskelig å gi Habermas rett i dette, og det er heller ikke urimelig å rette noe av den samme kritikken mot Ellul. Ved første øyekast er Winners og Feenbergs mer balanserte tilnærming, der kultur og ideologi får sin tilmålte plass, mer akseptabel. Det kan heller ikke være tvil om at de på kort sikt har rett, noe vitenskaps- og teknologiforskningen gir mange eksempler på. Spørsmålet er likevel om ikke Adorno, Horkheimer og Ellul har evnet å tenke lenger, at det vil være den instrumentelle fornuften som vinner frem til slutt.

I romanen Identitet (2017)[30] skriver Thure Erik Lund om en utvikling der de teknologiske strukturene bare måker på, og anskueliggjør med det noe ubarmhjertig og ubønnhørlig som ikke lar seg stoppe av verken kultur eller ideologi. Han skriver ikke at det er transhumanismen eller teknologigründere eller venturekapitalister som måker på, men de teknologiske strukturene. Mens Lindgren legger ansvaret for utviklingen hos enkeltindividene, de selvutnevnte herrene, knytter Lund an til strukturene, noe upersonlig og abstrakt, noe det er vanskelig å få skikkelig grep på: den instrumentelle fornuften.

Likevel er det her den store styrken i Lindgrens artikkel ligger, i raseriet mot en teknologisk utvikling som bare turer frem uten at vi kan gjøre noe med den. For rasjonaliteten er utvilsomt i ferd med å slå om i sin motsetning, akkurat som Horkheimer og Adorno hevdet i 1947. Det vitenskapelige og teknologiske systemet vi bygget opp for å formalisere og realisere den instrumentelle fornuften med sikte på å underlegge oss naturen, er nå i full gang med å underlegge seg oss. Vi blir, som Horkheimer og Adorno viser, en funksjon av den teknologien vi har skapt.

Å administrere systemfeil

I USA har myndighetene allerede begynt å bruke kunstig intelligens for å profilere mistenkte i straffesaker. I praksis betyr dette at selvlærende algoritmer gjør en risikovurdering av mistenkte basert på data som samles inn om saken. Denne risikovurderingen brukes som beslutningsgrunnlag i domstolen, både til å avgjøre skyld og til å fastsette dom. Etter at en person, tidligere i år, ble dømt til seks års fengsel for en drive-by shooting i LaCrosse, Wisconsin, delvis basert på en slik risikovurdering, har det kommet i gang en debatt om bruk av kunstig intelligens, særlig maskinlæring, i straffesaker.[31] Dypest sett handler denne diskusjonen om at selvlærende systemer ikke lar seg forstå fra utsiden, noe som kan være problematisk fra et etisk standpunkt.

I en stadig mer rasjonell verden vil handlinger som overskrider lover, regelverk og normer, bli sett på som rene systemfeil.

Min bekymring er en annen. Jeg er ikke engstelig for de etiske konsekvensene, men for at det etiske blir irrelevant. I en stadig mer rasjonell verden vil handlinger som overskrider lover, regelverk og normer, bli sett på som rene systemfeil, som må rettes opp og administreres, enten med medisinering eller isolering av individet som begikk, eller ble vurdert å stå i fare for å begå, feilen.

På den annen side vil fremtidens mennesker kanskje ikke se dette som noe problem, på samme måte som vi som lever i dag ikke mister nattesøvnen av å spekulere over hvor mange engler det er plass til på et knappenålshode. Allerede for de som er unge i dag, er en hverdag uten internett utenkelig. Neste generasjon vil ikke ha noen erfaring av en verden uten virtual reality. Generasjonen etter det vil, på samme måte som alle generasjoner tidligere, forholde seg til den livsverdenen de blir kastet inn i, og som i deres tilfelle vil være radikalt annerledes enn den verdenen vi lever i nå.

Fremtidens samfunn blir et annet samfunn

Tidligere i år kom nyheten om at amerikanske forskere har brukt CRISPR/Cas9 for å endre gener i menneskelige embryo og på denne måten lykkes med å endre en genetisk feil som kan føre til en dødelig hjertesykdom. Verdensledende forskere har, ifølge Jon Kåre Time i Morgenbladet,[32] tidligere krevd global stans i alle forsøk på å endre genene i kjønnsceller og menneskelige fostre på denne måten. Det hindret ikke kinesiske forskere i å sette i gang med slike forsøk. Og det hindret heller ikke vestlige forskere i å følge på for å ikke bli hengende etter i utviklingen. Noe bedre eksempel på at den teknologiske utviklingen bare måker på, uten at nasjonale eller internasjonale myndigheter har noe de skulle sagt, er vanskelig å finne. Asbjørg Stray Pedersen, leder av Norsk forening for medisinsk genetikk, sier til Time at hun er imponert, «men også litt redd for at teknologien skal komme i gale hender», som om teknologi er noe det går an å gjemme unna, til bruk bare for de som deler Stray Pedersens verdier og holdninger.

For min del er jeg mer redd for maktpersoner som er naive i møte med den teknologiske utviklingen. For, som Thure Erik Lund skriver:

Prøv å stå der fremfor teknologiguden, den som holder liv i deg, og benekte all dens vesen. Prøv å forakte dens verdier. Prøv å fortelle den at utviklingen må stanses, eller prøv å forklare at den må komme inn under menneskets kontroll. Prøv det.

Ja, prøv det.

Fremtidens samfunn vil bygge på andre teknologiske strukturer og annen teknologi enn dagens. Samtidig er det klart at disse strukturene og denne teknologien vil vokse ut av dagens strukturer og teknologi.

Det krever lite fantasi å forestille seg tingenes internett, det finnes allerede, bare at det i fremtiden vil ha enda flere maskiner, flere ting, flere sensorer, flere prosessorer, flere roboter og flere individer koblet til. Det krever heller ingen ekstraordinær forestillingsevne å være i stand til å tenke seg at prosessorer og sensorer kan bli mindre, og etter hvert usynlige for det menneskelige øyet. Kanskje de også blir å finne på innsiden av kroppen, for eksempel i blodomløpet.

Sensorer av ulike slag, enten de er koblet til ting eller individer, brukes i dag til å fange opp data, som settes i sammenheng og gjøres til gjenstand for selvlærende algoritmer, for å bygge kunnskap om individer og deres livsverden som kan brukes til bestemte formål, for eksempel reklame, overvåking eller propaganda. Det er ingen grunn til å tro noe annet enn at denne praksisen vil fortsette med uforminsket styrke. I neste omgang vil de selvlærende algoritmene bli selvstyrte og koblet sammen med andre selvlærende algoritmer i automatiske og selvstyrte prosesser, som i neste omgang kobles sammen til automatiske og selvstyrte virksomheter som endelig kobles opp i en automatisk og selvstyrt digital verden, der hvert enkelt individ og hvert enkelt objekt er en liten del av den globale digitale strukturen, og der den digitale og fysiske virkeligheten er smeltet sammen i et verdensomspennende digitalt-organisk maskineri som i stadig større grad livnærer seg av data.  

Allerede i dag legger jeg, gjennom mobiltelefonen og andre mobile enheter, igjen elektroniske spor overalt. Disse enhetene er min port til en verden av kunnskap, tjenester, kommunikasjon og identitet. Selv om jeg er klar over at de elektroniske sporene har verdi og også vet hvordan verdiene skapes og realiseres, i hovedsak av globale teknologiplattformer, på min bekostning, er jeg låst inne i et system det har store omkostninger å komme seg ut av, og som jeg derfor bare kan forholde meg passivt til.

Ingen kommer til å vinne noen veddemål ved å forutse at mobile teknologier og menneske-maskin-grensesnitt vil fortsette å utvikle seg. Antakelig kommer dette til å skje langs minst to spor. Det ene sporet er en videre fordypning og forgreining av smarttelefonens virkeområde, slik at vi etter hvert vil kunne bruke den til å styre maskiner, roboter og syntetiske kropper som befinner seg et annet sted. Det andre sporet er en intimisering hvor teknologien som nå er tilgjengelig via mobilen kommer tettere på og inn i kroppene våre, for eksempel gjennom klokker, klær og implantater. Det er antakelig også bare et tidsspørsmål før mennesker får et standard operativsystem, Android, iOS eller noe annet, på innsiden av kroppen med grensesnitt både til organiske funksjoner og til sensorer i og utenfor kroppen. I praksis vil kroppene våre da være direkte koblet til globale teknologiplattformer, og i prinsippet kunne motta signaler og informasjon uten at «vi», representert ved våre egne hjerner, har kjennskap til det.

Den menneskelige kroppen er ikke alene om å bli digitalisert. Hjernen er også i ferd med å bli gjenstand for digitalisering. Både USA og EU har egne forskningsprogrammer[33] med ambisjoner om å avdekke hjernens mysterier, og i neste omgang anvende denne kunnskapen til praktiske formål. De er allerede i gang med å dekode hjernens aktivitet, å bringe frem gamle minner, å lage nye minner, og ikke minst å styre data- og informasjonsstrømmer mellom menneskelige og digitale hjerner. De fleste har vel også fått med seg at forskere har kartlagt de grunnleggende bestanddelene som mennesker består av, arvestoffet, og begynt å utforske hvordan vi kan endre det for å forbedre oss selv.

Evig liv i transhumanistisk forstand er vi likevel ikke i nærheten av. Samtidig legger vi hele tiden igjen digitale spor på en måte som gjør at dagens mennesker aldri vil bli borte på samme måte som i gamle dager, da noen mer eller mindre gulnede fotografier var alt de etterlatte satt igjen med. Og før det igjen, ingenting, bare minner. Det er vanskelig å forestille seg at denne utviklingen vil stoppe opp før alle menneskeliv er fullstendig gjennomsiktige og digitalt permanente, før alt vi gjør, fra vugge til grav, blir lagret som elektroniske spor som aldri forsvinner og som vil være universelt tilgjengelig i all evighet. I Identitet skriver Thure Erik Lund: «Menneskene fortsetter å dø, mens deres digitale gjenferd, som sees gjennom allslags profiler og interessemessige aktiva, derimot fortsetter å leve og utfolde seg i digitale livsstrukturer, i elektrisk uendelighet.» Den vedvarende tilknytningen til den digitale verden vil antakelig også gjøre fremtidens mennesker enda mer sårbare for kommersialisering, sosial kontroll og politisk indoktrinering enn vi er i dag, for eksempel gjennom abonnementsmodeller for kroppslig og intellektuell forsterkning eller gjennom styring av menneskelig adferd ved direkte påvirkning av lystsenteret i hjernen. Å danne menneskelige identitet i et slikt landskap vil kreve helt nye tenkemåter og virkemidler. Eller kanskje det blir slik Lund forestiller seg det, «at det kun er den overordnede digitale strukturen som til fulle vil forstå oss».

Ingenting av dette krever realisering av den teknologiske singulariteten eller noen form for transhumanistisk utopi. Disse scenarioene er ikke annet enn en enkel projisering av eksisterende forhold og utviklingstrekk. Forskjellen på dette globale digitale maskineriet og den globale hjernen Teilhard de Chardin beskrev, er kanskje ikke noe annet enn at den ikke har bevissthet og derfor ikke kan handle intensjonelt. Og forskjellen fra den transhumanistiske utopien er i hovedsak tvilen på det evige liv og på at det er mulig å skape liv ut av materie. Forutsetningen for denne fremtidsvisjonen er at det likevel, ett eller annet sted, skal finnes en sjel, en bevissthet som gjør at mennesker er grunnleggende forskjellige fra biler og andre fysiske objekter, en bitte liten ukjent som hindrer den instrumentelle fornuften fra, i det lange løp, fullstendig herredømme.

Entreprenørene og den digitale transformasjonsprosessen

Etter tre dager med presentasjoner, paneldiskusjoner, workshops og spørsmål fra salen, begynner jeg å bli lei. Jeg vil ut i solen, ut og gå gatelangs, spise lunsj i Central Park, lete meg frem til uavhengige bokhandler i Brooklyn og Williamsburg, før jeg til slutt, hvis alt går bra, og det gjør det nok, ender opp på en passe sliten uteservering, antakelig i området rundt Greenwich Village, for eksempel i en av de små sidegatene til Bleecker Street.

Men jeg holder ut.

Jeg kom til Singularity University med mange spørsmål, og har, i løpet av de dagene jeg har vært her, fått svar på noe, i tillegg til en viss optimisme som jeg ikke hadde tidligere. Jeg har ingen problemer med å akseptere at fremtiden kommer til å springe ut av en eksponentiell teknologiutvikling. Med det som utgangspunkt, kan det godt hende at mange av dagens utfordringer og problemer med produksjon av energi, mat og forbruksvarer på den ene siden og med miljø- og klimaproblemer på den andre, vil være løsbare med ny teknologi og nye forretningsmodeller. På den måten vil vi kunne dekke grunnleggende menneskelige behov til en stadig økende befolkning uten ytterligere risiko for klimakollaps. Samtidig klarer jeg ikke helt å fortrenge Adorno og Horkheimers tanke om at naturødeleggelsene ikke bare er en virkning av den instrumentelle fornuften, men mer intimt forbundet med den, som medaljens bakside med dens forside. 

Disse dagene i New York har også gitt meg fornyet tillit til den sosiale entreprenørskapsmodellen og investorene som arbeider for å realisere denne. Det er mye profitt å hente ut av den digitale transformasjonsprosessen vi nå er inne i, og det er ingen tvil om at teknologigründere og investorer over hele verden, og særlig i Silicon Valley, posisjonerer seg for å tjene penger på det som holder på å skje. Hvis de samtidig kan løse globale problemer knyttet til sult, energi og klima, tar de nok gjerne det med på kjøpet. Tradisjonelle nasjonalstater, bistandsorganisasjoner og aktivister har i denne sammenhengen lite å fare med. Overlatt til deres virkemidler kan vi være sikre på at problemene bare kommer til å vokse seg større. Samtidig er digitaliseringens logikk ubønnhørlig. Det som på den ene siden vinnes gjennom økt rasjonalitet og effektivitet, tapes gjennom redusert individuell frihet og selvstendighet på den andre. For den globale middelklassen vil denne utviklingen sikkert oppleves som negativ, vi har jo allerede det vi trenger for å dekke de grunnleggende behovene våre. For resten av verdens befolkning, som antakelig mener at det viktigere med mat og strøm enn selvrealisering og personvern, vil utviklingen rimeligvis være til det bedre.

Siste post på programmet er et intervju med Ray Kurzweil. Ut på scenen kommer en ulastelig antrukket Bob Pisani, en reporter fra CNBC som har fulgt den amerikanske økonomien i en mannsalder. Han begynner å prate, om hva fester jeg meg ikke ved, for jeg er mer interessert i hvor det er blitt av Kurzweil. Har han blitt igjen på bakrommet, har han fått et plutselig angstanfall eller blitt overmannet av mageproblemer, akkurat nå, like før han skulle på scenen? Men nei. Før jeg får tid til å spekulere mer over mulige årsaker til at Kurzweil ikke er å se noe sted, kommer en BeamPro telepresence-robot kjørende inn på scenen og stopper opp like foran Pisani med skjermen mot salen. Så blir en av storskjermene aktivert, slik at ansiktet til Kurzweil kommer til syne for publikum.

Pisani fortsetter å prate, om singularitet og om at dette ikke er første gang han intervjuer Kurzweil. Han er rutinert og synes åpenbart ikke at det er ydmykende å snakke med en maskin foran et stort publikum. Jeg får inntrykk av at Kurzweil sitter i et lite stillerom på Googleplex, der han nå er direktør for forskning og utvikling, det ser i hvert fall mørkt og trist ut der inne. Pisani kaster ikke bort tiden, men setter i gang med å intervjue ham. Kurzweil er med på notene og svarer villig vekk på spørsmål han sikkert har fått hundrevis av ganger før. Likevel synes jeg at han ser sliten og pjusk ut. Det kan ikke bare være tidsforskjellen, for så sent er det da ikke på vestkysten. Han snakker sakte, men uten å nøle. Litt av luggen faller ned i ansiktet. Dette er altså mannen som vil leve evig, og som har satt i gang konkrete initiativer for å oppnå nettopp det. Kan det likevel hende, i svake øyeblikk, når mørket senker seg og ensomheten kommer snikende, at han begynner å tvile på om han har forstått alt riktig – ikke lenge, men lenge nok til at tvilen setter seg i kroppen på en måte han ikke klarer å bli kvitt?

Les også:

Håkan Lindgren: 1900-talets fattigaste utopi. Dags att förstöra transhumanismen!

Audun Lindholm og Bår Stenvik: Mennesket: problem eller løsning?

---

[1] Ray Kurzweil, The Age of Spiritual Machines: When Computers Exceed Human Intelligence, Penguin Books, 2000 og The Singularity is Near, The Viking Press, 2005.

[2] Anders Dunker, «Titusenårsklokken», Vagant 3/2017.

[3] Håkan Lindgren, «1900-talets fattigaste utopi», Vagant 3/2017.

[4] Frank Schirrmacher, «Neelie Kroes’ armbånd», oversatt fra tysk av Snorre Fjeldstad, Vagant.no 17.12.2014.

[5] Donna Haraway, A Cyborg Manifesto: Science, Technology and Socialist-Feminism in the Late Twentieth Century, Routledge, 1991. Først publisert i Socialist Review 80, 1985. Utdrag oversatt fra engelsk av Karin Nygård i Vagant 3/2009.

[6] Ole Martin Moen, «Slutten på mennesket slik vi kjenner det», Samtiden 4/2014.

[7] Hallvard Haug, «Livet under null», Vagant 2/2016.

[8] Aurora Hannisdal og Carima Tirillsdottir Heinesen, «Fremtidsmennesket», Plot 37, 2017.

[9] Douglas Richard Hofstadter, I Am a Strange Loop, Basic Books, 2007.

[10] Daniel Dennett, Consciousness Explained, Back Bay Books, 1992.

[11] Trond Berg Eriksen, «Sluker morgendagen før den finner sted», Morgenbladet 11.08.2017.

[12] John Searle, «Minds, brains and programs», The Behavioral and Brain Sciences 3/1980.

[13] Thomas Nagel, «What is it like to be a bat? », The Philosophical Review 83, 1974.

[14] Jan Grue, Bortenfor, bortenfor, bortenfor, Flamme Forlag, 2017.

[15] Pierre Teilhard de Chardin, Le Phénomène Humain, Editions du Seuil, 1955;  The Phenomenon of Man, William Collins, 1959.

[16] Nick Bostrom, Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2016.

[17] Herbert Marcuse, One-Dimensional Man, Beacon Press, 1964; Det endimensjonale menneske, oversatt fra engelsk av Thomas Krogh og Hans Petter Aastorp, Bokklubbens kulturbibliotek, 2005.

[18] Kevin Kelly, What Technology Wants, Penguin Books, 2011.

[19] Kevin Kelly, The Inevitable, Penguin Random House, 2016.

[20] Anders Dunker, «Å vinne fremtiden tilbake», Vagant 3/2017.

[21] http://www.intellectualventures.com/

[22] Karl Marx, Misère de la philosophie, A. Frank/C.G. Vogler, 1847; The Powerty of Philosophy, overatt fra fransk av Harry Quelch, Charles H. Kerr & Co., 1910.

[23] Jacques Ellul, La technique ou l’enjeu du siècle. Armand Colin, 1954; The Technological Society, oversatt fra fransk av John Wilkinson, Knopf, 1964.

[24] Langdon Winner, The Whale and the Reactor, The University of Chicago Press, 1988.

[25] Andrew Feenberg and Michel Callon, Between Reason and Experience: Essays in Technology and Modernity, The MIT Press, 2011.

[26] Friedrich Nietzsche, Jenseits von Gut und Böse. Vorspiel einer Philosophie der Zukunft, C.G. Neumann, 1886; Hinsides godt og ondt, oversatt fra tysk av Trond Berg Eriksen, Dreyer, 1984.

[27] Richard Dawkins, The Selfish Gene, Oxford University Press, 1976; Det egoistiske genet, oversatt fra engelsk av Arne Hem, Humanist Forlag, 2002.

[28] Max Horkheimer og Theodor Adorno, Dialektik der Aufklärung, Querido, 1947; Opplysningens dialektikk, oversatt fra tysk av Lars Petter Storm Torjussen, Spartacus, 2011.

[29] Jürgen Habermas and Thomas Y. Levin, «The Entwinement of Myth and Enlightenment: Re-Reading Dialectic of Enlightenment», New German Critique 26, 1982.

[30] Thure Erik Lund: Identitet, Aschehoug, 2017.

[31] Jason Tashea, «Courts are using AI to sentence criminals. That must stop now», Wired 17.04.2017.

[32] Jon Kåre Time, «Uaktuelt i Norge», Morgenbladet 11.08.2017.

[33] Human Brain Project (EU): https://www.humanbrainproject.eu/en
Brain Initiative (USA): http://www.braininitiative.org