Nye netteksklusive tekster hver uke. Tegn abonnement og få fire papirutgaver i året

Når giganten klarer seg selv

High-frequency trading erstatter menneskelig kaos med maskingalskap.

En gruppe ved navn Syrian Electronic Army hacket seg i 2013 inn på Associated Press’ twitterkonto. Kort tid etter sendte de ut en melding. I tankene hadde de ikke menneskelige lesere, men snarere algoritmene som styrer over halvparten av de globale finanstransaksjonene: «Breaking: Two Explosions in the White House and Barack Obama is injured.»

Nyheten – som ethvert menneske i løpet av få sekunder kunne få avkreftet – skapte umiddelbart rystelser på børsen. Algoritmer leser nemlig aviser og sosiale medier, holder oversikt over værmeldinger og spionerer på andre algoritmer i en hyperfart vi ikke kan følge med i. Datamaskinenes algoritmer handler så raskt at de daglig forårsaker små minikræsj, såkalte ultrafast black swans. Kun få ganger går det virkelig ille, som under Flash Crash i 2010. Fortsatt i dag forsøker økonomene å finne ut av hva som skjedde den lille halvtimen det tok før markedet stabiliserte seg igjen.

Kilde: Wikimedia Commons.

Kilde: Wikimedia Commons.

Mary MacLane beskrev i 1902 Wall Street som et maskulint sted, hvor det kvinnelige og det hverdagslige var utryddet. Reportasjen er nylig oversatt på bloggen Promenaden av forfatteren Harald Voetmann. MacLanes beskrivelser av pengebørsen på starten av 1900-tallet passer fortsatt på dagens binære børs, bare man bytter ut «maskulin» med maskin og «kvinnen» med mennesket. Se for eksempel denne beskrivelsen av børsens bygninger:

Disse bygninger er særegent maskinelle områder. Der er ingen menneskelige elementer, ingen menneskelige farver, intet spor af menneskehånd. Alt er abrupt og stejlt og maskinelt. Når man betragter det, kan man føle sig overbevist om, at disse maskinene ikke skænker mennesker en tanke midt i den gale tummel. Der er ikke det fjerneste ekko af en blid fortælling mellem de høje grå mure. Der findes utvivlsomt kun få af disse storladne leveveje i denne verden, hvor en maskins blik aldrig rettes mod et menneske. Det er et af de mange ydre elementer, der mangler på Wall Street. Det er helt utvivlsomt, at det mangler. Ethvert begær forvrænges her – også dette, hvis det ellers havde været til stede.

*

Nettmagasinet Mother Jones illustrerte i 2013 en artikkel om High-frequency trading (HFT) med roboter som telefonerer i cyberspace. Kanskje de av pedagogiske hensyn tviholdt på ideen om at det finnes tanker og intensjoner som ligner våre bak disse transaksjonene? De kunstige aktørene handler som oss mennesker, de er bare raskere til å beslutte seg og har kapasitet til å behandle større datamengder! Slike bilder av humanoide roboter som telefonerer hurtig med hverandre, uttrykker avmakt.

Kilde: Mother Jones.

Roboter på børsen. Kilde: Mother Jones.

Men finnes alternativer? Klarer vi å forestille oss handlingslogikken til aktører vi riktignok har skapt, men som ikke ligner oss? D.F. Jones’ roman Colossus fra 1966 stiller spørsmål om hva den adekvate forståelsesrammen for kunstige intelligenser er – og hva som skjer hvis vi velger feil tolkningsnøkkel. Skal vi forstå maskinen Colossus som menneskelignende eller maskinlignende? Og er maskinen god – et supermenneske som skal redde oss fra oss selv – eller er den blitt ond, en som tjener krefter ukjente for oss? Feiltolkninger av hva maskinen Colossus vil, hva han er, blir plottets motor.

Colussus av D.F. Jones (1966).

Colossus av D.F. Jones (1966).

I romanen bygger nordamerikanerne, under ledelse av ingeniøren Forbin, maskinen Colossus for å sikre fred i verden. Trusselen om atomutslettelsen rår – den kalde krigen kan når som helst gjøre planeten ubeboelig for mennesket – og verden trenger en helt, aller helst av typen «ikke-menneskelig». Nasjonens atomstridshoder blir derfor plassert i Colossus’ forvaring, i den hensikt å avlaste enkeltmennesker fra å ta avgjørelsene om å bruke dem. Endelig, sukker presidenten lettet, kan verdens ledere sove godt om natten igjen. For å hindre at menneskene ødelegger eller manipulerer maskinen, bygges Colossus for sikkerhets skyld inn i Rocky Mountains.

Ganske raskt oppstår problemer. En spion i Forbins kybernetikkteam har lekket opplysninger til russerne og gjort Sovjetunionen i stand til å bygge Guardian, en eksakt kopi av Colossus. De to maskinene finner tonen (i motsetning til de to statene som bygget dem), og begynner å samarbeide for å utføre sin oppgave: Å sikre fred i verden. Dette får imidlertid uforutsette konsekvenser for menneskene, nemlig kontroll og overvåkning, invadering av privatlivet og det som fremstår som vilkårlige drap. Allerede på dette tidspunktet i fortellingen innser menneskene at de har misforstått maskinens binære logikk. Maskineriet har sin egen galskap.

Det sies at slike forsøk – på å bygge systemer som skal beskytte oss mot oss selv – ikke bare fant sted i fiksjonen. Et uverifisert rykte går om at en militær utskytingsrampe i USA en gang under den kalde krigen begynte å gjøre seg klar til å skyte, uten at noen klarte å stoppe den. Enkelte av ingeniørene fikk panikk, andre forsøkte å tenke som maskinen. Først da platene som dekket missilene åpnet seg, øynet en klok tekniker muligheten til å manipulere systemet: Hvis noe tungt sto oppå platene, ville en sikkerhetsmekanisme stoppe prosessen. I all hast kjørte man derfor opp et tungt kjøretøy på platene. Ved å tenke som maskinen, ble man i stand til å forhandle med den. Det samme er Forbin nødt til å gjøre: Etter hvert forstår han – eller rettere sagt tror at han forstår – maskinens tenkemåte, og begynner den møysommelige prosessen med å manipulere hjernen til kjempen han har skapt.

*

Joseph Sargent Colossus - The Forbin Project (1970)

Colossus – The Forbin Project (1970), regissert av Joseph Sargent.

Åpningsscenen i den filmatiserte versjonen, Colossus – The Forbin Project (1970), regissert av Joseph Sargent, gir et frampek om maskinens uavhengighet og uforutsigbarhet: Forbin, programmereren, kutter bokstavelig talt navlestrengen til maskinen, idet han lukker igjen en betongport og fjerner broen som går over til det store maskineriet i Rocky Mountains. Skapelsen er forseglet, umulig å påvirke. I D.F. Jones ord: «Inpenetrable, it is no way in and no way out.»

Det sentrale problemet i Colossus ligner dermed Frankensteins problem i Mary Shelleys klassiker, om enn bare tilsynelatende. I Frankenstein; or, The Modern Prometheus (1818) skapte vitenskapsmannen et kunstig menneske, men nektet å anerkjenne at det hadde like komplekse følelser og drifter som et vanlig menneske. Det var nettopp menneskets drivkrefter Frankenstein ikke forsto. Forbin derimot har problemer med å forstå eksistensen av det ikke-menneskelige: At det finnes et vesen som er likegyldig til oss, og som vi ikke kan forvente at tenker som oss.

Maskinen Colossus minner om operativsystemet Samantha i Spike Jonzes spillefilm Her (2014). Mens Colossus er en actionfylt fortelling som plasserer den vonde kjensgjerningen – at mennesket ikke er overlegen teknologien det har skapt – i militære trusler, kommuniserer Her innsikten melodramatisk: Operativsystemet, med stemmen til skuespiller Scarlett Johansson, ser seg nødt til å forlate Theodore fordi han er et menneske. Det begrensede og kroppsbundne menneskebarnet med moderne bart og høytsittende tweedbukser klarer ikke å matche det attraktive, allestedsnærværende operativsystemet Samantha. Jonze fremstiller forholdet vårt til teknologien som et ensidig kjærlighetsforhold.

*

I virkelighetens verden har ikke de kunstige aktørene forlatt styringssystemene – de er her fortsatt. Vi er, som i Jones’ roman, nødt til å snakke med handlingsvillige teknologier, oversette tanker og planer til et forenklet språk de kan forstå, gi dem det de vil ha. Dette er i hvert fall påstanden til tenkeren Jaron Lanier: Vi tror vi styrer teknologien, men egentlig forholder det seg omvendt. Vi tilpasser oss maskinene, og lar dem dermed kontrollere hvordan vi oppfører oss, i stedet for å bruke teknologien som verktøy til å realisere oss selv.

Ifølge Lanier har vi kanskje allerede skapt et intelligent vesen til å ta avgjørelsene for oss, helt ubevisst. I boken You are not a gadget (2012) lanserer han påstanden om «wikipediaiseringen» av kunnskap: Vi har overlatt kvalitetssikring til nettets hastighet og volum. Vi stoler mer på Wikipedia enn på tradisjonsrike leksikon, slik NSA har mer tillit til enorme mengder metainformasjon enn til menneskelig intuisjon og kløkt. Colossus er med andre ord kanskje allerede en realitet. Den nylig avdøde feuilleton-redaktøren i Frankfurter Allgemeine Zeitung, Frank Schirrmacher, så riktignok håp om at dette endret seg i fremtiden. I et essay spådde han at borgere kun kommer til å stole på «systemer som har et identifiserbart og ansvarlig menneske i den avgjørende posisjonen». Men, legger han til, dette er ikke noe som kommer av seg selv. «Trenden går klart i retning av en organisert og umyndiggjort ansvarsløshet.»

*

I flere år har Universal forsøkt å lage en remake av Colossus – The Forbin Project. Diverse nettsider blogger ved jevne mellomrom om prosjektet. Will Smith skal spille hovedrollen, ble det sagt i 2011. Kanskje kan vi håpe på at filmskaperen, ifølge ryktene Ron Howard, mannen bak A beautiful mind (2001), setter lista høyt?

Resultatet kunne blitt en Great Gatsby for vår tid, en film om det ville cyberlivet som styrer den globale økonomien, starring en laniersk versjon av Colossus: En flokk HFT-algoritmer som er blitt tildelt så mye makt at menneskene må knele for deres vilkårlige handlingsmønster og uforståelige logikk. En makt selv ikke Will Smith er i stand til å tøyle. Den filmen ser jeg gjerne.

Ragnild Lome

Ragnild Lome

f. 1987. Stipendiat i litteraturvitenskap ved Linköpings Universitet. Bor i Linköping og København. Medredaktør i Vagant.