Vi står på terskelen til en helt ny æra

­

I høst kom boken 21 tanker for det 21. århundre av Yuval Noah Harari. Vi fikk lov til å stille ham fem spørsmål.

1.

CK: I den nye boken din skriver du flere ganger at revolusjonene vi nå står overfor innen bioteknologi og KI (kunstig intelligens), uten tvil er menneskehetens største utfordring så langt i historien. Hvorfor det, og hva tenker du vil bli disse revolusjonenes viktigste konsekvenser? YNH: De nye revolusjonene er forskjellige fra alle tidligere utfordringer fordi de vil gjøre oss i stand til å forandre selve menneskeheten. Opp gjennom historien har ulike revolusjoner forandret verden utenfor oss – vi temmet dyrene, hugget ned skoger, bygde byer, grunnla imperier. Men vi hadde fortsatt de samme kroppene og sinnene som før. Revolusjonene innen bioteknologi og KI vil for første gang i historien gjøre oss i stand til å revolusjonere verden inni oss – altså å redesigne kroppene og tankene våre. Derfor vil de forandre selve betydningen av hva det vil si å være menneske. I løpet av 200 år vil verden sannsynligvis være dominert av enheter langt mer forskjellige fra oss enn vi er forskjellige fra neandertalere og sjimpanser.

I dag deler vi fortsatt de fleste av våre fysiske og mentale evner, vår kroppslige og sjelelige struktur, med neandertalere og sjimpanser. Ikke bare hendene, øynene og hjernene våre er utpreget hominide; det samme er også begjæret vårt, kjærligheten, raseriet og evne og behovet for sosial tilknytning. Innen 200 år vil kombinasjonen av KI og bioteknologi kunne skape fysiske og mentale trekk som løsriver seg fullstendig fra den hominide støpeskjeen. For eksempel vil nye grensesnitt mellom hjernen og datamaskiner kunne resultere i fritt distribuerte kropper – vesener hvis organer befinner seg fjernt fra hverandre. Noen tror bevissthet vil bli atskilt fra enhver organisk struktur, surfende i cyberspace, uavhengig av tradisjonelle biologiske og fysiske begrensninger.

Samtidig vil vi kunne oppleve at intelligens og bevissthet skiller lag. Intelligens er evnen til å løse problemer. Bevissthet er evnen til å føle noe – smerte, glede, kjærlighet, sinne. Pattedyr forener disse to evnene. Pattedyr løser problemer ved å føle dem. Men datamaskiner er helt annerledes. Til nå har utviklingen av intelligensen til datamaskiner vært utrolig, men en parallell utvikling av deres bevissthet har ikke funnet sted. Det kan tenkes flere veier som leder til superintelligens, og bare noen av disse involverer utvikling av bevissthet. Akkurat slik fly beveger seg mye raskere enn fugler uten at de noen gang har utviklet fjær, kan computere komme til å løse problemer mye raskere enn mennesker uten noen gang å utvikle følelser. Slik kan vi ende opp med en verden dominert av superintelligente, men fullstendig ikke-bevisste enheter.

I en enda større sammenheng kan KI og bioteknologi komme til å forandre de mest grunnleggende spillereglene i livet. Så lenge jorden har eksistert, har disse spillereglene fundamentalt sett ikke forandret seg. I fire milliarder år, enten du var en amøbe, en dinosaur, en tomat eller et homo sapiens, har du vært underlagt lovene som gjelder for organisk biokjemi og naturlig seleksjon. I det 21. århundret kan naturlig utvalg bli erstattet av intelligent design. Kanskje vil vi produsere kyborger og fullstendig ikke-organiske livsformer. I så fall står vi på terskelen til en helt ny æra.

2.

CK: Mange av de fremste globale utfordringene vi står overfor, vil åpenbart kreve globalt samarbeid. Men globalt ansvar er ikke akkurat hovedprioriteten til lederne for noen av verdens mektigste nasjoner, som Trump og Putin. Generelt ser vi en nynasjonalistisk vending i mange tidligere liberale demokratier, politiske ledere har ikke nødvendigvis en visjon som strekker seg lenger i tid enn til neste valg, og institusjoner som FN og EU, er for svake til å utøve et reelt globalt lederskap. Hvordan kan et fungerende globalt fellesskap bygges og en global fellesforståelse utvikles når verden er så delt og fragmentert, når vi først og fremst tenker på oss selv og hvordan vi skal nå våre umiddelbare mål og tilfredsstille våre umiddelbare behov? YNH: De siste tiårene har verden vært dominert av den liberale globale ordenen. Denne liberale ordenen understreker at alle mennesker har felles verdier og interesser, den hevder at samarbeid er bedre enn konflikt, og den fremmer samarbeid ved å tillate fri flyt av ideer, varer, penger og mennesker. Den liberale ordenen kan kritiseres for mye, men den har brakt verden mer fred, bedre helse og høyere velstand enn noen gang før. Hvis du tenker at menneskeheten hadde det bedre i en eller annen pre-liberal gullalder, vennligst oppgi når.Var det i 1918? 1718? 1218?

Ikke desto mindre er mange i ferd med å miste troen på den liberale ordenen. Regjeringer over hele verden har i økende grad begynt å stramme inn på innvandringen, innføre høyere tollsatser, sensurere utenlandske ideer og å omskape landene sine til festninger med høye murer rundt seg. Hvis dette fortsetter, vil den globale liberale ordenen kollapse. Hva kan erstatte den? Mens nasjonalismen har mange gode ideer når det gjelder hvordan man skal lede en nasjon, har den ingen levedyktig plan for hvordan verden som helhet skal ledes.

Noen nasjonalister håper at verden vil bli et nettverk av befestede, men vennlig innstilte festninger. Hver nasjonal festning vil beskytte sin unike identitet og sine interesser, men alle festningene kan likevel samarbeide og drive fredelig handel seg imellom. Innvandringen, multikulturalismen og de globale elitene vil forsvinne – og det vil også utsiktene til en global krig. Problemet med denne visjonen er at de som holder til i festninger med høye murer rundt, sjelden er vennlig innstilte. I fortiden har alle forsøk på å dele verden inn i tydelig avgrensede nasjoner resultert i krig og folkemord. Uten et sett universelle verdier og globale organisasjoner kan ikke rivaliserende nasjoner bli enige om felles spilleregler.

Andre nasjonalister har inntatt en enda mer ekstrem posisjon og hevder at vi ikke trenger globalt samarbeid i det hele tatt. At hver enkelt nasjon bare skal bry seg med sine egne interesser og ikke ha noen forpliktelser overfor resten av verden. At festningen skal heve vindebroen, trekke opp stigene etter seg, bevokte murene – og så kan resten av verden gå til helvete. En slik nihilistisk posisjon er irrasjonell. Ingen moderne økonomi kan overleve uten å være del av et globalt handelsnettverk. Enda viktigere, enten folk liker det eller ei, er at menneskeheten i dag står overfor tre felles utfordringer som viser det utilstrekkelige ved alle nasjonale grenser, og som bare kan bli løst gjennom globalt samarbeid: atomkrigfaren, klimaforandringen og teknologisk disrupsjon. Ingen nasjon kan forebygge atomkrig, hindre global oppvarming eller regulere kunstig intelligens på egen hånd.

For å håndtere disse tre problemene på en vellykket måte trenger vi mer, ikke mindre globalt samarbeid.Vi må skape en global identitet og oppfordre folk til å være lojale overfor menneskeheten og planeten jorden, og ikke bare den enkelte nasjonen de tilhører. Jeg tror ikke dette er umulig å få til. Tross alt er det å kjenne samhørighet med menneskeheten og planeten vi bebor, ikke vesensforskjellig fra å kjenne tilknytning til en nasjon som består av millioner av fremmede jeg aldri har møtt og en rekke landsdeler jeg aldri har besøkt. Ikke alle nordmenn kjenner alle de andre fem millionene nordmenn, og ikke alle nordmenn har besøkt Kristiansand, Kirkenes, Lillehammer og Svalbard.

Stikk i strid med det som er vanlig å anta, er det ingenting naturlig med nasjonalisme. Den er ikke rotfestet i menneskets biologi eller psykologi. Ja, mennesker er og blir sosiale dyr, med gruppelojalitet nedfelt i genene våre. Men i millioner av år levde homo sapiens og våre stamfedre i små, intime fellesskap som ikke besto av mer enn kanskje noen og tjue eller tretti mennesker. Derfor knytter vi mennesker lett lojalitetsbånd til små grupper der alle kjenner alle – som familien, stammen eller landsbyen. Men det er neppe naturlig for mennesker å være lojale mot millioner av komplett fremmede landsmenn.

En slik masselojalitet er noe som har dukket opp først de siste par tusen årene, og den ble utviklet for å takle omfattende problemer som små samfunn ikke kunne løse på egen hånd. Nå, når vi står overfor globale problemer som ikke engang store nasjoner kan løse på egen hånd, gir det mening å erstatte i hvert fall deler av våre lojalitetsbånd med en global identitet. Det betyr ikke at man skal etablere en global regjering eller oppheve alle kulturelle, religiøse og nasjonale forskjeller. Jeg kan være lojal mot én og flere identiteter på samme tid – familien min, landsbyen min, yrket mitt, hjemlandet mitt, og dessuten planeten min og hele menneskearten. Det er sant at noen ganger kan ulike identiteter kollidere, og da kan det være vanskelig å bestemme hva man skal gjøre. Men hvem har sagt at livet skal være enkelt? Livet er vanskelig. Sånn er det bare.

3.

CK: Du er opptatt av menneskets hang til å skape og tro på historier eller ideologier som forklarer verden (og som utelukker andre historier og ideologier). Da fascismen og senere kommunismen led nederlag i det forrige århundret, sto vi igjen med en miks av kapitalisme og liberalisme som den rådende ideologien i verden. Nå når den globale liberale ordenen er i ferd med å forvitre og noen av kapitalismens negative konsekvenser (som økte forskjeller mellom rike og fattige, og økt global oppvarming) er blitt umulig å ignorere, hva vil bli vår neste store historie? Er de store ideologienes tid og troen på det absolutte over, eller tror du vi vil få se helt nye ideologier? Og mener du vi aktivt bør forsøke å skape nye historier som kan forene menneskeheten, eller klarer menneskeheten seg best uten slike historier?

YNH: Menneskelige samfunn kan ikke fungere uten historier, for det er disse historiene som gjør at samfunnene ikke faller fra hverandre. For eksempel er limet i mitt hjemland Israel troen på den israelske nasjonen. Limet i verdensøkonomien er troen på penger, for eksempel dollar, og på selskaper som for eksempel Google. Likevel må det være helt klart at dette bare er fiksjoner som menneskene har pønsket ut. Det eneste stedet der nasjoner, penger og selskaper finnes, er i fantasien vår.

Alt er selvsagt ikke fiksjon. Noen ting er virkelige. Hvis du vil finne ut om noe er virkelig eller fiktivt, er en av de beste testene du kan gjøre å spørre «kan det lide?». Når Google taper penger, lider ikke Google. Google har ingen sjel, ingen følelser, ingen emosjoner. Når dollaren synker i verdi, lider ikke dollaren. Når Israel lider et militært nederlag, lider Israel i grunnen ikke. En slik talemåte er jo bare en metafor. Israel har ingen sjel, og kan verken kjenne smerte, frykt eller tristhet. Når derimot en soldat såres i kamp, lider han. Når en børsmegler taper alle pengene sine på børsen, lider hun. Når en ku blir slaktet, lider den. Mennesker og dyr er virkelige.

Vår tro på fiksjoner kan forårsake lidelse. For eksempel kan tro på religiøse eller nasjonale myter føre til at det bryter ut krig, der millioner mennesker mister sine hjem, sine lemmer, til og med sine liv. Årsakene til krig har med fiksjon å gjøre, men lidelsen er 100 prosent reell. Og det er akkurat derfor vi bør anstrenge oss for å skille virkelighet fra fiksjon.

Fiksjoner i seg selv trenger ikke være noe dårlig. De er livsnødvendige. Uten oppdiktede historier som penger, nasjoner og selskaper, ville ingen komplekse menneskelige samfunn fungere. Men disse historiene er jo bare redskaper. De burde ikke bli målene og målestokkene våre. Når vi glemmer at de er ren diktning, mister vi grepet om virkeligheten. Da starter vi hele kriger, «for å tjene masse penger for selskapet vårt» eller «for å ivareta interessene til staten og nasjonen». Dette er galskap. Vi har funnet opp selskaper, penger, stater og nasjoner for at de skal tjene oss – hvorfor skal vi da ofre våre liv i deres tjeneste?

Som alle andre redskaper må historier utvikle seg og tilpasse seg en skiftende virkelighet. Den liberale historien har tjent menneskeheten vel i nyere tid, men for å fortsette å være relevant i framtiden må den tilpasse seg en ny verden der KI og bioteknologi vil dominere. Men nå står vi overfor et vanskelig dilemma når det gjelder den liberale historien. For å overleve og blomstre i det 21. århundret, er vi mennesker nødt til å utvikle oss videre fra den liberale historien. Samtidig er denne historien fortsatt fundamental for hvordan verden fungerer, og for øyeblikket er den under angrep av religiøse og nasjonalistiske fanatikere. Disse fanatikerne tror på nostalgiske fantasier som er langt farligere og mer skadelig enn den liberale historien. For meg har dette medført at jeg nå bruker mye av energien min på å forsvare den liberale historien mot de nostalgiske fanatikerne i stedet for å være med på å utvikle en ny og bedre historie. Dette er en av den nåværende nostalgiske bølgens fremste omkostninger – den tvinger oss til å kjempe om igjen de gamle kampene fra det 19. og 20. århundret, i stedet for å fokusere på de langt viktigere utfordringene i det 21. århundret.

4.

CK: Omtrent halvveis i boken din foretar du en vending, du blir mer filosofisk, til og med personlig. Fra å diskutere KI, arbeidets framtid, politikk, nasjonalisme, med mere, har du kapitler med titler som «Ydmykhet», «Meningen med livet», og så videre. Du forkaster alle ideologier og religioner, eller i det minste deres krav på (den ene) sannheten, og du konkluderer med å anbefale meditasjon som én måte å finne seg selv på, bokstavelig talt. Kan meditasjon redde oss fra roboter, ny teknologi og framtidige, globale konflikter og kriger? Mer generelt, hvordan kan vi best mulig forberede oss selv og barna våre på det ukjente? YNH: Ingen vet hvordan verden og arbeidsmarkedet vil se ut i 2050, derfor er det ingen som egentlig vet hvilke ferdigheter unge bør lære seg i dag. Det er sannsynlig at en stor del av det barn lærer på skolen akkurat nå, vil bli irrelevant når de er førti. Derfor er mitt beste råd å øve opp den mentale motstandsdyktigheten og den emosjonelle intelligensen.Tradisjonelt har livet vært delt inn i to hovedfaser: en læringsperiode etterfulgt av en arbeidsperiode. I den første danner du deg en stabil identitet og tilegner deg profesjonelle og personlige ferdigheter; i den andre stoler du på denne identiteten og disse ferdighetene for å kunne navigere i verden, tjene til livets opphold og bidra til samfunnet. Innen 2050 vil denne tradisjonelle modellen være foreldet, og vi mennesker vil bare klare å henge med på utviklingen om vi videreutdanner oss gjennom hele livet og gjenoppfinner oss selv uten stans.

Dette vil føre til psykologiske problemer i hopetall. Forandring er alltid stressende, og å gjenoppfinne seg selv som førtiåring, kan rett og slett bli for mye for mange mennesker. Og selv om du skulle klare det – vil du også få det til når du er 50? Og når du er 60? De fleste av dagens utdanningssystemer forbereder ikke folk på et slikt flytende og stressende liv. Så det aller viktigste vi kan lære barna våre, er hvordan de skal utvikle en personlighet og identitet som gjør dem i stand til å komme framtidige forandringer i møte, i stedet for å motsette seg dem. I fortiden var menneskenes identiteter som gamle hus av stein – med solide grunnmurer og tykke vegger. Nå må vi utvikle identiteter som er som telt – mobile og lette å sette opp.

I tillegg må vi gjøre alt vi kan for å bli bedre kjent med oss selv. Ja, vismenn og helgener har gitt det samme rådet i tusener av år – «kjenn deg selv». Men på Sokrates’, Buddhas og Konfutses tid hadde mennesket ingen reell konkurranse når det gjaldt dette spørsmålet. Om du neglisjerte å kjenne deg selv, forble du likevel helt ukjent for resten av menneskeheten. Men i dag finnes det konkurranse. Mens du leser dette, prøver Amazon, Facebook, russisk FSB og Kinas kommunistparti å hacke deg. Hvis de klarer å kjenne deg bedre enn du kjenner deg selv, vil de kunne selge deg alt de vil – om det så er et produkt eller en politiker.

I dag snakkes det mye om hacking av datamaskiner, telefoner og bankkontoer, men vi er faktisk på vei inn i en tidsalder der det vil bli mulig å hacke mennesker. I fortiden hadde ingen nok biologisk kunnskap eller computerkraft til å hacke folk. Selv om KGB skygget deg hele dagen, ville de aldri få vite hva du følte og tenkte. I framtiden, ved å kombinere økt biologisk kunnskap med avansert kunstig intelligens, kan eksterne systemer kjenne deg bedre enn du kjenner deg selv. Slik kan disse systemene kontrollere og manipulere folk på måter verden aldri har sett maken til.

Det vi allerede har vært vitne til, er hvordan hackere og nettroll utnytter svakhetene våre for å spre fake news og splitte samfunn innenfra.Troll klarer ikke å skape frykt og hat ut av ingenting. Men når de oppdager hva folk allerede frykter og hater, da er det lett å trykke på de rette emosjonelle knappene og framprovosere enda mer raseri. Så om du er redd for innvandrere, vil trollene servere deg en fake news-historie om innvandrere som voldtar kvinner i landet der du bor, og siden du er forhåndsinnstilt til å tro på slike historier, vil du ikke engang bry deg med å sjekke om den er sann eller ikke. Om du mener at alle folk som protesterer mot innvandring er fascistiske idioter, vil trollene servere deg en fake news-historie om rasister som banker opp innvandrere, og du vil tro på den. Trollene er ikke nødvendigvis så opptatt av innvandring i seg selv. De spiller på innvandring for å skape splid i samfunnet og ødelegge det demokratiske systemet fra innsiden.

For å redde det demokratiske systemet må vi kjenne svakhetene våre, redselen og hatet vårt, og ikke tillate det å bli et våpen i hendene på trollene. Det er mange måter å bli bedre kjent med seg selv på. Personlig praktiserer jeg en form for meditasjon som kalles Vipassana, men det er hundrevis av meditasjonsteknikker der ute, og mange andre veier frem mot å utforske sannheten om deg selv – via terapi, kunst eller til og med sport. Ulike metoder funker for ulike mennesker. Uansett hva som funker for deg, så er det viktigste å komme i gang kjapt. Hvis vi er trege, vil algoritmene bli kjent med oss raskere enn vi forstår oss selv – og da kan de kontrollere oss som om vi var dukker.

5.

CK: «Ikke få panikk!» skriver du flere ganger, men jeg må innrømme at boken din gjorde meg litt urolig. Digitale diktaturer, biometriske armbånd som kan misbrukes for å samle inn informasjon om oss, og algoritmer som tenker for oss, er ikke akkurat det jeg assosierer med en lys og lystig framtid. Er du optimist eller pessimist med hensyn til hva som venter oss i det 21. århundret? YNH: Teknologien er aldri deterministisk.Vi kan bruke de samme teknologiske gjennombruddene for å skape vidt forskjellige samfunn og situasjoner. I det 20. århundret brukte for eksempel menneskene den industrielle revolusjonens teknologi – tog, elektrisitet, radioer, telefoner – til å skape kommunistiske diktaturer, fascistregimer og liberale demokratier.Tilsvarende vil bioteknologiens og den kunstige intelligensens gjennombrudd for alvor transformere verden i det 21. århundret, men det innebærer ikke at utfallet er gitt.Vi kan bruke denne teknologien til å lage helt ulike typer samfunn.

La meg gi et eksempel, nemlig hva bioteknologi kan bety for hvordan vi behandler husdyr. På den ene siden kan vi bruke bioteknologi til å designe kuer, griser og kyllinger som vokser raskere og produserer mer kjøtt, uten å ofre all lidelsen vi påfører disse dyrene en eneste tanke. På den andre siden kan vi bruke bioteknologi til å skape det som er kjent som «rent kjøtt»

– kjøtt som er dyrket frem i laboratorier ved hjelp av celler fra dyr, uten at man trenger å avle frem og slakte hele buskaper. Det betyr at hvis du vil ha en biff, kan du bare dyrke en biff i stedet for å måtte slakte en hel ku. Dette er ikke science fiction. Den første kunstig dyrkede hamburgeren ble produsert i 2013 og kostet 330 000 dollar, men i dag koster det bare 11 dollar å produsere en slik hamburger, og om et par år vil den trolig koste mindre enn en vanlig hamburger. Innen et tiår eller to vil forskning kombinert med gode investeringer bane vei for industriell masseproduksjon av rent kjøtt som er billigere, mer økologisk og mer etisk å kjøpe og spise enn kjøtt fra dyreavl.

Vi kan bruke KI og bioteknologi til å skape himmel eller helvete. Velger vi riktig, kan de positive konsekvensene bli ubegrensede.Velger vi feil, kan utryddelsen av selve menneskeheten bli resultatet. Det er opp til oss å ta de kloke valgene. Hvordan vi skal bruke den nye teknologien, er det aller viktigste spørsmålet i vår tid.