Agnete Haaland: Det brenner for ord skapt av levende mennesker

Denne teksten ble opprinnelig publisert i Samtiden 3-2023. ­

Agnete Haaland er skuespiller og regissør. Hun har tidligere vært teatersjef ved Den Nationale Scene og leder for Norsk Skuespillerforbund.

Foto

Heiko Junge

Ytringsfriheten og journalistikkens framtid er truet både på et indre og et ytre plan. Den ene siden er velkjent. Journalister, modige stemmer og frie ytrere trakasseres, fengsles og drepes i en rekke land. En annen gryende trussel mot ytringsfriheten er det industrielle miljøet som nå utvikler kunstig intelligens og maskinlæring som mer og mer vil kunne erstatte både journalister og skrivende mennesker. Vi står dermed i fare for å reduseres til ukritiske mottagere av informasjon som ikke er fortolket av en etisk skolert og menneskelig hjerne. Vi må derfor ruste oss til kamp for menneskeskapte og etisk bevisste bruk av ord. NÅ!

Hva er ChatGPT?

Vi vet alle hva et ord er. Det er det vi bruker til å kommunisere med verbalt og skriftlig. Det er en sammenstilling av språklyder. De kan stå selvstendig, og de har betydning. Men for ChatGPT er det kun innmatede og innhentede mønstre.

ChatGPT er en chatbot, en kunstig intelligens-robot. Den er utviklet av et amerikansk laboratorium for digital forskning som heter OpenAI, og er en stor og integrert del av det kommersielle forskningsarbeidet som skjer i Silicon Valley. Verdens rikeste mann, forretningsmannen Elon Musk, er en av dem som sto bak. Prototypen ble lansert i november 2022, men ChatGPT ble ikke lansert før i vinter. Den siste varianten av språkmodellen er en GPT-4, og den ble lansert 14. mars 2023. Det er bare å slå fast at forskningen på kunstig intelligens (KI) utvikles i et rasende tempo, og at det investeres milliarder av dollar i KI-industrien. Den raske utviklingen av chatboter resulterte i et stort og overraskende varsko-rop bare åtte dager etter at GPT-4 var lansert.

22. mars i år publiserte en rekke aktører og vitenskapelige forskere et åpent brev hvor de ber om at videre utvikling av kunstig intelligens settes på pause frem til etiske retningslinjer kan bli laget.

22. mars i år publiserte en rekke aktører og vitenskapelige forskere et åpent brev hvor de ber om at all videre utvikling av kunstig intelligens settes på pause i seks måneder slik at etiske retningslinjer kan bli laget. Underskriverne slår fast at kunstig intelligens representerer en grunnleggende endring i menneskenes historie. De påpeker at det derfor er tvingende nødvendig å sørge for internasjonale reguleringer som setter rammene for den videre KI-utviklingen. De understreker at dette må gjøres før KI-miljøene utvikler egenskaper som ikke engang de som har utviklet dem, kan forstå, forutse eller kontrollere. Man kan miste nattesøvnen av mindre enn å lure på om KI-miljøene i det hele tatt har utviklet noen forholdsregler.

Mange lurte på om det var fleip eller fakta da en uvanlig jobbannonse ble delt på Twitter i vinter: Et miljø i San Francisco søkte etter en kandidat til en «Killswitch engineer», altså et menneske som kunne følge med på serverne døgnet rundt og dra ut kontakten om chatbotene vendte seg mot oss. Jeg vet ikke, men jeg håper at kontrollinstansene er bedre enn et menneske som vokter over strømtilførselen!

Denne annonsen illustrerer at etikken rundt KI-forskningen ikke må overlates til forskningsmiljøene selv. Det er også kravet i det åpne brevet hvor tunge aktører og forskere ber laboratoriene ta en pause. KI-utviklerne er ikke folkevalgte. De er foreløpig ikke bundet av etikk eller retningslinjer. Likevel bedriver de forskning som kan få enorme konsekvenser for hele verden − både politisk, sosialt og økonomisk. «Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable», skriver appellantene i sitt åpne brev til verden. Det er verdt å merke seg at selv ledere for verdens store teknologigiganter signerte det brevet.

Når verdens skarpeste hjerner og homo sapiens’ største eksperter på KI roper stopp, er det grunn til å sette alle bremser på.

«Sett de gigantiske KI-eksperimentene på pause», er signert av både av OpenAI-grunnlegger Elon Musk (SpaceX, Tesla og Twitter), Steve Wozniak (en av grunnleggerne av Apple) og prisvinnende forskere som Yoshua Bengio (professor og vinner av Turing-prisen), Stuart Russell (professor på Berkeley) og Yuval Noah Harari (professor på det hebraiske universitetet i Jerusalem). Deres intense oppfordring er at alle KI-laboratorier i hele verden skal sette alt arbeid på pause som involverer utvikling av KI-systemer som er sterkere enn GPT-4. Når verdens skarpeste hjerner og homo sapiens’ største eksperter på KI roper stopp, er det grunn til å sette alle bremser på. Til og med en av klodens ledende teknologiforskere, Geoffrey Hinton, har sluttet i Google for å kunne stå fritt til å advare mot egen oppfinnelse. Hinton og hans studenter la hele grunnlaget for KI og ChatGPT. Aftenposten skriver 3. mai i år at Hinton selv er blitt skremt av alt kraftfulle roboter kan bli i stand til å utføre. Han ber forskerne samarbeide for å finne ut om det er mulig å kontrollere dem.

Samtidig er det en stor utfordring at Kina står klar til å intensivere sin egen KI-forskning. Det er lite betryggende om kun vestlige forskere stopper opp. President Xi Jinping er tydelig på at teknologisk innovasjon er en av Kinas store satsingsområder. Jeg nekter å tro at president Xi er interessert i å signere på et «pausebrev». Og hvor står vi i så fall da?

Hvorfor er dette så viktig?

Foto

iStock

ChatGPT har allerede erstattet journalister i en rekke sammenhenger. Chatbotene kan gjøre research for oss alle, skrive essay til Samtiden over et gitt tema eller ta eksamen på universitetet på vegne av en student. Professor Jan Tore Lønning ved Institutt for informatikk ved Universitetet i Oslo testet eksamensoppgaver på ChatGPT. Han ble overrasket over hvor god og velskrevet besvarelsen ble. Instituttleder Espen Langbråten Wilberg ved Høgskolen i Østfold gikk systematisk til verks og leverte inn en eksamensbesvarelse skrevet av ChatGPT. ChatGPT-en fikk A på oppgaven. Wilberg gikk riktignok inn og rettet noen umiddelbare feil før han leverte inn besvarelsen, så han utsatte ChatGPT-en for den kildekritikken roboten ennå ikke hadde utviklet gjennom maskinlæring.

Men Ibsens ord reddet hans mentale helse. Det hadde ikke GPT-4s maskingenererte manus klart!

Maskinlæring gir mange feil som vi kan le av i startfasen. Det innebærer at datamaskiner «lærer» – i stedet for å bli programmert. Det gjør de gjennom å bruke statistiske metoder for å finne mønstre i store datamengder. Selv ba jeg GPT-4 fortelle meg hvem jeg er. Jeg fikk svar om at jeg blant annet hadde vært regissør ved Trøndelag Teater og spilt i forestillinger jeg aldri har hørt om, og som ikke engang er skrevet. Vittig? Joda, helt fornøyelig, og lett å avkrefte av meg selv eller en som kjenner til min CV.

På sikt vil imidlertid chatbotene få tilgang til enda mer informasjon. De vil bli mer treffsikre jo mer de utvikles og jo sterkere de blir, og færre feil vil kunne oppstå. Da vil de i enda større grad kunne erstatte journalister og skrivende mennesker billig og effektivt. Men tekstene vil også være uten sjel, reelle følelser, personlighet (i vår nåværende forståelse av ordet) og menneskelig særpreg. En grunnleggende premiss i vurderingen av journalistikk og alt skrevet materiale er jo at vi vet hvem som har skrevet det, og hva slags verdier og holdninger vedkommende står for.

Høyskolelektorene Ine Bratsvedal og Marie Glasø Glein underviser ved Dronning Mauds Minne Høgskole for barnehagelærerutdanning. Da de ba om veiledning fra en ChatGPT om hvordan man bør markere muslimske høytider i barnehagen, fikk de til svar at barna burde lage tegninger og illustrasjoner av profeten Muhammed. Joda, det er lov ifølge norsk lov. Men ørlite kulturell og religiøs kunnskap tilsier at det ikke akkurat er en intelligent måte å feire en muslimsk høytid på.

Chatbotene vil også endre vår måte å tilegne oss kunnskap på. Universitets- og skolesektoren vurderer å gjeninnføre skoleeksamen for å sikre at besvarelsene skrives av et levende og reflekterende menneske og ikke en digital KI. Det handler om vår egen evne til kritisk tenkning og etikk, og dermed handler det også om hva slags mennesker vi vil forme for fremtiden. Menneskeheten står foran en utvikling vi ikke aner konsekvensene av.

Kampen for ordet – det autentiske ordet formidlet av levende, bevisste og navngitte mennesker – spisser seg til verden over.

For å beholde kontroll over utviklingen, må vi presse fram etiske og internasjonale retningslinjer i rekordfart. Milliardindustrien som truer både journalistikkens og ytringsfrihetens framtid, jobber fortere enn vi rekker å tenke. Det må sterk lut til. Da holder det ikke med et åpent brev og oppfordringer til KI-utviklerne. Det som trengs, er statlig og internasjonal regulering og tydelige sanksjoner. Norges strategi for kunstig intelligens er fra 2020, og den er allerede utdatert. Den ferske boken Maskiner som tenker er skrevet av førsteamanuensis Inga Strümke ved Institutt for datateknologi og informatikk ved NTNU. I et intervju med Aftenposten uttrykker KI-forskeren sin bekymring for manglende politisk interesse for å styre utviklingen. Det skal imidlertid sterk politisk handlekraft til for å sikre at vi styres av tenkende mennesker og ikke av KI og dyp maskinlæring. I et NRK-intervju slår forfatteren Jan Kjærstad fast at kunstig intelligens kan brukes til å skrive formelromaner, fordi ChatGPT nettopp er opplært i formler. Men den vil aldri få til en menneskelig stemme.

Hva søker vi i litteraturen?

Jeg skrev nylig en artikkel på Samtiden.no om hvordan modige regimekritikere knebles. Samtidig som dette skjer, innsnevres det frie ord blant forfattere. Kunstig intelligens overtar research og skriving, og forlag ansetter lesere som skal vaske litteraturen for ord som kan virke krenkende. At det i det hele tatt finnes noe som heter sensitivitetslesere, er nok til å kunne påvirke forfattere til å søke å unngå å støte eller krenke leserne. I løpet av vinteren har mange skrivende mennesker måttet finne seg i at gamle ord utløser feil assosiasjoner i ny kontekst – og mange har akseptert rettelsene fra forlagenes sensitivitetslesere. Det høres kanskje ikke så inngripende ut. Det står tross alt ikke om liv. Men det dreier seg om retten til fri ytring. Det handler om makten i ordene. Kampen for ordet – det autentiske ordet formidlet av levende, bevisste og navngitte mennesker – spisser seg til verden over.

Kunnskap og holdninger formuleres gjennom ord og manifesteres gjennom menneskelige handlinger.

Sensitivitetslesere gir godt jordsmonn for selvsensur. For hva er det vi søker i en god bok? Er det ikke akkurat den menneskelige stemmen? Den subjektive fortolkningen? En av grunnene til at NRK fortsatt har korrespondenter bosatt i andre land, er jo for at situasjonen ute i veden skal formidles med norske og verifiserbare øyne. Både gjennom nyheter og romaner trenger vi skildringer av mennesker og verden sett gjennom en navngitt forfatters blikk, linse og erfaring.

Henrik Ibsen som livreddende nødhjelp

Selv ble jeg for alvor opptatt av kraften som bor i det skrevne ord da jeg spilte Nora i en kinesisk oppsetning av Et dukkehjem på China National Theatre Company i 1998, 2002 og 2006. Teaterprodusent Liu Tiegang var produsent, og instruktør Wu Xiaojiang hadde begge et helt spesielt forhold til Henrik Ibsen. Jeg møtte dem første gang i Oslo i 1996. Da gjestet de Ibsenfestivalen på Nationaltheatret med sin oppsetning av En folkefiende. Mr. Liu var produsent, og Mr. Wu hadde regi.

Som barn hadde Liu Tiegang hørt om Henrik Ibsen fordi hans søster hadde sett en kinesisk oppsetning av Et dukkehjem. Selv hadde han aldri lest noe av ham. Men så kom Kulturrevolusjonen. Under Kulturrevolusjonen på 60- og 70-tallet ble over 100 millioner mennesker forfulgt og trakassert. Prosjektet ble igangsatt av lederen av Kinas kommunistiske parti, Mao Zedong, i april 1966. Målet var å kvitte seg med alt gammelt tankegods. Gamle tradisjoner, institusjoner og gammel kultur skulle utraderes for å skape et nytt og kommunistisk samfunn. Det antas at over syv millioner mennesker ble drept. Kampanjen ble avsluttet i 1976. Da ble den såkalte Firerbanden, altså noen av Kinas fremste politiske ledere, arrestert. Enken etter formann Mao, Jiang Ching, var en av dem.

Maos trofaste soldater, de unge rødegardistene, angrep alle som kunne anses å stå for andre skikker eller tenkemåter enn partiet. Du ble ansett som fiende med behov for omskolering om du hadde høyhælte sko gjemt unna i skapet, eller kunne vestlige språk som engelsk eller fransk. Blant de mange millionene som ble tvangssendt fra Beijing og ut på landsbygden, var Liu Tiegang og hans familie. De ble tvangsflyttet til en stor grisegård og måtte klare seg i flere år under ekstremt enkle forhold. Liu Tiegang hadde en klassekamerat som var tvangssendt til en nabogård. Vennen visste om et bibliotek som ennå ikke var destruert. En gang de hadde fri, la guttene ut på en flere timer lang sykkeltur og møttes i det nedstøvede og nedstengte biblioteket. Hengelåsen dirket de lett opp.

I denne boksamlingen fant de mye av den litteraturen som var blitt forbudt under Kulturrevolusjonen. De fleste utenlandske forfattere ble betraktet som reaksjonære og skadelige, og de var derfor forbudt både å ha og lese. Unge Liu Tiegang plukket likevel ut to bøker av samlingen. Det var to skuespill av Henrik Ibsen: Et dukkehjem og En folkefiende. Han pakket dem inn i et papir, syklet tilbake til leiren og gjemte de to skuespillene i en blikkboks i et hull som han gravde i jordgulvet under sengen sin. I et intervju med Bergens Tidende 9. november 1997 sier han følgende: «Tre netter på rad leste jeg Ibsen hele natten. Da jeg leste En folkefiende, skjønte jeg at Ibsen overhodet ikke var reaksjonær, men at han sto på venstresiden.»

Vår måte å formidle oss på styres av vår egen etikk og vår personlige bevisste og ubevisste ballast. Det er denne kompetansen nåtidens digitale roboter mangler

Til meg fortalte han da vi møttes første gang under Ibsenfestivalen i Oslo, at han kunne takke Henrik Ibsen for at han hadde bevart vettet de årene han var forvist til grisegården under Kulturrevolusjonen. Første gang jeg besøkte ham hjemme i Beijing, viste han stolt fram begge bøkene. De sto vakkert plassert i et lite glasskap på hedersplassen i stuen. «Jeg føler at jeg har en mirakuløs forbindelse til Ibsen. At vi kan spille Ibsen i dag, at vi kan diskutere ham med utenlandske venner, viser at vårt land i alle fall har utviklet seg etter alle prøvelsene under Kulturrevolusjonen», sa han i det ovennevnte intervjuet i Bergens Tidende.

De to skuespillene som gjorde reisen fra jordgulvet i leiren til hans vakre glasskap i Beijing, Et dukkehjem og En folkefiende, skulle bli formende for hans voksne teaterliv. De ga ham en usedvanlig god grunn til å ønske å sette opp akkurat disse to Ibsen-stykkene. Han hadde risikert livet for dem da han i sin tid brøt seg inn i det stengte biblioteket. Dagene etter han og kameraten hadde vært der, ble alle bøkene sendt til resirkulering på en papirfabrikk. Men Ibsens ord reddet hans mentale helse. Det hadde ikke GPT-4s maskingenererte manus klart!

Styrk forsvarsverket!

Foto

iStock

Kunnskap og holdninger formuleres gjennom ord og manifesteres gjennom menneskelige handlinger. Spørsmålet er hvordan vi kan styrke vår egen menneskelighet. For meg handler kunst om dette. Ved å flytte perspektivet kan vi skape empati. Ved å lese bøker eller se film og teater om andres liv, oppleve dans og musikk som berører, og ved å fortolke billedkunst som får oss til å stille spørsmål ved hva og hvem vi er, trener vi opp vår egen menneskelighet. Kunst – på sitt beste – utvider vår kompetanse på hva det vil si å være til i verden. Det ordløse i kunsten omsettes til reaksjoner i oss. Den amerikanske filosofen Alison M. Jaggar (1942−) er inne på noe av dette når hun argumenterer for at følelser er en vesentlig kilde til kunnskap. Hun sidestiller fakta og emosjoner og ser på dem som uadskillelige i analyse av viten. Og gjennom vår viten formulerer vi vårt verdensbilde. Denne sammensatte og menneskelige kunnskapen vil aldri en chatbot kunne erverve seg – i hvert fall ikke om verden rekker å regulere utviklingen av digital intelligens før vi risikerer å miste kontrollen over den. Og det må vi!

Jeg vokste opp i en familie som var glødende opptatt av ord. Min far finslipte på politiske taler om alt fra kunst til veipolitikk. Han var styreleder i Bergen Kunstforening i 22 år, aktiv i Arbeiderpartiet og advokat. Min mor søkte seg til teatret for å formidle litteratur og innsikt i menneskeliv. Hun var skuespiller, instruktør og teatersjef. Hun var født i Kvinesdal, en bygd som ligger tre mil fra Flekkefjord. Det er ikke for ingenting at Kvinesdal er bygden som også har fostret vekkelsespredikanten Aril Edvardsen. Allerede i hennes barndom var det en bygd med mange bedehus. Min mor reiste imidlertid fra den religiøse bygden som 19-åring for å bli skuespiller i syndige Oslo.

President Xi Jinping er tydelig på at teknologisk innovasjon er en av Kinas store satsingsområder. Jeg nekter å tro at president Xi er interessert i å signere på et «pausebrev».

Da hun kom hjem på sin første juleferie, var det ingen som hilste på henne da hun gikk av bussen i Liknes sentrum. Men etter noen dager kom sognepresten gående mot henne. Han løftet på hatten og gratulerte henne høylytt med at hun var blitt elev på Det Norske Teatret. «Gratulerer, Anna. Mi e stolte a dæg. Du veid – mi forvalta jo båe ordet, både kyrkja og teatret.» Da først ble hun godtatt igjen i hjembygden.

Jeg tar med denne lille historien fordi den forteller noe om hva vi alle kan bidra med på et privat plan. Forvaltning er et godt ord. Det handler om hvordan vi velger å ordlegge oss, og hvordan vi oppfatter andres utsagn. Vår måte å formidle oss på styres av vår egen etikk og vår personlige bevisste og ubevisste ballast. Det er denne kompetansen nåtidens digitale roboter mangler.

Dette må vi gjøre

ChatGPT vil gjøre mange av oss arbeidsledige. De brukes ikke bare til tekstproduksjon. De kan også produsere musikk, skulptur, maleri og annen kunst. Men de kan aldri utvise mer etikk, overbevisning og kreativitet enn det de er blitt programmert med. Eller kan de det? Selv ikke forskerne vet hva en GPT-5, 6, 7, 8 eller 20 vil være i stand til. Det gjelder derfor å få den menneskeskapte reguleringen på plass før chatbotene overgår det selv verdens skarpeste KI-utviklere og -investorer som Elon Musk sier at de kan forutse. Selv om vi alle drilles i årvåken kildekritikk, risikerer vi at kunstig intelligens fordriver ord skapt av menneskers kunnskap, overbevisning og kreativitet.

Det er derfor på tide å intensivere kampen for det menneskeligskapte ordet – og for menneskene som ytrer dem. Det er imidlertid ikke bare et statlig ansvar. Som enkeltpersoner kan vi bidra med å ta ansvar for egne ytringer, engasjere oss i organisasjoner som jobber for ytringsfrihet – og ved å signere oppropet som krever at utvikling av KI settes på pause inntil det internasjonale samfunnet har regulert etikken rundt denne forskningen.

Du kan jo begynne med å signere oppropet fra Future of Life Institute. Det er navnet på den amerikanske tenketanken som står bak det åpne brevet hvor verdens ledende KI-eksperter oppfordrer sine egne miljøer til å ta en pause i utviklingen av kunstig intelligens. Men politikk må også til. Regjeringen må sette arbeidet med å bidra til globale retningslinjer for KI på høygir. Det brenner ikke bare for ord skapt av levende mennesker. Det brenner for vår evne til å styre vår fremtid i en retning vi ønsker.