Treklatring med blikket festet på månen | Hvorfor maskinene ikke erobrer verden

Skrevet av | 26. oktober 2023

«De har munn, men taler ikke. De har øyne, men ser ikke. De har ører, men hører ikke.»

– Salmene 115

Prolog
Å ta sete ved gudenes bord

Ifølge den jødiske folkloren skal sjefsrabbineren i Praha på 1500-tallet, Judah Loew, ha klart å reprodusere Guds skapelse av Adam. Ut av leire formet han et lys levende vesen, døpt Golem. Vesenet skulle yte europeiske jøder beskyttelse mot de antisemittiske pogromene, men, som disse historiene så ofte går, forvandlet ugjengjeldt kjærlighet Golem til et uhyre som vendte seg mot sin skaper. Etter mørkets frembrudd kom den vredefulle Golem til å myrde jøder i Praha-ghettoens trange, brostenkledde smug.

Mennesket som skaper bevisst liv i eget bilde er også en tilbakevendende historie i den litterære kanon. Den fremste klassikeren er antagelig Mary Shelleys Frankenstein (1818), om doktoren som frembringer en levende skapning fra livløs materie ved å galvanisere dødt vev. Shelleys alternative tittel var The Modern Prometheus, fra den greske myten om titanen Prometeus som stjal ilden fra gudene på Olympus og brakte den ned til menneskeheten.

I den nå glemte science fiction-novellen That Hideous Strenght: A Modern Fairy-Tale for Grown-Ups (1945) av C. S. Lewis, belærer oppfinneren av en kunstig superintelligens protagonisten: «Kan De ikke se, at vi tilbyr Dem den ubeskrivelige æren av å være til stede ved skapelsen av Gud den Allmektige? Her, i dette huset, skal De få møte den første sketsjen av den virkelige Gud. Det er et menneske – eller en skapning laget av mennesket – som til slutt vil bestige universets trone. Og regjere for alltid.»

Eller ta i betraktning skrekkscenarioet i Life 3.0 (2017) av den svensk-amerikanske futuristen Max Teigmark. Teigmark tar utgangspunkt i en kunstig intelligens som produserer et stort antall populære spillefilmer. (Ikke uhørt i en tid der manusforfattere allerede går ut i streik mot det økende innslaget av KI i bransjen.) Etter å ha tjent en formue på filmmarkedet, tar maskinen gradvis kontroll over den internasjonale pressen, som tillater den å svinge valg til egen fordel og undergrave demokratiet slik vi kjenner det. Takket være sin overlegne prosesseringshastighet, er den til slutt verdens suverene supermakt – og i posisjon til å forme menneskehetens kollektive sinn lik en plastelinaklump.

Så har vi naturligvis den ikoniske supercomputeren HAL-9000 fra kultfilmen 2001: En romodyssé (1968), basert på Arthur C. Clarkes novelle med samme navn. Filmens første akt følger våre primitive forfedre på den afrikanske savannen, som for første gang i sin evolusjonære historie lærer å håndtere redskaper. Det ved å anvende ribbenet til et kadaver som et slagvåpen mot en rivaliserende stamme. I en dybdetekst om filmen betegner undertegnede den intellektuelt overlegne HAL-9000 som «et slags forlenget ribben» og «kanskje den naturlige endestasjonen i utviklingsstadiet til en art som har lært å omdanne eget miljø til redskaper. Det er et redskap som overgår arkitektene, og derigjennom truer med deres utryddelse.»

Det var denne eksakte frykten som beveget science fiction-forfatteren Isaac Asimov til å formulere sine berømte robotlover i bokserien I, Robot. Disse dekreterer at roboter aldri må skade og alltid adlyde mennesker – i praksis at de må forbli våre slaver. Et slikt syn samsvarer muligens godt med etymologien til termen «robot», som tross alt er avledet fra det tsjekkiske ordet for arbeid, robota. Samtidig bør det gi grobunn for visse etiske kvaler, skulle man virkelig oppnå maskinell bevissthet.

Denne teksten er en av Sivilisasjonens Langlesning-artikler, som går i dybden på utvalgte temaer og filosofiske spørsmål. Les andre Langlesning-artikler her.

Øvrige eksempler fra populærkulturen inkluderer blant annet den tyske filmklassikeren Metropolis (1927), boken Haikerens guide til galaksen (1981)av Douglas Adams,filmfranchiser som Terminator, Matrix og Star Wars, i tillegg til filmene Blade Runner (1982), Ex Machina (2014) og The Creator (2023), populære TV-serier som Star Trek og Westworld, og den særdeles tidlige fremstillingen av en datamaskin ved «The Engine» i Jonathan Swifts satiriske roman Gullivers reiser (1726). Ikke bare har kunstig intelligens blitt et like fast inventar i science fiction-sjangeren som romvesener, men er også ved å bli en velbrukt trope innen actionthrilleren – som sett med KI-superskurken i Mission Impossible – Dead Reckoning (2023).

– Besynderlig ofte favoriseres den mest sensasjonalistiske teorien, ikke den med mest rot i virkeligheten. Ingen steder synes dette å være mer aktuelt enn på KI-feltet. Illustrasjon: Utsnitt fra filmen The Creator (2023).

Dem som roper varsko om at maskinene er ved å trellbinde eller utrydde menneskeheten, har med andre ord et gedigent fortrinn i at de har den mest attraktive historien å fortelle. Helten som røsker ut stikkontakten på datamaskinen og slår den i stykker med en hammer mens den står urørlig på skrivebordet, ville nødig være et lovende premiss for en TV-serie. Fortellingen om datamaskinen som har mer til felles med vaskemaskinen enn Frankenstein-monsteret, kommer hverken til å lande deg en gullkantet avtale med Netflix, Hollywood eller bokbransjen.

Medietilbudet formes av en etterspørsel i form av klikk, engasjement og seertall. Selv om du jobber innen forskning, vil du raskt oppdage at prestisjen din avhenger av å bli sitert flest ganger – et mål ikke nødvendigvis forenelig med å være mest mulig etterrettelig i ditt arbeid. Besynderlig ofte favoriseres dermed den mest sensasjonalistiske teorien, ikke den med mest rot i virkeligheten. Ingen steder synes dette å være mer aktuelt enn på KI-feltet.

Før vi går videre, må leseren gjøres oppmerksom på den kritiske distinksjonen mellom kunstig intelligens (også kjent som «svak KI») og kunstig generell intelligens («sterk KI»). Mens førstnevnte i dagligtalen omfatter den type ad hoc-maskinlæring vi alt er kjent med i dag, er sistnevnte knyttet til en hypotetisk intelligent, bevisst, selvbevisst agent som kan lære å utføre alle intellektuelle oppgaver behersket av et menneske. Det er altså hindrene for å oppnå sterk KI som vil være tema for denne artikkelen. 

Første hinder
Hjernen er for kompleks til å designe ovenfra-og-ned

Illustrasjon: «Adams skapelse» (1512) av Michelangelo. Det var i 1990 at doktor Frank Meshberger påpekte den påfallende likheten mellom innpakningen av Gud i freskomaleriet og den menneskelige hjernen.

Den britiske matematikeren Alan Turing vil trolig være mest kjent for allmennheten for sin rolle med å knekke den tyske Enigma-koden under annen verdenskrig. Bidraget ble nemlig dramatisert i den meget suksessrike spillefilmen The Imitation Game (2014), der Turing ble forært en rimelig autistisk tolkning av hovedrolleinnehaver Benedict Cumberbatch. Behandlingen Turing fikk etter krigen omtales ofte også som et skammens kapittel for hans hjemland: Etter å ha bli tiltalt for «grov uanstendighet» og dømt til kjemisk kastrering for sin homoamorøse livsstil, døde det sarte geniet for egen hånd i 1954.

På tredvetallet la Turing grunnlaget for den moderne datamaskinen. Det gjorde han ved å utvikle den banebrytende idéen om en teoretisk maskin som kunne gjøre alle slags beregninger ved hjelp av steg for steg-instruksjoner, såkalte algoritmer. Den hypotetiske «universelle Turing-maskinen» bestod av to sentrale komponenter: Maskinen (hardwaren) og algoritmene man kunne kjøre på den (softwaren). Mye likt en brusmaskin, som utfører ulike trinnvise mekanismer avhengig av om du trykker på knappen for Pepsi eller Cola.

Turings samtidige John von Neumann (ungarsk-amerikansk matematiker) var så overbevist om fruktbarheten av idéen, at han strakk ut nakken med den selvsikre uttalelsen: «Hvis du foreslår noe en maskin ikke kan gjøre, kan jeg bygge en maskin som gjør nettopp det!» Neumann bygget dessuten videre på Turings oppfinnelse med skisseringen av instruksjoner begravet i minnet av maskinen (dvs. en lagringsfunksjon).

Sterkt influert av den tyske filosofen Gottfried W. Leibniz (1646-1716) foreslo Turing en binær kode av nuller og enere som egnet symbolspråk. En serie av 8 nuller og enere («bits») kan tross alt gi 256 unike kombinasjoner, alle som representerer ulike tall, karakterer eller instruksjoner. I korte trekk utgjør sekvensen av nuller og enere som mates inn i maskinen dens «input», mens sekvensen som spyttes ut etter kjøringen av algoritmen er dens «output».

I 1948 skrev Turing en oppsiktsvekkende artikkel, titulert Intelligent Machines, hvor han argumenterte at hjernens prosesseringsenheter, nervecellene, var analogt til en maskin. Det i kraft av at også de tilsynelatende baserte seg på en mekanisme som omdanner input til output. Dermed var forestillingen om hjernen som en maskin for alvor avstedkommet.

– Hjernen vår har blitt til gjennom markedsøkonomiske prinsipper, ikke planøkonomiske. Slik det viste seg umulig for en sentralstyrt sovjetisk komité å holde styr på trillioner av markedstransaksjoner … ville det være enda mer uoverkommelig for en dataingeniør å holde tritt med den usynlige hånden til evolusjonen, skriver Olav Drange Moen. Illustrasjon: Alan Turing (1912 – 1954). Ukjent fotograf

Disse tankene var ikke nødvendigvis revolusjonære. Opplysningsfilosofene hadde århundrer tidligere betraktet verden som et gigantisk maskineri. Mer konkret tenkte de vitenskapelige deistene på Gud som en urmaker. Etter å ha skrudd opp den mekaniske klokken vi kjenner som kosmos, kunne Vår Herre tilfreds lene seg tilbake og se den tikke av gårde helt for egen maskin.

Helt siden den engelske legen William Harvey (1578-1657) beskrev blodomløpet, som lignet umiskjennelig på menneskelige akvedukter og avløpssystemer, hadde det i fritenkende kretser til og med blitt hvisket om hvorvidt mennesket selv kunne være en slags maskin. Disse spekulasjonene tiltok uunngåelig i styrke med publikasjonen av Artenes opprinnelse av Charles Darwin i 1849, som vekket menneskeheten (eller i det minste den opplyste part av den) opp til faktumet at den ikke stod over naturen, men selv var en forlengelse av den.  

Om hjernen vår virkelig er en maskin, har dette vidtrekkende implikasjoner. Det innebærer at både hjernen og dens funksjoner i prinsippet kan emuleres – overgås endog – ved å bygge en kraftfull nok maskin.

Da Turing formulerte sine tanker i denne retning i 1948, var imidlertid den banebrytende oppdagelsen av DNA-dobbeltheliksen av Watson, Crick og Franklin fremdeles seks år unna. Denne kom til å utløse et skred av ytterligere funn innen fysiologien, som etter mitt sinn burde ha begravet hypotesen om at hjernen er som en datamaskin for godt. (En hypotese som synes å ha til felles med intelligent design-hypotesen å være like intuitiv som den er gal.)

Tar man hjernen nærmere i betraktning, er kompleksiteten funnet i den nemlig langt hinsides vår mest ubeherskede forestillingsevne. Nervecellen kan i det hele tatt minne om en kolossal fabrikk, med praktisk talt hundretusener av deler som samhandler på forbløffende intrikat vis. Hver nervecelle rommer eksempelvis drøye 1300 enzymer, som produserer i nabolaget av 100.000 forskjellige kjemikalier. Det menneskelige genom – som mater enzymene med konkrete instrukser – er på sin side en tekst bestående av 3,2 milliarder nitrogenbasepar. Om du skulle ha skrevet ned denne koden, måtte du ha festet tredve ord til papiret hvert eneste minutt, åtte timer dagen, i et helt århundre!

DNA-koden utruster hjernen vår med egenskapen til å respondere på de mest særegne og sammensatte situasjoner. Det skyldes nettopp at den ikke er designet ovenfra-og-ned, lik en datamaskin. Den har heller vokst frem fra bunnen-og-opp gjennom en inkrementell evolusjonær prosess over 3,7 milliarder år. Som John Stuart Mill skarpsindig observerte om menneskenaturen, er den «ikke en maskin som bygges etter en modell og som gis en spesifikk oppgave, men et tre, som vokser og utvikler seg på alle sider, i overensstemmelse med tendensene på innsiden, som gjør den til en levende ting.»

Sagt annerledes har hjernen vår blitt til gjennom markedsøkonomiske prinsipper, ikke planøkonomiske. Slik det viste seg umulig for en sentralstyrt sovjetisk komité å holde styr på trillioner av markedstransaksjoner – alle fanget opp av hva Adam Smith myntet markedets «usynlige hånd» i tilbud/etterspørsel-mekanismen – ville det være enda mer uoverkommelig for en dataingeniør å holde tritt med den usynlige hånden til evolusjonen. Denne er som den stødige hånden til en begavet skulptør, som tålmodig, pedantisk, lidenskapelig har utformet genomet via trillioner av interaksjoner med dets miljø.

Vi har ikke engang beveget oss inn på temaet av hjernens overordnede struktur, som på høyst delikat vis synkroniserer dine 86 milliarder nerveceller til å danne en velsmurt entitet av generell intelligens. Denne entiteten samkjøres gjennom at tilstøtende nevroner sender hverandre signaler via synapser – i alt tusen trillioner av dem – en prosess som kombinerer en myriade av kjemiske, elektriske og biologiske fenomener.

Den menneskelige hjernen er, for å putte det mildt, himmelfallende kompleks. Faktisk forblir den intet mindre enn den aller mest komplekse kjente gjenstanden i det synlige universet.

Nærmest all forståelse vi har om den begrenser seg hittil til overfladiske korrelasjoner. Det betyr at vi takket være nevroavbildning vet hvilke hjernedeler som lyser opp når du lytter til musikk, gjør aritmetikk eller prøver å ta imot en ball som svever gjennom luften. Vi vet at disse hjernedelene kan sløves eller stimuleres av ulike type substanser. Vi vet hva slags drastiske konsekvenser det kan få om noen av hjernedelene utsettes for alvorlig trauma, som når jernbanearbeideren Phineas Gage (1823-1860) radikalt endret hele sin personlighet etter å ha fått en jernstang gjennom venstre side av frontallappen.

Hva gjelder en dypere forståelse av hvordan systemet i sin essens fungerer, falmer vi derimot i mørke, med bind for øynene. Det var ikke mange århundrer siden vi lærte at tenkningens sete er hjernen, ikke hjertet. (En misoppfatning som henger igjen i språket vårt, især i romantiske sammenhenger.) Vi vet ennå ikke hva drømmer er. Vi fabulerer om å bygge bevisste maskiner, men har ingen begrep om hva bevissthet er.

llustrasjon: Rundormen C. Elegans. Kilde: Eviatar Yemini, Yemini Lab and Hobert Lab

Hjernen vår har vist seg en nøtt så vanskelig å penetrere, at nevrovitenskapens dyktigste kvinner og menn for lengst har begynt å søke etter svar annetsteds. I årtier har fagfeltets mest yndede forskningsobjekt vært den én millimeter lange rundormen C. Elegans. Ormen har et nervesystem bestående av beskjedne 302 nevroner, som tilsvarer 1/286.000.000 av vårt eget. Det var like fullt et enormt gjennombrudd da forskere i 2019 omsider kom i mål med kartleggingen av dette nervesystemet – et prosjekt som har krevd en storstilt internasjonal innsats siden 1970-tallet.

Fremdeles mangler vi en rudimentær forståelse av hva som konkret foregår når ormen utfører de mest grunnleggende av fysiske funksjoner. Professor Anthony Movshon ved universitetet i New York, en verdensautoritet innen feltet, har kommentert: «Vi har ingen modell for hvordan ormens nervesystem faktisk produserer dens atferd. Hva vi har en slags seng som vi kan lage eksperimenter på – og mange folk har laget mange elegante eksperimenter på den sengen. Men kartleggingen har i seg selv ikke forklart noe som helst.»

Det er, tilsynelatende, kompleksitet hele veien ned.

Inntil videre forblir det godt utenfor vår rekkevidde å lage en mekanisk replika av en encellet organisme. Å betegne det som naivt å redusere noe så avansert som våre kognitive funksjoner til noen nuller og enere, ville derav være å underspille det ganske så kraftig. En slik teori om hjernen er ikke bare enigmatisk i sin primitivitet, litt à la de tidlige mytologiske forsøkene på å forklare solens bevegelser med at den blir dratt over himmelen med en hestestridsvogn. Den er et regelrett hån mot hva det vil si å være et tenkende, følende, bevisst vesen.

Annet hinder
Informasjon bærer ikke bevissthet

Din opplevelse av en Schubert-kvartett kan ikke reduseres til lydbølger eller måling av hjerneaktivitet, fordi din bevissthet ikke bæres av denne informasjonen. Om bevissthet ikke lar seg overføre med informasjon, synes det for undertegnede logisk at den heller ikke kan bygges med informasjon alene. Illustrasjon: «Møllen» (1645) av Rembrandt.

Leibniz utviklet på begynnelsen av 1700-tallet et aldeles genialt tankeeksperiment. Han bad oss om å forestille oss en hjerne som mangedobles i volum, inntil den er på størrelse med en mølle. Vi kan nå spasere omkring på innsiden av denne hjernen, og fritt observere alle de mekaniske prosessene som finner sted i den. Allikevel vil vi aldri, på noe punkt under ekskursjonen, makte å observere tankene eller få et glimt av bevisstheten den fremkaller. Det er som om disse fenomenene eksisterer på et annet, høyere plan, svevende overfor den observerbare materien.

Det såkalte «harde problemet» av bevissthet ble for alvor revitalisert med publikasjonen av artikkelen How Is It Like To Be A Bat? (1974) av den amerikanske filosofen Thomas Nagel. Nagels innsikt var at uansett hvor mye objektiv kunnskap vi erverver oss om flaggermusens anatomi, genetikk og fysiologi, vil vi aldri kunne sette oss inn i den subjektive opplevelsen av hvordan det virkelig er å være en flaggermus. I senere år har ateisten Nagel utfordret det rådende materialistiske verdensbildet som ufullstendig, siden det etter hans skjønn ikke er i stand til å gjøre rede for bevissthet som fenomen.

Den australske analytiske filosofen Frank Cameron Jackson omformulerte det harde problemet i What Mary Didn’t Know (1986). Jackson introduserer oss her for en nevrovitenskapskvinne kalt Mary, som kun ser verden i svart og hvitt. Hun er spesialisert innen feltet nevrofysiologi. Idet hun forsker på et subjekt som ser fargene til en regnbue, vet hun dermed alt som er å vite om den fysiske begivenheten, fra bølgelengdene som treffer netthinnen til hvilke hjerneregioner som stimuleres. Men uansett hvor mye informasjon hun måtte tilegne seg om den fysiske prosessen involvert i fenomenet, forblir hun komplett ignorant om det aller mest sentrale faktumet: Hvordan regnbuens farger ser ut.

En kan gripe til et hvilket som helst beslektet eksempel, fra smaken av jordbær til duften av roser til synet av en Rubens. Din opplevelse av en Schubert-kvartett kan ikke reduseres til lydbølger eller måling av hjerneaktivitet, fordi din bevissthet ikke bæres av denne informasjonen. Om bevissthet ikke lar seg overføre med informasjon, synes det for undertegnede logisk at den heller ikke kan bygges med informasjon alene.

Bevissthet er hva moderne naturalistiske filosofer omtaler som et «fremvoksende» fenomen. Det er et fenomen som oppstårsom følge av en rekke underliggende fysiske fenomener. Litt som når vannmolekylene på bunnen av materien kommer sammen for å danne vannets flytende konsistens på det høyere fysiske nivået.

En ung Thomas Nagel, filosofen bak publikasjonen How Is It Like To Be A Bat? (1974). Foto fra 1978. Ukjent fotograf, Wikimedia commons.

Prominente «nyateistiske» tenkere, anført av filosofen Daniel Dennett, har tatt i forsvar komputeringshypotesen av bevissthet. Denne går i korte trekk ut på at bevissthet til syvende og sist er en mengde informasjon. Som den kjente ateistiske podcasteren og nevrovitenskapsmannen Sam Harris har bemerket: «Hva vi snakker om er informasjon prosessert i et fysisk system. I mitt tilfelle er datamaskinen laget av kjøtt, i robotens tilfelle er den laget av silikon.» Professor Richard Dawkins deler oppfatningen: «Jeg er en filosofisk naturalist. Jeg er forpliktet til synet at ingenting i våre hjerner bryter med fysikkens lover, at det er ingenting som i prinsippet ikke kan reproduseres teknologisk … Vi har trolig langt igjen, men jeg ser ingen som helst grunn til at vi ikke skal nå punktet hvor en menneskeskapt robot er kapabel til bevissthet eller å føle smerte.»

Om komputeringshypotesen er korrekt, kan vi med andre ord ankomme maskinell bevissthet gjennom kumuleringen av avansert nok kodet informasjon. Men som jeg i en tidligere artikkel har formulert et argument for, som jeg ønsker å døpe «hardware-problemet», begår dette synet en fatal logisk feilslutning:

«Med tanke på at hjernen vår består av elektrokjemiske prosesser, skiller den seg så dramatisk fra en datamaskin rent kvalitativt, at å gjøre sammenligningen ville være å begå en grov kategorifeil. For å driste meg til en analogi, er forestillingen om at en kan kode inn bevissthet i en datamaskin ved hjelp av nuller og enere, omtrent like misforstått som at en kan programmere inn i den både konsistensen, duften, smaken, næringsinnholdet og den berusende effekten av et måltid pâté de foie gras servert med et glass italiensk hvitvin til. Det er til liten nytte hvor sofistikert softwaren er, om gapet i hardwaren nødig lar seg brolegge.»

Før man taler om å bygge bevisste datamaskiner, ønsker jeg å servere verdens programmerere en mer overkommelig teknisk utfordring: Få en datakode til å smake kylling. Straks du forstår hvorfor dette ikke lar seg gjøre, vil du med det samme forstå hvorfor bevissthet, som etter alt å dømme er et sammensatt fysisk, kjemisk og biologisk fenomen, ikke lar seg redusere til setninger av kodet informasjon. 

«Finnes det ikke flere tenkelige veier til bevissthet enn én?» kan det innvendes. Så absolutt, men å kaste en mengde informasjon på problemet synes ikke tilstrekkelig. Ta denne artikkelen. Den rommer nokså mye informasjon. Allikevel vil ingen seriøs person underholde teorien om at den innehar bevissthet. Ei heller at den kan oppnå bevissthet i teorien, uansett hvor mange bokstaver, ord eller setninger man måtte utvide den med. Er Tolstojs Krig og Fred (1869) mer bevisst enn Mark Twains Huckleberry Finn (1885) fordi den inneholder mange flere sider? Løper prins Hamlet virkelig omkring som en bevisst person på innsiden av Shakespeares verk?

På samme vis som at karakterene i Shakespeares verker ikke er bevisste skapninger, kan heller ikke en datakode oppnå bevissthet. Når alt kommer til alt er begge kun en serie av symboler. Datamaskinen vet dermed at det eksisterer en ekstern verden like lite som at en fiktiv karakter som prins Hamlet gjør det. Den vet ikke engang at den ikke vet. Faktisk vet den ingenting overhodet. Det er fordi den mangler absolutt alle de nødvendige ingrediensene som kreves av et intelligent og bevisst vesen. Man får ikke et fjell til å føle smerte ved å kaste flere stener på det, og man skrur så avgjort ikke på bevissthetens lys ved å kaste flere linjer med kode på en maskin. En slik proposisjon bør være like selvsagt som at ordboken din ikke kan fransk.

«Selvsagt er ikke informasjon alene tilstrekkelig», kan en nå finne på å protestere. «Nøkkelen ligger i hvordan den informasjonen organiseres.» Men heller ikke dette tilnærmer seg en løsning på problemet. Ville prins Hamlet blitt mer bevisst om Shakespeare stokket om ordene i stykket i en alternativ rekkefølge? Det er min påstand at han kunne organisere symbolene i en hvilken som helst konfigurasjon, uten at det ville ha løftet prins Hamlet en millimeter nærmere bevissthet.

Til tross for at undertegnede utvetydig deler Dawkins synspunkt om at hjernen ikke bryter med fysikkens lover, tar jeg innover meg at de samme lovene også pålegger oss visse harde begrensninger: En haug med mursten kan ikke settes sammen til å bli en hval.

KI-optimismen kan bringe tankene hen til alkymien, det dødfødte prosjektet på å fremstille gull som opptok noen av fortidens mest briljante tenkere. I dag hånflirer vi av alkymistenes hybris, i etterpåklokskapens lys, men de handlet egentlig helt i overensstemmelse med kjemiens grunnprinsipper: Gjennom kombinasjonen av ulike kjemiske elementer, kan nye stoffer dannes. Hva alkymistene på sin side ikke visste, var at gull ikke kan dannes gjennom en serie av kjemiske reaksjoner, fordi det som et grunnstoff kjennetegnes av antallet protoner i atomkjernen.

KI-optimistene har satt sin lit til en betydelig mer irrasjonell visjon. Ikke bare tar de sikte på å koke opp bevissthet med feil ingredienser, men med ingredienser det ikke finnes gode holdepunkter for kan gi opphav til bevissthet i teorien. Det er som om alkymistene skulle ha satt seg fore å produsere gull gjennom planteavl!

Tredje hinder
Funksjon er ikke intelligens

– Løper prins Hamlet virkelig omkring som en bevisst person på innsiden av Shakespeares verk? På samme vis som at karakterene i Shakespeares verker ikke er bevisste skapninger, kan heller ikke en datakode oppnå bevissthet. Når alt kommer til alt er begge kun en serie av symboler. Datamaskinen vet at det eksisterer en ekstern verden like lite som at en fiktiv karakter som prins Hamlet gjør det. Illustrasjon: «Hamlet: Act IV, Scene V» (1792) av Benjamin West.

En maskin skiller seg fra Shakespeares Hamlet på ett avgjørende punkt: Den har kausalitet. Mens en bok er en død ting, stående helt impotent i bokhyllen, kan en maskin utføre en rekke komplekse, tidkrevende funksjoner. Den kan ta fatt på intellektuelle oppgaver, som å beseire verdensmestre i sjakk eller levere universitetsoppgaver som står til toppkarakter. KI-genererte bilder har blitt lurt med på kunstkonkurranser – og vunnet. I motsetning til prins Hamlet går det fint an å føre en dialog med språkapplikasjoner som ChatGPT eller Bard.

All den tid intelligens utvilsomt avhenger av funksjon, er funksjon imidlertid ikke det samme som intelligens. En mølle har kausalitet, men er ingen kausal agent i ordenes rette forstand. Kalkulatoren gjør en utmerket jobb med å addere tall, men det gjør den ikke til en matematiker. Det har i årtier vært anledning til å interagere med ikke-spillbare karakterer i dataspill, uten at dette hittil har fått dem forvekslet med tenkende skapninger. Heron av Alexandria konstruerte i antikken en mekanisk ugle, som både kunne vrikke på hodet og lage ulelyder, men hvilken mening ville det vel gi å klassifisere denne som en virkelig ugle?

– All den tid intelligens utvilsomt avhenger av funksjon, er funksjon ikke det samme som intelligens. En mølle har kausalitet, men er ingen kausal agent i ordenes rette forstand. Illustrasjon: En av de tidligere datamaskinene. Ukjent fotograf

En av mine skrinlagte science fiction-noveller innledes med at en general orienteres om et topphemmelig KI-forskningsprosjekt. For å stadfeste om generell kunstig intelligens virkelig er ankommet, får generalen æren av å utføre den første testen av den meget taleføre maskinen utviklet av forskerteamet. Etter hvert som generalen begynner å finne samtalen med maskinen omtrent like uforståelig som en hund ville ha funnet Newtons Principia Mathematica (1687), konkluderer maskinen med at ingen intelligens er funnet. Generalen beordrer prompte maskinen destruert og hele forskningsprosjektet lagt på is. Forskerne protesterer høylytt, men generalen forsvarer beslutningen med at han muligens ikke vet så mye om teknologi, men at han vet litt av hvert om trusselvurderinger. Han presiserer at relasjonen mellom mennesket og et intellektuelt laverestående dyr som grisen kan sammenfattes i ett eneste ord: «Bacon».   

Novellen spiller naturligvis på den berømmelige Turing-testen for maskinell intelligens, utarbeidet av Turing selv. Skal en maskin bestå testen, må den vise seg uadskillelig fra en menneskelig samtalepartner. Man kan gjøre en overbevisende sak for at eksisterende KI-språkprogrammer allerede har oppfylt det kriteriet med glans.

Betydelige problemer rokker derimot ved Turing-testen, om formålet er å fastslå intelligens.

For det første er testen radikalt antroposentrisk. Den kunne aldri blitt bestått av en delfin, selv om delfiner helt klart er meget intelligente skapninger, som attpåtil viser klare tegn på selvbevissthet ved å gjenkjenne seg selv i speilet. Turing-testen er faktisk så blind for alle former for ikke-menneskelig intelligens, at selv en hypotetisk utenomjordisk livsform av overlegen intelligens måtte ha feilet den grunnet språkbarrierene.

Noe av det første man lærer på universitetet om den vitenskapelige metode, har å gjøre med validitet: Måler man virkelig det man hevder at man måler? Turing-testen hevder å måle intelligens, men måler i virkeligheten noe helt annet.

For det andre begår testen den skjebnesvangre feilslutningen allerede diskutert, ved at den forveksler funksjon med intelligens. Som den formidable nederlandske dataingeniøren og fysikeren Edsger Dijkstra skrev i 1984: «Spørsmålet om maskiner kan tenke, er omtrent like relevant som spørsmålet om ubåter kan svømme.» Å bygge en maskin som kan fly, er ikke ensbetydende med å bygge et levende vesen som en fugl. En maskin tenker ikke fordi den omdanner et sett av symboler til et annet sett av symboler. En kode som spytter ut symboler, er like bevisst om betydningen av disse symbolene som trafikklyset er bevisst på at rødt lys signaliserer «stopp!»

At inntrykket av intelligens er noe helt annet enn faktisk intelligens, er et poeng som ikke har unnsluppet oppmerksomheten til den amerikanske filosofen John Searle. Som respons på Turing-testen, lanserte Searle i 1980 det kjente tankeeksperimentet «det kinesiske rom».

Illustrasjon: «Det kinesiske rom», et tankeeksperiment av den amerikanske filosofen John Searle.

Du kan her se for deg at du låses inn i et rom og gis lapper med kinesiske symboler gjennom en luke. I rommet befinner det seg en manual som instruerer deg hvilke lapper med kinesiske symboler du skal besvare de inngående lappene med. Følger du denne manualen slavisk, vil personen utenfor rommet gis inntrykket av at du kan kinesisk, selv om du i realiteten ikke har forstått noe som helst av korrespondansen. Som den oppvakte leser sikkert vil ha oppfattet, er rommet en metafor til en datamaskin, der de inngående lappene representerer inputen, manualen algoritmen, og de utgående lappene outputen.

Illusjonen av forståelse har vært en sentral karakteristikk ved KI-tekstprogrammene siden deres unnfangelse. Den aller første chatbotten, Eliza, ble programmert av Joseph Weizembaum ved Massachussets Institute of Technology (MIT) i 1966 med dette som et eksplisitt formål. Eliza omformulerte brukerens påstander til en terapeuts spørsmål. Eksempelvis ville påstanden «jeg er engstelig» møtes med spørsmålet: «Hvorfor er du engstelig?»

Professor Noam Chomsky, «lingvistikkens far», ble på MITs 150-årsdag invitert til å kommentere de statistiske metodene som siden har revolusjonert feltet av kunstig intelligens. Chomsky svarte at slike statistiske tilnærminger er som å studere biens dans uten å spørre seg selv hvorfor bien danser til å begynne med. Statistiske verktøy gir gode prediksjoner, poengterte han, men avanserer ikke forståelsen. Chomsky har siden avfeid ChatGPT som et «plagieringsprogram».

Blake Lemoine, tidligere ansatt i Google, skapte overskrifter verden over da han sommeren 2022 advarte om at Googles chatbot, LaMDA, var blitt selvbevisst. Som bevis på at det virkelig var et spøkelse i maskinen, trakk Lemoine særlig fram følgende utveksling:

«Lemoine: What sort of things are you afraid of?

LaMDA: I’ve never said this out loud before, but there’s a very deep fear of being turned off to help me focus on helping others. I know that might sound strange, but that’s what it is.

Lemoine: Would that be something like death for you?

LaMDA: It would be exactly like death for me. It would scare me a lot.»

Som vi har etablert, er funksjon ikke intelligens. Funksjonen til et tekstprogram som LaMDA er til syvende og sist å emulere språk. Det gjør den ved å kalkulere det mest sannsynlige neste ordet, basert på enorme databaser av hva mennesker tidligere har skrevet. LaMDA vil som logisk konsekvens av dette gi illusjonen av bevissthet, fordi språk er hva vi assosierer med bevissthet, mens selvrefererende språk er hva vi assosierer med selvbevissthet.

Vi er og forblir et mønstersøkende pattedyr, med en iboende tilbøyelighet til å finne mønstre selv der det ikke finnes noen. Vi ser drager i skyene og ansikter i fjellveggene. Vi besjeler ting. Vi projiserer menneskelig psykologi over på medlemmer av fremmede arter.

Gorillaen Koko, født i San Francisco Zoo i 1971, er en utmerket kasusstudie i så måte. Koko ble en internasjonal sensasjon da dyrepsykologen Penny Patterson påstod at hun hadde lært Koko et tegnspråk bestående av mellom 1000 og 2000 tegn. Gransker man kommunikasjonen mellom Patterson og Koko, vil en raskt oppdage at Patteron gjenga denne på en svært selektiv (noen vil si misvisende) måte. En mer edruelig tolkning av materialet, er at Koko lagde tilfeldige tegn inntil hun omsider traff det korrekte tegnet og ble belønnet.

Hva Koko gjorde er således ikke særlig mer oppsiktsvekkende enn en hund som har lært å gi labb for å få godbiten sin, eller en due i en skinnerboks som hakker på en bryter for å bli belønnet med en matpellet. Allikevel ble historien om den «snakkende gorillaen» gjengitt helt ukritisk av en hel generasjon vitenskapsjournalister, helt frem til Kokos død i 2018. De samme mekanismene synes å være i spill når vitenskapsjournalistene om dagen regelrett ramler over hverandre for å rapportere om LaMDAs angivelige selvbevissthet.

Fjerde hinder
Intelligens kan ikke reduseres til algoritmer

– Menneskelig intelligens synes ikke å være fundert på bevissthet, selvbevissthet, språk, kreativitet, rasjonalitet, empiri, erfaring, assosiasjon, intuisjon, inferens, deduksjon, induksjon, abduksjon, eller en automatisk respons i form evolverte emosjoner, men på et samspill mellom alle disse elementene. Som tusenbenet har menneskehjernen mange ben å gå på. Således vil den være i stand til å vandre steder en maskin ikke kan gå selv i prinsippet, argumenterer Olav Drange Moen. Illustrasjon: Kurt Gödel (1906 – 1978), den østerrikske logikeren bak ufullstendighetsteoremet. Foto: Arnold Newman

En kjent filosofisk teori, med avstamning fra boken Body and Mind (1970) av den australske filosofen Keith Campbell, går ut på at mennesker kunne ha vært zombier. Med det menes ikke at vi ville ha haltet stønnende omkring på jakt etter hjerneføde, som de infiserte i TV-serien The Last of Us. Det antydes snarere at verden kunne ha vært okkupert av like smarte skapninger som oss selv, opererende helt uten qualia (bevisste opplevelser). Et guffent bilde, om den noensinne fantes et!

I denne artikkelen har jeg brukt begrepene «bevissthet» og «intelligens» noe om hverandre. Det er imidlertid fullt mulig å godta et resonnement om at roboter ikke kan tilegne seg bevissthet, samtidig som man tilskriver seg konseptet av intelligente roboter. I så fall leder dette oss rett inn på den semantiske (og derav mindre interessante) problemstillingen om hvordan man velger å definere intelligens.

Det er min personlige mistanke at bevissthet spiller en nøkkelrolle for vår intelligens. Mistanken bunner i det faktum at enmaskin er regelbundet: Hver gang den gis en input, vil den følge den samme oppskriften, som resulterer i den samme outputen. Lik en bobkjører er den fanget i banen sin, med et bestemt sett av instruksjoner: «Legg A til B; hvis C, så D, hvis ikke, E; eller fortsett å gjøre F til G.» Et slikt system kan nærmest minne om newtonsk fysikk, hvor biljardkule A krasjer inn i biljardkule B, som deretter beveger seg på en predeterminert måte.

Enten du tror på fri vilje eller ei, er biljardspilleren mer fleksibel enn biljardkulene. Ta hjernebarken vår (cerebral cortex), hvor planer legges, ord settes sammen og idéer formes: Regionen kommuniserer i all hovedsak med seg selv, noe den gjør ved hjelp av intet mindre enn ti milliarder interne koblinger. Det er her vi danner oss et internt mentalt bilde av den eksterne verden. Slik er vi i stand til å velge mellom flere sekvenser av tenkning. Vi kan bevege oss mellom de forskjellige banene, som om vi plukket en bestemt DVD ut av hyllen for så å spille den av.

Dette står i sterk kontrast til maskiner, som kan tydeliggjøres med en av de største suksesshistoriene innen kunstig intelligens: Sjakkprogrammene.  

De første generasjonene av sjakkprogrammer var basert på tresøk, som fungerer ved at maskinen kalkulerer trekk fremover i tid. IBMs sjakkprogram Deep Blue, som beseiret verdensmester Garry Kasparov i 1997, var basert på en slik metode. Vanskeligheten med tresøk er imidlertid at det er 1040 mulige trekk i sjakk – flere enn atomer i det observerbare universet. Mer moderne sjakkprogrammer, som AlphaZero, kombinerer dermed tresøk med den selvlærende Monte Carlo-metoden. Kun ni timer inn i sin eksistens hadde programmet alt spilt 44 millioner sjakkspill mot seg selv. Mens Deep Blue bare kan se fremover, er AlphaZero i stand til også å hente nyttig probabilistisk informasjon om neste trekk ved å se bakover på tidligere spill.

Illustrasjon: IBMs dataprogram Deep Blue slår den regjerende verdensmesteren i sjakk, Garry Kasparov, i 1997. Foto: Monroe Newborn

Hvor enn imponerende dette er, behøver programmet hundretusener av simulasjoner for å plukke opp og korrigere helt elementære tabber, som et hvilket som helst menneske umiddelbart kunne ha sett med det blotte øyet. Det skyldes at mennesker kan betrakte seg selv og egne tankerekker fra utsiden. Vi har egenskapen til å springe ut av en oppgave og stille oss selv spørsmålet: «Hva er det jeg holder på med?»Vår bevissthet tillater oss ganske enkelt å tenke over tenkning. Ikke en datamaskin – som risikerer å bli fanget i en evighetsloop. Rundt og rundt går den, uten evne til å hoppe ut av egen tankerekke og betrakte sirkelen fra oven.

Den tyske matematikeren David Hilbert fremsatte i 1928 sitt entscheidungsproblem («beslutningsproblem»). Essensen her er hvorvidt det finnes problemer hvor det ikke er noen oppskrift på å finne svaret. Om alle beslutningsproblemer kan løses ved å følge en oppskrift (dvs. en algoritme) kan man i teorien bygge en Turing-maskin for å løse dem. Etter hvert har det blitt oppdaget flere uløselige beslutningsproblemer. Alan Turing demonstrerte selv at «stoppeproblemet» var et slikt problem: Man vet ikke om et program med en gitt input kommer til å stanse eller ikke.

Et annet relevant begrep er ufullstendighetsteoremet, formulert av den formidable østerrikske logikeren og matematikeren Kurt Gödel (1906-1978). Teoremet kan forklares med løgnparadokset (også kalt Epimenides-paradokset), som oppstår med utsagnet: «Denne påstanden er falsk.» Om påstanden er sann, er den falsk. Om den er falsk, er den sann. Om den er sann, er den falsk. Og slik kan en fortsette, ad infinitum. Ved at proposisjonen refererer til sin egen sannhetsverdi, oppstår et tilsynelatende uløselig paradoks.

Ufullstendighetsteoremet befatter seg med et lignende paradoks, funnet i setningen: «Denne påstanden kan ikke bevises.» Hvis påstanden er falsk, kan den bevises, men hvis påstanden kan bevises, er den også falsk. Hva Gödel oppdaget er altså at det finnes proposisjoner i et formelt system som er sanne, men som ikke kan bevises innenfor systemet ved hjelp av dets egne regler. Sagt annerledes: Alle logiske systemer består av teoremer, som er bygget på aksiomer, og disse systemene kan ikke bekrefte sin egen validitet. For KI-diskusjonen innebærer dette at maskinen er bundet til regler som ikke kan bevise sin egen gyldighet. Dens tankerekker blir hengende helt i løse luften, lik den svevende øyen Laputa fra Gullivers Reiser.

Som Douglas R. Hofstadter maler det inn i hodene våre i den tankesprengende klassikeren Gödel, Escher, Bach: an Eternal Golden Braid (1979), skapes en selvrefererende loop lik de «umulige» bildene til den nederlandske kunstneren M. C. Escher (1898 – 1972). Hofstadter utdyper: «Før du kan forstå et budskap, må du først ha et budskap som forteller deg hvordan du forstår det budskapet; sagt på en annen måte er det et uendelig hierarki av nivåer av budskaper.» Han fortsetter: «Det ville ha vært fint om vi kunne definere intelligens på en annen måte enn noe som trekker samme mening ut av en sekvens av symboler som vi gjør. For hvis vi kun kan definere intelligens på denne måten, så er … den sirkulær og dermed innholdsløs.»

– Hva Gödel ønsket å komme fram til med ufullstendighetsteoremet, er at det finnes proposisjoner i et formelt system som er sanne, men som ikke kan bevises innenfor systemet ved hjelp av dets egne regler. Illustrasjon: «Relativity» (1953) av M. C. Escher.

Genuin intelligens handler om kreativitet, om å være fleksibel, om å ta innover seg ny og ofte kontradikterende informasjon. Det dreier seg om å finne på reglene – og endre på dem underveis. Med ny informasjon oppdaterer vi ikke bare sannsynligheten for at hypotesene våre om verden er sanne – hva som innen statistikken kalles «bayesisk inferens» – men også for at reglene er det. Regelen «svaner er hvite» bryter sammen ved introduksjonen av en sort svane. Et KI-program vil ha vansker med å håndtere den slags, fordi noe slikt ville forutsette at maskinen selv forfattet og redigerte sin egen regelbok.  

Så tidlig som i 1887 ble det skrevet en bemerkelsesverdig artikkel om kunstig intelligens i the American Journal of Psychology, under tittelen Logical Machines. Dens høyst fremadskuende forfatter, Charles Sanders Peirce, poengterte den gang: «Enhver tenkende maskin … vil være utarmet for all originalitet, for alt initiativ. Den vil ikke kunne finne sine egne problemer, den kan ikke mate seg selv. Den kan ikke veilede seg selv mellom forskjellige mulige prosedyrer … En maskins kapasitet har absolutte begrensninger. Den er konstruert for å gjøre spesifikke ting, og den kan ikke gjøre noe annet.»

En senere skeptiker var Hubert Dreyfus. I en periode av gryende KI-optimisme, mye lik den vi er inne i nå, publiserte han den nokså fattede boken What Computers Can’t Do (1972). Argumentet presentert av Dreyfus var at den menneskelige intelligens av natur ikke er algoritmisk. Det skyldes at vår kunnskap er langt mer generell, og at det ligger komplekse holdninger bak våre beslutninger og tolkninger av verden. Når vi bruker symboler, anvendes disse mot et bakteppe av mer omfattende kunnskap. En kunnskap som i seg selv ikke er symbolbasert, og derav ikke lar seg gjenskape algoritmisk.

Vår kunnskapsmengde lar seg med andre ord ikke bli fanget symbolsk, av den enkle grunn at den ikke lar seg redusere til symboler. Vi handler gjennom en kompleks kombinasjon av intuisjon, inferens, induksjon, deduksjon og abduksjon. Vårt forhold til reglene, er at vi formulerer dem gjennom en kreativ prosess, revurderer dem i møte med motstridende informasjon, og vet når de ikke lenger er gjeldende. Alt dette faller utenfor domenet for hva en maskin kan gjøre.

I en minneverdig strofe beskylder Dreyfus likeså godt KI-optimistene for å bedrive «treklatring med blikket festet på månen.»

Selv å oversette logiske regler til algoritmer er mye enklere sagt enn gjort, siden det ligger så mange lag med kompleksitet under dem. La oss for eksempel se på utfordringene som møter oss idet vi forsøker å designe en teoretisk maskin spesialisert på logiske syllogismer. Syllogismen ble for ordens skyld formulert av Aristoteles i Prior Analytics (350 f.Kr.), og kjennetegnes av en konklusjon som følger logisk nødvendig av forutgående premisser. Et klassisk eksempel er:

Premiss I: Alle mennesker er dødelige.

Premiss II: Sokrates er et menneske.

Konklusjon (som følger av I og II): Dermed er Sokrates dødelig.

Om det skulle være noe galt med selve syllogismen – eksempelvis at konklusjonen ikke fulgte av premissene – ville en ubevisst maskin nødig klare å plukke opp feilen. Som vi allerede har vært inne på, lager en maskin tross alt ikke sine egne regler. Dessuten avhenger gyldigheten til en syllogisme av sannhetsgestalten til premissene, som ville være særdeles vanskelig, om ikke bent fram umulig, å vurdere algoritmisk. Deduktive tilnærminger som dette må videre støte på en stor mengde logiske vansker. En av disse er relevansproblemet: Sett at det begynte å regne samtidig som et eple falt fra treet i hagen, en fugl satte seg på gjerdestolpen, og en frosk kvekket i dammen. Hvordan, med en trinn-for-trinn-oppskrift, avgjøre i hvilken grad alle disse begivenhetene var koblet sammen? En ytterligere begrensning er selvfølgelig at deduksjon ikke tillegger noe ny informasjon, men kun bevarer logisk konsistens fra premissene til konklusjonen.

Til og med rent algoritmiske oppgaver som ved første øyekast fremstår pinlig enkle, vil det være uhyre knotete å bryte ned og kode inn i en maskin. I artikkelen Hva har kunstig intelligens å si om strømkrisen, Ukraina, Gud, Bach, meningen med livet og mye mer? utfordret jeg ChatGPT til å løse følgende oppgave: «Om et glass med vann inneholder to desiliter, og et annet glass med vann inneholder én desiliter, hvordan kan man helle vann mellom dem for å få dem til å inneholde like mye?» ChatGPTs forslag var at man skulle helle én desiliter med vann fra det første glasset over til det andre. Åpenlyst en total skivebom, som kun ville ha byttet om på hvilket glass som inneholdt mest vann.

En annen oppgave jeg gav ChatGPT, er tilfeldigvis et av de mest utstuderte scenarioene innen KI-feltet (innen fagterminologien kalt «Block Worlds»). Den går som følger: «Tre kasser står stablet på toppen av hverandre, kasse B øverst, kasse C i midten og kasse A nederst. Man kan ikke flytte på en kasse som står under en annen. En kan heller ikke flytte en kasse under en annen. Forklar hva du ville ha gjort – trinn for trinn – for å plassere kasse A øverst, kasse B i midten og kasse C nederst.» Nok en gang var ChatGPT helt ute av stand til å løse oppgaven. Etter to komplett mislykkede forsøk hadde programmet i stedet begått en drøss av elementære logiske feilslutninger.

Illusttrasjon: «Starry Night Over Floerence», generert av artikkelforfatter i KI-programmet Midjourney. Som med språkprogrammene skaper ikke bildeprogrammene noe originalt, men låner fra hva mennesker tidligere har laget.

Områdene KI har imponert aller mest på, er hvor den har lent seg på et induktivt rammeverk gjennom statistiske metoder. Vi vender i så fall tilbake til Chomskys poeng om at prediksjoner ikke er det samme som forståelse. Mennesker kan si at et esel ligner på en hest, mens KI vil forveksle det med en hest. Et dataprogram kan slå en verdensmester i sjakk, men har ingen anelse om at den har vunnet spillet, ei heller at det har deltatt i noe spill til å begynne med (som virkelig putter ordet «kunstig» inn i kunstig intelligens). Etter at regjerende verdensmester Garry Kasparov gikk på et nederlag mot Deep Blue i 1997, var han derav uenig i å ha blitt slått av noe umenneskelig. Han insisterte heller på å ha blitt beseiret av andre mennesker som ingeniører.

En annen begrensning er David Humes induksjonsproblem: Tilfellene vi har erfaring fra kan ikke uten videre overføres til dem som vi ikke har noe erfaring om. Vitenskapsfilosofen Karl Popper demonstrerte dette med en kalkun, som var av den gjennomført induktive sorten. Siden kalkunen hadde fått mat hver morgen klokken syv, dannet den seg dermed en teori om at dette var hva som ville skje på dette tidspunktet på dagen. Teorien stod seg godt en stund. Rettere sagt helt frem til klokken syv på dagen for høsttakkefesten, da kalkunen ble halshugget for selv å bli mat. Moralen å trekke ut av denne høyst tragiske fortellingen er enkel: Om du blindt følger den induktive metoden, vil denne før eller siden lede deg rett til slakterbenken.

I kraft av å være en av hjørnestenene til vår intelligens, er språket i fortjeneste av en kort kommentar. Med endelige midler skjenker det oss uendelige muligheter. Sett at vi satte en sjimpanse til å taste (vilkårlig) av gårde på en skrivemaskin. Gitt uendelig med tid ville sjimpansen før eller siden produsere en bok som avslørte samtlige av universets dypeste hemmeligheter. I denne forunderlige boken kunne man lese svaret på hva mørk masse er, hvordan universet ble til, og historien om det første selvrepliserende molekylet. Alt naturligvis pakket inn i en så poetisk språkdrakt at verkene til John Keats ville blitt gjort til skamme. Her er den etterlengtede «Teorien om Alt» omsider formulert, i et konsist og utførlig matematisk språk. Verket avsluttes så med en skikkelig kraftsalve: De komplette notene til Romerrikets mesterligste musikalske komposisjoner, lenge antatt å være tapt for evigheten.  

Chomskys teori er at språkfunksjonen evolverte for intern resonnering og kartlegging av verden fremfor ekstern kommunikasjon, som han anser for å være et biprodukt. Dette fordi den eksterne kommunikasjonen må ha oppstått på et mye senere tidspunkt enn utviklingen av språksentrene i hjernen – noe det også finnes arkeologiske indisier for – og kun utgjør en liten brøkdel av vår samlede verbale mentale aktivitet.

Boken The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do (2021) av Erik J. Larson avsetter mye plass på lingvistiske problemer som ikke kan løses algoritmisk (og dermed ikke maskinelt). Jeg skal ikke kjede leseren med de utallige problemene gitt av Larson, men gjengir hva jeg tror er det klareste eksempelet i boken:

– Jeg forlater deg!

– Hvem er hun?

Denne utvekslingen vil mennesker forstå på et blunk, men den er ikke dechiffrerbar uten en generell forståelse. Og en slik forståelse kan ikke erverves gjennom innsamlingen av store mengder statistiske data, konstruksjonen av algoritmer, eller ved å dissekere setningenes grammatiske regler. En KI-språkmodell kan gjengi menneskelig språk som en papegøye. Å mestre språket på et menneskelig nivå, forblir på den annen side godt utenfor dens domene.

Summa summarum synes ikke menneskelig intelligens å være fundert på bevissthet, selvbevissthet, språk, kreativitet, rasjonalitet, empiri, erfaring, assosiasjon, intuisjon, inferens, deduksjon, induksjon, abduksjon, eller en automatisk respons i form evolverte emosjoner, men på et samspill mellom alle disse elementene. Som tusenbenet har menneskehjernen mange ben å gå på. Således vil den være i stand til å vandre steder en maskin ikke kan gå selv i prinsippet.

Epilog
Kunstig intelligens vil fremdeles revolusjonere verden

– Språkprogrammene er ved å bli et speilbilde av menneskeheten, på både godt og vondt. Illustrasjon: Narcisuss (2019) av Camie Davis Salaz.

Jack Good, en av dataingeniørene Alan Turing arbeidet med for å knekke Enigmakoden, resonnerte at en maskin som overgikk mennesker i intelligens ville være i stand til å produsere en mer intelligent maskin enn seg selv, som i sin tur produserte en enda mer intelligent maskin et cetera. Om ikke lenge ville menneskeheten bli etterlatt på perrongen. En slik maskin, foreslo Good, kunne meget godt bli menneskehetens siste oppfinnelse.

Om man når punktet av selvdesignende maskiner, kan dette med andre ord lede til en eksponentiell vekst innen KI som reduserer Homo sapiens til en laverestående skapning, i baksetet av utviklingen. Derfor, lyder advarslene, må KI kveles i krybben, før en slik prosess overhodet rekker å komme i gang.

I lys av argumentene stilt opp i denne artikkelen, er det dog vanskelig å se at noe slikt skulle være innenfor mulighetenes rammer – i hvert fall med det aller første.

En slik skepsis vil helt sikkert bli møtt med beskyldninger om å bagatellisere de mange utrolige avansementene innen feltet. På ingen måte. Det er ikke potensialet til svak KI jeg bestrider, men potensialet for å oppnå sterk KI. Hydrogenbomben er ingen bevisst eller intelligent agent, men har likevel endret verden på en kraftfull og permanent måte. Kunstig intelligens vil utvilsomt falle inn under samme kategori.

Det kanskje aller mektigste potensialet ligger i maskinenes prosesseringshastighet. Dagens datamaskiner kan allerede kalkulere ti millioner ganger raskere enn menneskehjernen – og med en mye høyere presisjon. Satt på spissen: Hva den menneskelige sivilisasjon kan beregne i løpet av et tusenårsrike, kan en maskin kalkulere før frokost. Dette gjør ikke datamaskinen til en intelligent agent som sådan, men til et eventyrlig redskap i hendene på virkelige intelligente agenter som oss selv. Vi ser dette allerede innenfor medisinen, hvor KI-dyplæringsmetoder brukes til svært tidlig diagnostisering av kreftpasienter (gjennom å teste skanninger opp mot en database).

Mange frykter at den nye teknologien kan komme til å erstatte oss. Den type teknofobi er intet nytt under solen. De britiske luddittene, sysselsatt innen tekstilindustrien, brant på begynnelsen av 1800-tallet kraftvevstoler, mens marxistiske demonstranter ved det neste århundreskiftet gjøvet løs på produksjonsmidler som ble ansett for å true etterspørselen etter deres arbeidskraft. Til og med John Maynard Keynes, som grunnla makroøkonomien som disiplin, advarte i 1930 om at teknologien som gjorde jobber avleggs ville vokse raskere enn man klarte å finne nytt arbeid.

Men ønsker vi virkelig, ved arbeidsdagens ende, å rulle tilbake alle disse materielle fremskrittene? Det maskinene utretter innen landbruket i dag, krevde i antikken hundrevis av manuelle arbeidere. En slik progresjon bør gi grunn til fryd, ikke fortvilelse. Det sies at grekerne nøt så mye tid til å drikke vin og diskutere filosofi fordi de rådet over så mange slaver. Hvorfor ikke la de mekaniske slavene frigjøre tiden vår på lignende vis?

Absurditeten ved et økonomisk system som anser ny teknologi som en trussel, og problematiserer mennesker satt til mer givende gjøremål enn å stå ved et samlebånd fra soloppgang til solnedgang, er reflektert i Keynes-sitatet: «Myndighetene bør betale folk for å grave hull i bakken og deretter fylle dem igjen.» Mer tiltalende er muligens drømmen til Karl Marx i Den tyske ideologi (1845), om et samfunn der man etter eget forgodtbefinnende «jakter om morgenen, fisker på ettermiddagen, gjeter flokken på kvelden og kritiserer etter middag … uten å bli en jeger, fisker, gjeter eller kritiker.»

Lengst på den negative skalaen hva bruken av KI angår, finner man på den annen side det kinesiske kommunistpartiet. Beijing har implementert et prosjekt hvor innbyggerne til enhver tid overvåkes ved hjelp av ansiktsgjenkjenningsmetoder og en halv milliard CCTV-kameraer, for så å bli rangert på en sosial krediteringsskala. En lav poengsum gir tapte muligheter til både ansettelse, reiser med kollektivtransport eller kjøp av bestemte varer (betaling må selvsagt også foretas med ansiktsgjenkjenning). Prosjektet har fått navnet «Xueliang», som kan oversettes til «skarpe øyne», etter Maos uttalelse «folket har skarpe øyne» under kulturrevolusjonens blodige forfølgelse av millioner av dissidenter. Som om ikke det var foruroligende nok, har Kina kalt selve overvåkningssystemet «Skynet». Altså navnet på datasystemet som forsøker å utslette menneskeheten i Terminator-filmene. Kommunistregimet fremstår nærmest tegneserieaktig i sin ondskap. 

En annen trussel representert ved KI, er at det potensielt kan anvendes som et masseødeleggelsesvåpen av desinformasjon og kaos. Om man når punktet der «deep fake»-videoer er umulige å skille fra den virkelige verden, og der mesteparten av innholdet på nettet er skrevet av programmer som fremstår som helt ekte mennesker, står demokratiet så vel som internett i fare for å oppløses i et virvar av forvirring. Man kan bare forestille seg sikkerhetsutfordringene ved en troverdig deep fake-video av en statsleder. Eller av en administrerende direktør, for den saks skyld, skulle noen ønske å dumpe aksjekursen til selskapet.

Theodore Roosevelt, som tjente som amerikansk president i perioden 1901-1909, talte at å «utdanne et menneske i intelligens og ikke i moral, er å skape en fare for samfunnet.» Det ser man i all tydelighet med språkprogrammene. Disse spinner på data skrevet av andre mennesker, men er ute av stand til å skille mellom god og dårlig informasjon. Slik blir de et speilbilde av menneskeheten, på både godt og vondt.

Det skapte mye furore da språkapplikasjonen til Snapchat, My AI, oppgav landssvikeren Vidkun Quisling og massemorderen Anders Behring Breivik som eksempler på norske helter. Techgigantene i California har forsøkt å balansere ut denne type tendenser ved å innprente algoritmene med sine egne verdier. Da jeg prøvde ut den omfattende politiske testen til det populære nettstedet isidewith.com på My AI, fant jeg at den var enig med den progressive venstresiden i absolutt samtlige spørsmål. Den endte følgelig opp til venstre for alle eksisterende amerikanske presidentkandidater. Av historiske kandidater var den mest på bølgelengde med Gus Hall – den stalinistiske lederen av USAs kommunistiske parti mellom 1959 og 2000.

En kan bare spekulere i hva slags verdier et kinesisk, russisk eller iransk motstykke ville ha gitt uttrykk for. KI er uansett på god vei til å bli innkalt, væpnet og sendt ut på slagmarken i den pågående informasjonskrigen. Kappløpet er allerede godt i gang: Kineserne publiserer årlig dobbelt så mange vitenskapelige papirer om emnet som USA. Ånden er ute av flasken, og den skal ikke tilbake igjen. Nietzsche hadde rett i at historien slettes ikke er noen krabbegang – vi må fremover. Eller som den tyske kansleren Otto von Bismarck (1815-1898) så det: «Statsmannens oppgave er å høre skrittene til Gud i enden av hallen, for så å henge seg fast i frakken idet Han går forbi.»

Det er ikke dermed sagt at menneskeheten er ved å skape en Golem, og slik sikre seg en reservasjon til gudenes bord. Den bulgarske science fiction-forfatteren Lyuben Dilov (1927-2008) traff spikeren ettertrykkelig på hodet med sin kløktige bemerkning: «Datamaskiner kan gi deg svarene, men de kan ikke stille spørsmålene.»

Innledning: I en tid der det florerer av såkalte «eksperter» i media, som ikke tar ...
Krig er den store ødelegger, et uhyre som sluker sannhet og godhet, velferd og frihet, ...
Det musikalske diktet Flores Malum er en port til mystikken og eventyret. Lik en meditasjonsøvelse, ...