Digital dommedag: Byd velkommen til Homo Sapiens 2.0

Kunstig intelligens overtager vores livsvalg, mens de sociale mediers algoritmer gør os afhængige. I en døs af lykke bliver vi tilintetgjort som frie mennesker, mener præsten Peter Danielsen.

Af Sarah Thorngreen Auken

Jeg sidder i toget og et gammelkendt landskab suser forbi. Jeg er på vej over til Peter Danielsen. Vi er gamle venner fra vores studietid i Aarhus. Vi spillede sammen i et Leonard Cohen-band, drak mange øl og festede. I dag er han sognepræst og bor i Danmarks ældste præstegård på Norddjursland.

Stillekupeens skærme lyser op. I gamle dage var det stedet at sove eller læse. Nu er det et sted, hvor man kan sidde i fred med sin skærm. Pigen ved siden af mig googler ‘fordøjelsessystemets organer’.

Hun ligner en studerende, og jeg tænker, om hun ikke har en studiebog? Hvorfor forlader hun sig på de første ti googleopslag?

Det er blandt andet det, jeg skal tale med Peter om. Han mener, at vi er ved at blive alt for afhængige af teknologien. At vi er ved at overgive vores liv til den.

Selv sidder jeg nok nogle gange med hovedet lidt for meget nede i min mobil. Men at jeg skulle have overgivet mit liv til teknologien, har jeg svært ved at se. Jeg er forholdsvis optimistisk på menneskehedens vegne.

Supercomputer erstatter kræftlæger

Præstegården ligger langt ude på landet, omgivet af marker og himmel. Fra huset kan ens blik vandre uden at blive stoppet. Man kan både føle sig meget lille og føle, at man er en del af en meget stor helhed.

Det er, som kan man se ind i evigheden. I den stråtækte præstegård er der til gengæld lavt til loftet, og Peter må selv bukke sig flere gange, når han går igennem huset.

 

  Hvis vi ikke er opmærksomme på, hvad der sker, risikerer vi, at nettets algoritmer gør os til dopamin-junkier. Peter Danielsen, præst

 

På universitetet beskæftigede han sig med forholdet mellem teologi og kunstig intelligens. Dengang var det svært at tage alvorligt. Det var en del af et dystopisk fremtidsunivers i samme kategori som science fiction-film, “Blade Runner”, “Alien”, “Robocop”. Det havde bestemt ikke noget med mig at gøre.

Vi sidder i sofaen, og i baggrunden synger Leonard Cohen “I’ve seen the future, brother, it is murder.” Peter siger, at kunstig intelligens er overalt.

“Der er en gråzone, hvor den kunstige intelligens i stigende grad interagerer med den menneskelige bevidsthed. De, der beskæftiger sig med kunstig intelligens, vil sige, at vi er meget langt fra at skabe en kunstig bevidsthed, der minder om menneskets. Men samtidig bliver der skabt superintelligenser, som på centrale områder er mennesket overlegne.”

Peter fortæller om intelligenser, der lynhurtigt kan overskue, sammenholde og analysere enorme datamængder. IBM har skabt en kunstig intelligens med navnet Watson. I 2011 konkurrerede Watson mod to tidligere vindere i det amerikansk quiz-show Jeopardy og vandt. I dag bliver den brugt i kræftbehandling.

Den kan læse en ufattelig mængde statistisk og lægefagligt materiale og diagnosticere en patient hurtigere, end en læge magter, og endda foreslå forskellige behandlingsstrategier.

“Det er naturligvis godt. Men hvis det bliver maskiner snarere end læger, der diagnosticerer os, så bliver vi også mere og mere afhængige af teknologien,” siger han.

De sociale medier gør os til dopaminjunkier

Han forudser en udvikling, hvor vi overlader stadig flere beslutninger til algoritmer, fordi de – i al deres umenneskelighed – laver færre fejl.

“Vi ser det allerede i den finansielle sektor. De algoritmer, som styrer dér, er meget avancerede og i den forstand intelligente, men de er altså ikke bevidste. Noget meget intelligent, men for så vidt bevidstløst, træffer en masse livsvigtige beslutninger for os.”

Men selv om algoritmerne selv er ubevidste, så påvirker de vores bevidsthed, vores følelser. Det er det, der sker, i de nye, digitale fælleskaber – de sociale medier.

“At indgå i menneskelige fællesskaber gør os lykkelige. Det forstår folkene bag Facebook, hvorfor de tidligt indførte Like-knappen. Når vi ser, at nogen ‘liker’ vores opslag, udløser det dopamin – et signalstof i hjernen, der er forbundet med lykkefølelse,” siger Peter.

“Det er jo dejligt, men hvis vi ikke er opmærksomme på, hvad der sker, risikerer vi, at nettets algoritmer gør os til dopamin-junkier.”

 

  Vi lever i en tid, hvor det optimale liv ikke kan defineres. Hvornår har vi fået fordele nok? Derfor rykker grænserne sig hele tiden. Peter Danielsen, præst

 

Han fortæller, at undersøgelser viser, at mange oplever den samme lykkefølelse ved for eksempel
at spille Candy Crush, som kokainafhængige gør, når de får deres stof. Det er de samme områder af hjernen, der udløser de samme stoffer hos stofafhængige som hos netafhængige.

Der er en eksplosion af spilafhængighed blandt unge både i Danmark og på verdensplan.

“Google, Facebook og andre multinationale selskaber indsamler oplysninger, vi selv giver dem, og bruger dem til at gøre os endnu mere afhængige. Mange, der mærker denne afhængighed, dropper Facebook, men får abstinenssymptomer og vender tilbage igen. Og Facebook er blot én spiller ud af tusinder,” siger Peter.

En superintelligent elite

Jeg er skeptisk. Er der ikke også mange fordele ved algoritmerne? Vejer fordele og ulemper ikke hinanden op? Får vi ikke et bedre liv?

Peter svarer, at netop fordi der er mange og store fordele, er det også farligt.

“Vi lever i en tid, hvor det optimale liv ikke kan defineres. Hvornår har vi fået fordele nok? Derfor rykker grænserne sig hele tiden. Det naturlige – det oprindelige – vil forsvinde. Du vil ikke længere kunne mærke efter, om du har det godt. Du har en maskine, der fortæller, om du har det godt.”

“Du vil ikke sige til dig selv: ‘Er jeg forelsket i denne her person? Er han tiltrækkende?’ Nej, en algoritme kan afsløre, om I har meget til fælles, og om I derfor har potentialet til at være lykkelige. Det bliver algoritmer, som bestemmer dine livsvalg. Men spørgsmålet er, om det, som gør os menneskelige ikke netop er, at vi selv træffer beslutningerne om vores eget liv?”

Han peger på, at teknologien har andre mål end os. Producenterne skal optimere og udvide deres marked. Det er økonomi – uden skelnen til de mentale omkostninger.

Foto: Miklós Szabó

Peters digitale dommedagsscenarie er ikke noget med terminator-robotter i nævekamp. Det er, at vi lader algoritmer overvåge og manipulere os, så vi mister vores menneskelighed. At vi vil være i en døs af lykke, mens vi, uden at opdage det, bliver tilintetgjort som frie mennesker.

“Og så vil der være en lille elite, som ikke engang behøver at være mennesker – det kan være algoritmerne selv, der er eliten. Den elite vil være superintelligent og hinsides kroppens forgængelighed. De ville kunne videreudvikle sig til Homo Sapiens 2.0. Eller måske Homo Deus, gudsmennesker.”

“Det er jo tragisk. Fordi mennesket er så ensomt, er det i fuld gang med at tilintetgøre sig selv på et mentalt plan.”

Peter peger på fortællingen om Guldkalven i Bibelen: Mens Moses var oppe på Sinaj-bjerget for at modtage De Ti Bud, blev israelitterne trætte af at vente og begyndte at tilbede et afgudsbillede, en guldkalv.

“Det er også et billede på det moderne menneskes tiltro og tillid til sine egne kulturelle frembringelser. Vi insisterer på, at det ultimative liv og samfund er tilgængeligt lige om hjørnet. Sådan har det været for alle totalitære bevægelser. Når mennesker tror, at de nærmest er guddommelige, følger der altid en umenneskelighed med i kølvandet.”

Hånden løftet til hilsen

På vej i seng går jeg forbi en stjernekikkert, som står i en af Peters mange stuer. Tidligere på aftenen har Peter fortalt om Voyager 1. Det er en rumsonde, som NASA sendte op i 1977. Den er nu på vej ud af solsystemet, ud i det interstellare rum.

Ombord er der en pladespiller, hvor jordens børn har indtalt en hilsen på 200 forskellige sprog. Der er også en guldplakette. Det forestiller en nøgen mand og kvinde. Manden har løftet hånden, som hilser han på en gammel nabo.

“Jeg tror, at Leonard Cohens sang ‘Everybody knows’ har en reference til det,” siger Peter.

“Der er et vers, som handler om AIDS – firsernes pest, som mange frygtede skulle gøre det af med menneskeheden. Hvis man i ordet ‘plague’ (pest, red.) skifter g ud med q, bliver det til ‘plaque’ – en plakette.”

And everybody knows that the Plague is coming
Everybody knows that it’s moving fast
Everybody knows that the naked man and woman
Are just a shining artifact of the past

“Det er da bevægende at tænke på,” siger Peter.

“Om 50.000 år vil den nå et nyt solsystem. Så er menneskeheden måske død og borte. Det eneste, der er tilbage, er et billede af mennesket med armen rakt ud til en hilsen. Til kontakt.”

Jeg går i seng. Tjekker min Facebook og Instagram og slukker lyset. En uendelig stjernehimmel, som jeg ikke mindes at have set i flere år, ikke i Rødovre i hvert fald, er mit himmelgardin. At falde i søvn med dén udsigt er som at synke ind i himlen.

Sarah Thorngreen Auken er sognepræst i Søborg samt mediekonsulent og SOME-redaktør i Helsingør Stift.