Giv mig sindsro til at acceptere de algoritmer, jeg ikke kan forandre, mod til at forandre de algoritmer, jeg faktisk kan forandre, og visdom til at se forskellen.

At maskinerne bliver klogere og klogere ved vi allerede. Men ved vi også, hvad det er for en verden, vi skal gøre os klar til fremover?

Ifølge Peter Svarre står vi overfor flere vigtige diskussioner:

Hvad sker der, når data bliver vigtigere end olie, når computere træffer beslutninger om liv og død, og når maskinerne tager vores arbejde?

Og hvad hvis robotterne bliver klogere end os, eller de bliver lige så fordomsfulde som mennesker?

Denne snigende computerrevolution begyndte allerede i 1200-tallet med arabiske Zairja, verdenshistoriens første krypteringsalgoritme. Fra Zairja går en lige linje til Turing der under 2. verdenskrig bryder koden i tyskernes krypteringsmaskine. Med maskinlæring kom der gang i udviklingen. Nu kunne man fodre datamaskinerne med data, og så udviklede de deres egne algoritmer baseret på statistik og mønstre. Det tog sin tid, men med internettet og den stadigt voksende digitalisering blev det lettere at gemme store mænger data og genkende mønstrene i dem. Google satte et neuralt netværk til at analysere indholdet af YouTube-videoer. 1.000 computere med 16.000 processorer blev fodret med 10 millioner af de små billeder, man klikker på for at starte en YouTube-video. Efter tre dage kunne man fastslå, at det neurale netværk havde lært sig selv at genkende katte – internettets yndlingsobjekt.

Dette anlæg for mønstergenkendelse udnyttes i samfundets tjeneste. Eksempelvis forudser et neuralt netværk ved opkald til 112, hvornår der er tale om hjertestop, og det er netværket statistisk bedre til end de professionelle mennesker.

Men neurale netværk har deres fejl og mangler, og Peter Svarre nævner ti væsentlige punkter, hvor de kommer til kort. De kan for eksempel ikke vurdere, om en sammenhæng er tilfældig: Skulle man tro neurale netværk, er der en sammenhæng mellem mængden af ost, som en amerikaner indtager og antallet af personer der dør af at blive viklet ind i deres sengetæppe.

Etikken er en sag for sig, og her er nogle grumme eksempler på robottens valg: En kirurg mangler organer til fem mennesker. Får de ikke organerne, inden dagen er omme, dør de. Kirurgen tager organerne fra en assisterende sygeplejerske. Hun dør, de fem patienter overlever.

Eller hvad hvis den selvkørende Tesla pludselig mødes af en gammel dame midt på vejen. Bilen svinger hurtigt til siden lige ind i fem børnehavebørn. Hvad gør et menneske, og hvad gør en robot?

En forsker mener, at de mange etiske spørgsmål kan løses, ved at den kunstige intelligens ser på skønlitteraturen, men hvem skal afgøre, hvilken skønlitteratur der skal danne grundlag for moralsk adfærd?

En del virksomheder bruger robotter til at læse CV’er, når de skal ansætte. Problemet er her, at robotten kender virksomhedens historiske data, herunder hvilke uddannelser og erfaringer der har karakteriseret de mennesker, virksomheden tidligere har ansat, men robotten har ikke forståelse for, at der kan komme nye emner med andre navne fra andre uddannelsesinstitutioner. Der er altid risiko for skæve data.

Der er eksempler på robotter der har lært sig racistiske fordomme, og generelt er der adskillige spørgsmål der skal tages op, så fremtidens etik ikke skal grundlægges på 27-årige programmørers humør.

Peter Svarre har forskellige forslag til, hvordan vi omgås den kunstige intelligens, herunder en mærkningsordning, der angiver når et produkt er fremstillet udelukkende af mennesker, en national investeringsfond der omfordeler værdier fra dem der ejer maskinerne til dem, der står uden job på grund af maskinerne (ikke nogen helt ny ide), understøttelse af organisationer der udfører non-profit-arbejde, som fokuserer på relationer mellem mennesker.

Til illustration af den kunstige intelligens fortæller kapitlet Menneskets sidste opfindelse om en kinesisk computer der øger sin intelligens fra 143 til 7.326 på to år og derefter overtager kontrol med al infrastruktur og begynder at kolonisere universet.

Skræmmende, men ikke umuligt. Der er mange ting, der skal diskuteres, men bogen slutter i en optimistisk tone og store forventninger til en ansvarlig debat.

Hvad skal vi med mennesker?

En bog om kunstig intelligens

Peter Svarre

256 sider

Gyldendal

Udgivet: 18.01.2019

Birte Strandby