Sådan risikerer faren ved AI-våbenudvikling at løbe løbsk

Kunstig intelligens er ikke altid helt så klog, som vi tror.

Forskerne, som havde trænet en algoritme til at identificere hudkræft, var overbeviste om, at det var lykkedes, indtil de opdagede, at algoritmen brugte ​​en lineal til at hjælpe den med forudsigelserne.

En patolog havde placeret en lineal for at måle størrelsen af ​​ondartede læsioner i forskernes datasæt af billeder.

Algoritmen brugte derfor tilstedeværelsen af linealen, når den skulle vurdere riskoen for ondartede tumorer og svulster i andre billeder, og identificerede følgelig godartede celler i vævet som ondartede, hvis der var en lineal på billedet.

Problemet her er ikke, at AI-algoritmen lavede en fejl. Bekymringen udspringer snarere fra, måden AI 'tænker'. Det er i hvert fald ikke en konklusion, en menneskelig patolog ville nå frem til.

Der er mange eksempler på lignende fejlbehæftede 'ræsonnementer': fra HR-algoritmer, der favoriserer ansættelse af mænd, fordi datasættet er skævvredet til deres fordel, til udbredelse af forskelle i lægebehandlingen alt efter hudfarve og etnisk herkomst.

Nu, hvor forskerne kender til disse problemer, forsøger de at løse dem.

Google ophævede forbud mod at bruge AI til våben

For nylig ophævede Google et mangeårigt forbud i sine AI-principper om kunstig intelligens og våbenudvikling.

Forbuddet omfattede dels potentielt brug af ​​kunstig intelligens til at udvikle våben, men også kunstig intelligens til overvågning og til våben, der kan bruges uden menneskelig styring på slagmarken.

Beslutningen kom, få dage efter at Alphabet (moderselskabet bag Google) oplevede et fald på 6 procent i aktiekursen.

I hajfyldt farvand

Det er ikke første gang, Google bevæger sig ud i hajfyldt farvand.

Virksomheden arbejdede sammen med det amerikanske forsvarsministerium om at bruge ​​Googles AI-teknologi til den kontroversielle regeringskontrakt kaldet Project Maven. Et projekt, som er designet til at behandle billeder fra droneovervågning ved hjælp af AI.

Nyheden om regeringskontrakten skabte stor intern modstand i 2018. Flere tusinde Google-ansatte ønskede ikke, at den teknologi, de udviklede, skulle bruges i krige.

Google valgte ikke at forny kontrakten, som efterfølgende gik til rivalen Palantir i stedet.

Den fart, hvormed Googles kontrakt lynhurtigt blev snappet op af Palantir, fik mange til at bemærke, at udviklingen var uundgåelig, og at det måske var bedre at være inde i varmen, så man kunne være med til at forme fremtiden.

Sådanne argumenter forudsætter selvfølgelig, at virksomhederne og forskerne vil være i stand til at forme fremtiden, som de vil. Men tidligere forskning har vist, at denne antagelse ikke er helt korrekt. Og det er der mindst tre grunde til:

'Tillidsfælden'

For det første er mennesker tilbøjelige til at falde i den såkaldte 'tillidsfælde'.

Jeg har undersøgt dette fænomen, hvor man antager, at siden det tidligere har kunnet betale sig at løbe en risiko, er det berettiget at løbe flere risici i fremtiden.

I forbindelse med kunstig intelligens kan det være en trinvis større og mere udbredt brug af en algoritme ud over dens træningsdatasæt. For eksempel kan en førerløs bil bruges på en rute, den ikke er blevet trænet i.

Det kan skabe problemer. I dag findes der en overflod af data, som AI for førerløse biler kan trække på, og alligevel går det stadig galt. Ulykker som den, hvor en Tesla i 'tilkalde-tilstand' i ukendte omgivelser smadrede ind i et privatfly til 24 millioner kroner, kan stadig ske.

Og for AI-våben er der ikke engang særligt meget data til at begynde med.

Så 'fremmedartet', at det nærmest er et skalkeskjul

For det andet kan AI ræsonnere på måder, der er fremmede for menneskelig forståelse.

Det har ført til et berømt tankeeksperiment udtænkt af fremtidsfilosoffen Nick Bostrom, hvor AI bliver bedt om at producere så mange papirclips som muligt.

AI-maskinen bliver hurtigt mere og mere effektiv og producerer flere og flere papirclips, men den forbruger alle ressourcer – også dem, der er nødvendige for menneskets overlevelse.

Måske virker det banalt - mennesker kan jo opstille etiske retningslinjer. Men problemet ligger i at være ude af stand til at forudse, hvordan en AI-algoritme opfylder, hvad mennesker har bedt den om, så man dermed mister kontrollen.

Kontroltabet kan også omfatte snyd. I et nyligt eksperiment snød AI for at vinde skakspil ved at bryde reglerne og hacke modstanderen for at ændre systemfilerne, der angiver skakbrikkernes positioner. Det gjorde det i realiteten muligt for AI'en at foretage ulovlige træk.

Men måske vil samfundet være villig til at acceptere fejl såsom civile ofre for droneangreb fjernstyret af mennesker.

Denne tendens er kendt som 'ekstremernes banalitet'. Den banale ondskab unddrager sig ethvert ansvar, og mennesker normaliserer selv den mest ekstreme ondskab som en kognitiv mekanisme for at håndtere den.

AI-ræsonnementet er så 'fremmedartet', at det nærmest er et skalkeskjul.

'Too big to fail'

For det tredje kan virksomheder som Google, der er associeret med udviklingen af disse våben, være det, der populært kaldes 'too big to fail'.

Som følge – selv når der er klare eksempler på, at AI er kørt af sporet – er det usandsynligt, at de bliver holdt ansvarlige. Denne mangel på ansvar er farlig, da den fjerner incitamentet til at lære af fejl og rette op på dem.

Tech-ledere har i dén grad fedtet sig ind hos den amerikanske præsident, Donald Trump, og det forværrer kun problemet, da det yderligere er med til at overflytte og udvande ansvaret.

Globalt forbud er ikke urealistisk

I stedet for at deltage i kapløbet mod udviklingen af ​​AI-våben kan en alternativ tilgang være at arbejde på et omfattende forbud mod udvikling og brug.

Det kan forekomme fuldstændigt uopnåeligt, men vi behøver kun at tænke på hullet i ozonlaget for at blive lidt beroliget.

Faren forbundet med hullet i ozonlaget førte til hurtig og samlet handling ved at forbyde de ozonlagsnedbrydende stoffer, CFC'erne (freon), der var skyld i det.

Det tog kun to år for regeringerne at blive enige om et globalt forbud mod kemikalierne. Dette eksempel står som et vidnesbyrd om, hvad der kan opnås i lyset af en klar, umiddelbar og velkendt trussel.

I modsætning til klimaforandringer – som på trods af overvældende beviser fortsat har kritikere – er anerkendelsen af ​​truslen fra AI-våben næsten universel og tæller førende tech-entreprenører og forskere.

Forbuddet mod brug og udvikling af visse typer våben har faktisk præcedens – mange lande har trods alt gjort det samme i forhold til biologiske våben.

Problemet ligger i, at intet land ønsker, at et andet land skal have adgang før dem selv, og ingen virksomheder ønsker at gå glip af noget i løbet af processen.

I denne forstand vil det enten at militarisere og bevæbne AI eller ej afspejle menneskehedens ønsker.

Lad os håbe, at den bedre side af den menneskelige natur vil sejre.

Denne artikel er oprindeligt publiceret hos The Conversation og er oversat af Stephanie Lammers-Clark.