Illustrasjon 2020 Brian Stauffer for Human Rights Watch
Skrevet av: Elias voldset Risung
Med god grunn tar krig, klimaendringer og atomtrusler stor plass i media. Men samtidig foregår det en revolusjon i militære anliggender som ikke i nærheten får oppmerksomheten den fortjener. Nok en gang har mennesker klart å utvikle våpen med potensial for enorme ødeleggelser. Det snakkes for lite om autonome våpensystemer, og disse er kommet for å bli.
Autonome våpensystemer, kjent som LAW (‘autonomous lethal weapons’ på engelsk) er i stand til å velge og angripe mål uten menneskelig inngripen eller kontroll. Fiendtlige mål kan identifiseres og angripes ved bruk av kunstig intelligens (KI), sensorer, og beslutningsalgoritmer. Slike systemer kan operere uavhengig og ta beslutninger om bruk av dødelig makt basert på sin programmering og situasjonsanalyse. Det ovennevnte beskriver LAW i sin mest rendyrkede form, men grad av selvstendighet og menneskelig kontroll kan variere. Dette høres futuristisk ut, men slike våpen utvikles av en håndfull land, og benyttes for tiden blant annet i Ukraina.
Kritikere kalles slike våpen for drapsroboter for å belyse etiske, juridiske og humanitære bekymringer, da dets bruk kan undergrave en rekke aspekter ved tradisjonell krigføring. Én ting er hvor det menneskelige ansvaret ligger når uskyldige menneskeliv går tapt som følge av LAW. Mennesker, ikke maskiner, må kunne holdes ansvarlig. En slik mental sikkerhetsmekanisme for maktbruk fjernes når personlig ansvar blir utydelig. Et annet moment er systemets mangel på menneskelig dømmekraft og forståelse av komplekse og dynamiske stridssituasjoner. Slike situasjoner kan ikke løses tilfredsstillende gjennom forhåndsprogrammering. Det er ofte som Mike Tyson sa om kampforberedelser: «Everyone has a plan until they get punched in the mouth»:
Tilhengere viser til at autonome våpensystemer har sine fordeler i militær sammenheng. Rekkevidden kan økes, reaksjonstiden kan reduseres, presisjonen kan forbedres, og risikoen for eget personell reduseres. Og kanskje får man også mer for pengene. Isolert sett kan slike teknologiske fremskritt være fordelaktige, spesielt dersom fremskrittene samlet sett bidrar til å redusere lidelse. På den andre siden senkes terskelen for bruk av voldelig makt når risikoen er lav og fortjenesten er høy. Dessuten, i et langsiktig perspektiv, vil fordelene jevnes ut når våpensystemene blir mer tilgjengelige. Man ender da opp i våpenkappløp om å produsere stadig mer dødelige versjoner. For å trekke en parallell – e-post frigjorde ikke akkurat mye tid i jobbsammenheng, like lite som atomvåpen har redusert spenning.
Forsvarskommisjonen, som nylig la frem sin rapport, viser til ulempene med slike våpensystemer. Men på samme måte som kunstig intelligens avgjørende for autonome våpensystemer, mener Forsvarskommisjonen at evnen og viljen til å utvikle og bruke KI og autonome våpensystemer vil være avgjørende for moderniseringen av Forsvaret de neste tjue årene. Norge bør, i deres øyne, være ledende på området. Av samme grunn som Norge ikke vil slutte seg til FNs atomvåpenforbud, er frykten for å stå igjen alene uten slike våpen i møte med en motpart, en motivasjon for å bli med i kappløpet.
Forsvarskommisjonen erkjenner at LAW uten menneskelig kontroll er uforsvarlig. Men hvor lett er det å sette grensen for akseptabel menneskelig kontroll i praksis? Veien fra “fjernovervåkede systemer” – systemer der operatøren gir systemet et oppdrag, overvåker og griper inn om nødvendig – til fullstendig autonomi er ikke lang. Potensialet for misbruk vil alltid finnes. Når ting tar seg til i konflikten og kampens hete, øker sjansen for å ta i bruk enhver kapabilitet som kan vippe situasjonen i egen favør.
Når Kommisjonen anbefaler Forsvaret å utvikle autonome våpensystemer, legitimeres LAW ytterligere. Skal Norge bli ledende på LAW, må Norge samtidig stå i spissen for regulering –ikke bare fordi autonome våpensystemer vil bli en fremtredende del av fremtidens slagmark, men fordi Norge har en moralsk plikt. For eksempel kan Norge slutte seg til Den internasjonale kampanjen for å stoppe drabsroboter, som i skrivende stund har 27 underskrifter (deriblant kun ett europeisk land, Østerrike). Norge bør gå frem som et godt eksempel, for la ikke autonome våpensystemer bli enda et våpen som hemningsløst blir tatt i bruk før katastrofen er et faktum.
Norges Fredsråd er medlem av Campaign to Stop Killer Robots