När Harop har kommit till radarsignalernas källa exploderar den tillsammans med radarn, radaroperatören och allt i dess omgivning.
I flera decennier har moderna vapen använt system som tar hjälp av ljud, värme och radarsignaler för att lokalisera sina mål. Men de allra flesta förarlösa flygplan och pansarvagnar styrs med fjärrkontroll. Det finns dock ett fåtal system som utan mänsklig medverkan kan ta beslut om vilka mål de ska attackera, och hur och när detta ska ske. Harop är ett av dessa. Det svenska fredsforskningsinstitutet Sipri har identifierat totalt 48 stycken sådana system, som kan agera på egen hand. Än så länge används de framförallt för att försvara skepp från attacker i situationer där den mänskliga reaktionsförmågan inte räcker till, men allt fler autonoma vapen utvecklas även för att kunna användas vid angrepp, och de blir allt mer avancerade och självständiga.
Väcker många moraliska frågor
Detta väcker många moraliska, etiska, politiska och juridiska frågor. Flera av dessa belystes i en debattartikel i augusti 2017 skriven av en rad framstående forskare, däribland Stephen Hawkins, Noam Chomsky och svenska fysikern Max Tegmark. De menade att frågan om AI-vapen var den tredje stora händelsen i utvecklingen av krig, sedan krutet och kärnvapnen, och slog fast att ”Nyckelfrågan för mänskligheten i dag är om man ska starta en global kapprustning av AI-vapen eller förhindra en sådan.” De konstaterade också vad en sådan kapprustning kommer att leda till: ”autonoma vapen kommer att bli morgondagens Kalasjnikovs”. Detta eftersom det inte kommer att vara möjligt att kontrollera i vems händer som tekniken hamnar. Till skillnad från vid tillverkningen av exempelvis kärnvapen krävs nämligen inte samma mängder av dyra och svåråtkomliga råmaterial.
– AI-vapensystem kan lättare framställas av icke-statliga aktörer jämfört med kärnvapen, där anrikning och stora åtgärder behövs. Samvetslösa företag kan sätta vissa autonoma vapensystem, typ drönare med bomber eller kemvapen, i händerna på terrorister eller skurkstater, säger Katinka Svanberg som forskar inom folkrätt vid Stockholms universitet.
Ungefär 30 stater och en rad organisationer har anslutit sig till uppropet ”Kampanj för att stoppa mördarrobotar.” I riksdagen har både vänsterpartister och miljöpartister drivit på för att Sverige ska ansluta sig, utan framgång. Utanför de politiska partierna drivs linjen av bland annat Svenska Freds. Deras ordförande, Agnes Hellström, menar att autonoma vapen sänker tröskeln till krig. Detta dels eftersom insatsen sänks för de stater som har autonoma vapen, de behöver inte riskera sina egna soldaters liv, dels eftersom dessa vapen varken behöver mat eller sömn och kan bedriva krigföring dygnet runt.
– Dessutom försvinner den mänskliga moral och eftertänksamhet som påverkar de beslut som soldater tar i krig. Det har dokumenterats att soldater i strid ofta med flit missar målen, men det kommer inte mördarrobotar att göra. Tvärtom är de utvecklade att fatta snabba beslut som är frikopplade från det mänskliga ansvaret och från mänskliga beslut, säger hon och fortsätter:
– Kärnvapen finns redan och är äntligen på god väg att förbjudas, men med autonoma vapensystem finns fortfarande möjlighet att förbjuda dem innan de börjat användas. Förhoppningsvis kan ett förbud komma till stånd innan utvecklingen drar igång på allvar.
Internationellt förbud
Det pågår förhandlingar i FN om att införa ett internationellt förbud mot autonoma vapensystem. Flera stater med stor militär makt, såsom Frankrike, Tyskland, USA, Ryssland och Storbritannien är dock emot ett särskilt förbud av autonoma vapen. Ett av argumenten som de framfört är att tillräckliga garantier redan finns, eftersom Genèvekonventionerna redan i dag förbjuder vapensystem som förorsakar onödigt lidande eller överflödig skada och vapensystem som är urskillningslösa till sin natur. Frågan är om autonoma robotar är kapabla att göra sådana komplicerade avvägningar som skulle krävas för att väga mänskliga liv vägs mot militära framsteg och undvika exempelvis ”onödigt” lidande.
– Det har alltid kommit nya vapen och dessa styrs oftast bäst av krigets lagar i Genèvekonventionerna. Men när vapen som är så annorlunda och potentiellt farliga skapas, så ska de helst inte förekomma, eller i varje fall regleras i särskilda icke-spridningsavtal eller genom förbud mot användning, säger Katinka Svanberg, doktor i folkrätt.
Vilka möjligheter ser du att reglera eller stoppa autonoma vapen genom internationella avtal?
– Jag tror på möjligheten av flera olika konventioner som reglerar autonoma vapen från FN och andra internationella organisationer. Problemet finns på många nivåer, bland annat skulle det vara enkelt för de multinationella privata frötag som driver utvecklingen att lätt flytta sin verksamhet med farlig AI till stater som inte är anslutna till konventionerna. Men även dessa stater kan bindas på sikt när innehållet blivit sedvanerätt, säger Katinka Svanberg.
De flesta stater är överens om att någon form av mänsklig kontroll ska krävas vid vapenanvändning, men det råder oenighet om vad detta innebär. En av svårigheterna är att definiera vad som avses. Ska det räcka med att en människa sätter på vapensystemet likt en tvättmaskin, som sedan gör jobbet själv? Eller krävs en djupare kunskap om sammanhanget? Enligt den schweiziska definitionen är autonoma vapen de som kan ”agera helt eller delvis utan mänsklig inblandning, särskilt när det gäller valet av militära mål”. Denna definition inkluderar exempelvis Harop-drönaren. Den brittiska definitionen är däremot betydligt snävare och omfattar endast de vapen som är ”kapabla att förstå syfte och anvisningar”, vilket gör att de vapensystem som finns i dag inte inkluderas i begreppet. För Svenska Freds är dock definitionsfrågan inte det mest relevanta.
– Global nedrustning är vårt långsiktiga mål och vi arbetar för att förbjuda fler vapentyper än de som definieras som autonoma. Vi strävar efter att konflikter ska lösas utan militära medel och definitivt inte med vapensystem som är frikopplade från mänsklig inblandning, eftersom det blir ännu ett steg bort från diplomatiska icke-vålds-lösningar, säger Agnes Hellström.
”Gjorde det till produktionsarbete”
Även om de autonoma vapnen inte har slagit igenom på bred front ännu så har processen där människor flyttats allt längre från slagfälten pågått i decennier, framförallt sedan förarlösa farkosterna och drönarna gjorde sitt intåg i den militära världen. I takt med att våldet flyttats in i en trygg kontorsmiljö har den militära personalen distanserats från våldets humanitära konsekvenser. Det visar den före detta militären Anders Malm i ny, internationellt unik, forskning vid Göteborgs universitet. Han har genomfört deltagande observationer och intervjuer med närmare 40 stabsofficerare och undersökt vad det är som formar byråkratiseringen av våld inom Försvarsmaktens operativa verksamhet.
– Min forskning visar att den här byråkratiseringen är så pass genomgående att det inte är ovanligt att stabsofficerare inte ser sig själva som utövare av militärt våld, utan som byråkrater. Att arbeta med våld har blivit detsamma som att arbeta med Excellistor och Powerpoints, säger Anders Malm.
Vad leder det till?
– Det riskerar att föra med sig att fienden förminskas och distansieras, man kanske inte ens tänker på att det är människor det handlar om i andra änden av linan. Det innebär också att högre chefer sällan ställs inför några riktiga moraliska dilemman när det gäller våldsutövning eftersom våldet inte syns bland alla listor och färggranna diagram, säger Anders Malm.
Tror du att utvecklingen av autonoma vapen kommer att förstärka byråkratiseringen?
– Ja, det spär på det som jag har identifierat, det finns en stark koppling. Militära organisationer har en tendens att anpassa och leda sin verksamhet utifrån hur teknikutvecklingen går. När kulsprutan uppfanns så hittade militären arbetssätt och rutiner som gjorde det till någon slags produktionsarbete att sköta ett sådant vapen. Om man tittar på tiden runt världskrigen så blev soldaten som en arbetare i en fabrik, men som i detta fall skötte ett maskingevär. Den utvecklingen fortsätter, när det utvecklas obemannande farkoster förändras också arbetssätten för staberna.
Blir det lättare att ta till våld?
– Ja, det riskerar att sänka trösklarna för våldsanvändning när de humanitära konsekvenserna av militärt våld går förlorade, till följd av de byråkratiska rutinerna. Särkilt med tanke på att fienden förminskas och i vissa fall till och med utraderas som en mänsklig referenspunkt i det operativa arbetet, säger Anders Malm.
PRENUMERERA PÅ ETC HELG
Den här artikeln kommer från veckans ETC Helg.
Vill du prenumerera för under 16 kronor numret?
Här kan du teckna en prenumeration.
