Tre personer dödades i somras i ett ryskt drönarangrepp där attackens slutmål inte valdes av en människa. Fallet är det första dokumenterade där självstyrande AI har orsakat civila dödsoffer. ”Vi är nu farligt nära att korsa en moralisk röd gräns”, skriver FN:s generalsekreterare António Guterres.
Många ser utvecklingen som oroväckande, men Helen Frowe, professor och chef för Stockholm Centre for the Ethics of War and Peace, som forskar om krigets etik, ser inte något radikalt skifte mellan attacken med en autonom drönare och andra typer av vapen.
– Jag tror inte att det är värre att dödas av en drönare än av en soldat, säger hon.
Drönaren som genomförde attacken i Zaporizjzja i början av juli var utrustad med en minidator och hade inga antenner, rapporterar The New York Times. Enligt analyser hade den troligen programmerats att flyga mot en specifik bensinstation, och sedan rikta in sig på ett slutmål den utsåg själv. Ett beslut i slutskedet som alltså inte fattades av en människa.
Helen Frowe, professor och chef för Stockholm Centre for the Ethics of War and Peace. Foto: Privat
Ingen kontroll
Den verkliga risken med AI är att krig kan bli billigare och enklare, säger Helen Frowe, som poängterar att en algoritm eller ett program inte kan fatta egna beslut.
– En drönare är inte särskilt annorlunda än till exempel en landmina. Den som placerar ut den har ingen kontroll över vem den dödar, den dödar den som trampar på den.
Den etiska frågeställningen handlar om vem som dödar vem, och varför, anser hon, inte om vilka vapen som används.
– Men jag tror att ett problem är att det blir lättare för regeringar att föra krig eftersom de inte behöver riskera sina egna medborgares liv i samma utsträckning.
Om soldater inte kommer hem i liksäckar tenderar ett krig att vara mindre kontroversiellt på hemmaplan, säger Frowe.
Precision
Drönare kan leta mål med större precision än vad en mänsklig pilot kan göra, anser vissa. Men skeptiker hävdar att drönare som väljer slutmål kan vara mer benägna att göra misstag eller bryta mot krigets lagar, till exempel genom att inte kunna skilja mellan civila och stridande.
Både FN och Röda Korset vill att länder ska anta förbud och restriktioner mot att använda autonoma vapensystem.
”Vi är nu farligt nära att korsa en moralisk röd gräns: att maskiner på egen hand riktar in sig på människor. Innovation måste tjäna mänskligheten – inte äventyra den”, skriver FN:s generalsekreterare António Guterres på X.
Helen Frowe poängterar att en drönare inte får panik, och inte är stressad eller trött.
– Den har inte den sortens mänskliga svagheter, men problemet är förstås att den i fel händer gör det väldigt enkelt att döda människor.
