Killing the Killer Robots. Dankzij België en ... Open VLD?

Persbericht - 26/04/2024

Op 17 april 2024 keurde de Kamercommissie Defensie het wetsvoorstel op een verbod op killer robots goed. Het is niet de eerste keer dat België pioniert in internationale veiligheid. Want op 19 februari 2004 voerde België als eerste land ter wereld een verbod op clustermunitie in.  Hierna volgde een domino-effect en uiteindelijk in 2008 kwam het internationale verbod op clustermunitie tot stand. En in 1995 was het de koploper in de ban op anti-persoonsmijnen.

Al sinds 2013 pleit het internationale netwerk “Campaign to Stop Killer Robots”, waar Pax Christi Vlaanderen deel van uitmaakt, voor een verbod op autonome wapensystemen (AWS) of killer robots[i]. Dit soort wapensystemen zijn nu nog niet actief op het slagveld. Maar met de stijgende defensiebudgetten en de huidige beschikbare technologie[ii] is de inschakeling van zulke systemen slechts een kwestie van een paar jaar. 

“Er is een enorme urgentie om een duidelijk internationaal wettelijk kader te voorzien voor deze wapensystemen. Als killer robots op termijn wereldwijd worden ingezet, dreigen de gevolgen niet te overzien. Daarom is het van het hoogste belang dat België dit verbod afkondigt en andere landen het voorbeeld van België volgen.” duidt Naomi Zoka bewegingswerker Veiligheid & Ontwapening van Pax Christi.

Wordt België pionier in internationale veiligheid of gewoon een winstfabriek van de wapenindustrie? Open VLD heeft de sleutel in handen.

Zullen we effectief het eerste land zijn met een verbod? Op 30 april wil N-VA het verbod opnieuw agenderen. killer robots zou veel jobs kunnen creëren, valt bij de N-VA te horen. Bij Open VLD is het voorlopig nog stil.   

We hebben onze twijfels of het effectief tot een significante jobcreatie zal leiden. Zal het niet, zoals meestal bij oorlog, een winstgevende activiteit zijn voor een kleine groep industriëlen uit de wapenindustrie? Weegt deze zeer hypothetische kans op meer jobs niet op tegen het maatschappelijk leed en het grote gevaar voor de bevolking, zowel in binnen- als buitenland.” duidt Naomi Zoka.

We verwachten van de Open VLD dat zij primair voor menselijke veiligheid kiezen. Meer nog. Open VLD heeft vandaag de sleutel in handen om België opnieuw te laten pionieren in internationale veiligheid, net zoals in 1995 en 2004. Een historische beslissing met verstrekkende gevolgen want de gevaren en risico’s van killer robots zijn ongezien.

Grote risico’s en onvoorziene gevolgen van killer robots

Volgens voorstanders van killer robots zijn ze kostenefficiënt en is het risico op ‘doodskisten’ van soldaten veel lager aangezien er minder ‘boots on the ground’ zullen zijn.

Maar deze ‘voordelen’ wegen absoluut niet op tegen de vele gevaren. Dreigen deze voordelen ook geen averechts effect te hebben? Minder kosten en minder risico’s op doden in het eigen leger zetten net de deur op om sneller naar geweld te grijpen met dus meer gewapende conflicten tot gevolg. Bovendien lopen computersystemen altijd het gevaar gehackt te worden door een ander land of zelf door een terroristische organisatie.

Maar misschien nog essentiëler: er bestaan grote twijfels of een killer robot in staat is altijd het onderscheid te kunnen maken tussen burgers en soldaten. En wat als één autonoom systeem geconfronteerd word met een ander? Daar hebben we het antwoord zelfs nog niet op. 

AI-onderzoek[iii] van januari 2024 vertoonde zorgwekkende resultaten: AI zou zonder ervoor geprogrammeerd te zijn liegen en bovendien zijn eigen afwijkingen verstoppen als zijn programmeur ze probeert op te lossen. Autonome wapensystemen krijgen hierdoor wel een erg bevreemdende connotatie. Dit onderzoek staat niet alleen. Al in 2018 waarschuwden 4500 AI experten en meer dan 26000 andere wetenschappers in een open brief voor de gevaren en vroegen beleidsmakers nieuwe wetgeving op te stellen tegen killer robots.

Pax Christi is verheugd dat onze beleidsmakers de gevaren van killer robots inzien en België opnieuw op het punt staat een revolutionaire stap vooruit te zetten in internationale veiligheid door als eerste land ter wereld een verbod op killer robots af te kondigen. Hopelijk hebben onze politici, in het bijzonder van Open VLD, ook de moed de laatste stap effectief te zetten.

Perscontact

Naomi Zoka – [email protected] – 0485 48.81.36

[i] Killer Robots zijn wapensystemen die volledig autonoom doelwitten kunnen selecteren en aanvallen, zonder menselijke tussenkomst. Een wapen dat door middel van Artificiële Intelligentie (AI) zelf actie kan ondernemen tegen een “vijand”.

[ii] Verschillende staten hebben al voorlopers ontwikkeld en ingezet die de duidelijke trend naar meer automatisering aangeven. Slechts één klein voorbeeld hiervan is de Zuid-Koreaanse Samsung Techwin SGR-A1. Deze Killer Robot kan beweging detecteren, stuurt het signaal naar de menselijk operator die dan beslist of er een dreiging is of niet. Eén van de programmeurs zei dat het in principe volledig autonoom zou kunnen opereren, maar dat de overheid dit een te groot risico vindt. Het is aan de internationale gemeenschap om een stop te zetten op deze verdere ontwikkeling. Ondertussen bestaan er al meer dan 130 wapensystemen die op autonome wijze een doelwit kunnen opsporen.

[iii] Sleeper agents: training deceptive llms that persist through safety training. Anthropic, Redwood Research, Mila Quebec AI Institute, University of Oxford, Alignment Research Center, Open Philanthropy, Apart Research. Januari, 2024. https://arxiv.org/pdf/2401.05566.pdf