Kärnvapen i AI-åldern

Den traditionella kärnvapenavskräckningen bygger på en till synes övertygande logik. Ett kärnvapenkrig skulle vara så förödande att rationella stater har mycket starka skäl att undvika det. Om ett angrepp kan besvaras med ett förödande motangrepp kan kärnvapnen paradoxalt nog skapa återhållsamhet.

Historien ger visst stöd för detta. USA och Sovjetunionen undvek kärnvapenkrig under kalla kriget. Indien och Pakistan har genomgått allvarliga kriser utan att använda kärnvapen. Nordkorea genomförde sitt första kärnvapenprov 2006 men har trots återkommande hot ännu inte använt kärnvapen i krig.

Det går därför inte att säga med säkerhet att ett kärnvapenbestyckat Iran skulle använda sina vapen. Vi vet inte heller hur mycket varje ny kärnvapenmakt faktiskt ökar risken för användningen av kärnvapen. Men avskräckningslogiken har en svaghet. Stater är inga enhetliga rationella aktörer.

Stater som Iran och Nordkorea har exempelvis lång erfarenhet av att överföra vapen och militär teknik till andra stater eller väpnade grupper. Ett kärnvapeninnehav väcker därför frågan om spridning av kärnmaterial och teknologi utanför statens direkta kontroll.

Utöver denna spridningsrisk finns två faktorer som kan bli särskilt viktiga: kvaliteten på de organisationer som ska kontrollera kärnvapnen och hur långt automatiseringen av militära beslut tillåts gå.

Runt vapnen finns system av sensorer, datorer, officerare, kommunikationssystem och säkerhetsrutiner. De ska upptäcka ett angrepp, avgöra om informationen är riktig och föra vidare order – ibland inom några minuter. Och organisationer kan göra fel.

1979 fick amerikanska militära ledningscentraler information om att Sovjetunionen hade inlett ett kärnvapenangrepp. En simulering hade av misstag kommit in i det verkliga varningssystemet. Året därpå skapade ett komponentfel åter information om inkommande sovjetiska robotar. Bombplansbesättningar larmades innan felet upptäcktes.

Ingen amerikansk ledare hade blivit irrationell. Organisationen började göra det den hade tränats att göra när den fick information om ett angrepp.

Iran visar varför organisationen spelar roll

Iran erbjuder ett senare och tragiskt exempel där organisationen inte upptäckte felet, även om det inte handlade om kärnvapen. I januari 2020 hade Iran avfyrat robotar mot amerikanska baser i Irak och väntade sig ett möjligt amerikanskt svar. Luftförsvaret befann sig i hög beredskap samtidigt som det civila luftrummet hölls öppet. Ett iranskt luftvärnsförband misstog Ukraine International Airlines flight PS752 för ett fientligt mål och sköt ned det. 176 människor dödades.

Den kanadensiska utredningen pekade på allvarliga brister i bland annat riskbedömning samt ledning och kontroll. Katastrofen uppstod inte därför att den iranska ledningen ville skjuta ned ett passagerarflygplan. En militär organisation under stark tidspress misslyckades med att skilja ett civilt flygplan från ett hot.

De amerikanska incidenterna visar att även mycket avancerade kärnvapenmakter kan göra farliga organisatoriska och tekniska misstag. Om Iran en dag skaffar kärnvapen blir därför frågan inte bara vad landets ledare vill göra. Minst lika viktigt blir kvaliteten på organisationen runt vapnen: kommandokedjor, säkerhetskultur, kommunikationssytem, tekniska system, utbildning och förmågan att upptäcka och korrigera fel.

AI kan spridas snabbare än förmågan att kontrollera den

Problemet kan få en ny dimension genom AI. AI används redan i modern krigföring för bland annat underrättelseanalys, bildanalys, målidentifiering och drönare. Men det vore osannolikt att utvecklingen stannar utanför de system som omger kärnvapen. AI kan användas för satellitövervakning, tidig varning, robotförsvar, signalanalys och beslutsstöd utan att en dator någonsin får rätt att avfyra ett kärnvapen.

Det kan göra systemen säkrare. AI kan bearbeta enorma informationsmängder och upptäcka sådant människor missar. Men tekniken kan också göra organisatoriska brister farligare.

Pålitliga AI-system kräver bra sensorer och data, säkra kommunikationer, cybersäkerhet, omfattande testning och redundans. Framför allt krävs människor och organisationer som förstår när systemet kan ha fel och vågar ifrågasätta dess rekommendationer.

Föreställ er situationen kring PS752, men med ett AI-system som på några sekunder sammanställer radar- och sensordata och klassificerar flygplanet som sannolikt fientligt. AI skulle kanske ha upptäckt misstaget. Men om systemet i stället gjort samma felbedömning hade det kunnat förstärka människans övertygelse om att hon borde skjuta.

Problemet är att ny teknik kan spridas snabbare än den organisatoriska kapacitet som krävs för att använda den säkert.

Nordkorea och behovet av att agera snabbt

Nordkorea visar varför detta kan bli särskilt farligt. Landet utvecklar redan AI för militära ändamål, bland annat drönare. Samtidigt har Nordkorea ett kärnvapenproblem som USA inte har i samma utsträckning: dess ledning och kärnvapenstyrkor kan vara sårbara för ett försök att slå ut dem innan de hinner svara.

Nordkoreas kärnvapenlag från 2022 säger därför att ett kärnvapenangrepp ska genomföras ”automatiskt och omedelbart” enligt en i förväg fastställd plan om ledningen över kärnvapenstyrkorna hotas av ett angrepp. Det betyder inte att Nordkoreas kärnvapen styrs av AI. Men det visar hur behovet av snabbhet redan är inbyggt i landets kärnvapenstrategi.

Om en stat fruktar att dess ledning eller kärnvapen kan slås ut på några minuter får den starka skäl att investera i snabbare varningssystem, automatiserad analys och förberedda svar. Och just den stat som har starkast skäl att automatisera behöver inte vara den som har bäst tekniska och organisatoriska förutsättningar att göra det säkert.

När en automatiserar måste de andra följa efter

Här uppstår dessutom ett problem som ingen stat själv kan kontrollera. Om USA använder AI för att upptäcka och analysera hot snabbare måste Ryssland och Kina förhålla sig till detta. Nordkorea kan uppleva samma press gentemot USA och Sydkorea. Ett framtida kärnvapenbestyckat Iran skulle kunna göra motsvarande bedömning i förhållande till Israel och USA. Den stat som avstår från automatisering kan uppleva att den accepterar en farlig nackdel.

Den logiken är inte ny. Inför första världskriget ändrade järnvägen den strategiska situationen genom att göra det möjligt att snabbt mobilisera och transportera miljonarméer. När motståndaren började mobilisera blev det farligt att vänta. Då riskerade den andra sidan att bli färdig först. Järnvägarna orsakade inte första världskriget. Men tekniken förändrade betydelsen av tid och bidrog till att göra mobiliseringsprocesserna svåra att bromsa.

AI kan skapa ett liknande dilemma – fast i en kärnvapenkris. Ett AI-system upptäcker något som kan vara förberedelser för ett angrepp. Beredskapen höjs. Motståndarens system upptäcker beredskapshöjningen och tolkar den som ytterligare bevis på att ett angrepp kan vara nära. Även den sidan höjer beredskapen.

Ingen behöver vilja starta kriget. Varje enskilt beslut kan framstå som rationellt. Problemet ligger i samspelet. Och när en kärnvapenmakt börjar automatisera kan andra bedöma att de inte har råd att låta bli att göra samma sak.

Mänsklig kontroll måste betyda mer

Vi vet inte hur stor denna risk är. Nordkorea visar samtidigt att en ny kärnvapenmakt kan inneha kärnvapen länge utan att använda dem. AI kan dessutom göra kärnvapensystem säkrare genom bättre information och snabbare upptäckt av fel. Men just därför bör diskussionen om mänsklig kontroll börja innan automatiseringen gått längre.

Kärnvapenmakterna bör försöka etablera en internationell norm om att AI aldrig får ersätta meningsfull mänsklig kontroll över beslut som kan leda till kärnvapenanvändning. Det räcker inte att en människa formellt trycker på den sista knappen. Mänsklig kontroll måste finnas tidigare i kedjan – när systemen bedömer hot, rekommenderar svar och höjer beredskap.

Samtidigt måste synen på kärnvapenspridning förändras. När en stat närmar sig kärnvapenförmåga bör omvärlden inte bara fråga hur mycket uran den kan anrika eller hur långt dess robotar når. Ledningssystem, säkerhetskultur, utbildning, redundans och förmågan att hantera AI är också en del av kärnvapenrisken.

För ett kärnvapenkrig behöver inte börja med att någon bestämmer sig för att starta ett. Det kan börja med en serie beslut som vart och ett verkar rationellt inom det system där de fattas. 1914 tog den processen dagar. I AI-åldern kan den ta minuter.

En av framtidens viktigaste säkerhetsspärrar blir därför att bevara tid för människor att kontrollera information och fatta beslut. Lika viktigt är ledningssystem och en säkerhetskultur som gör dem kapabla att upptäcka fel, ifrågasätta maskinens rekommendationer och stoppa en eskalering innan den blir oåterkallelig.