På en interreligiøs samling i Assisi konfronterte overlevende etter atombombene, forskere og religiøse ledere et urovekkende spørsmål: Kan menneskeheten kontrollere de destruktive kreftene den selv fortsetter å skape?
Av Katsuhiro Asagiri
ASSISI, Italia (INPS Japan) – Åtte tiår etter at atombombene ødela Hiroshima og Nagasaki, står verden overfor et nytt og potensielt farlig spørsmål: Hva skjer når beslutninger som berører menneskeliv, i stadig større grad overlates til maskiner?
Denne bekymringen preget diskusjonene under en internasjonal fredssamling i Assisi, der religiøse ledere, forkjempere for atomnedrustning og teknologieksperter drøftet risikoen knyttet til atomvåpen og kunstig intelligens – to svært forskjellige teknologier som har én ting til felles: muligheten for katastrofale konsekvenser.｜ENGLISH｜JAPANESE｜
Møtet, som ble arrangert av Sant’Egidio-fellesskapet fra 25. til 27. oktober, markerte 40-årsjubileet for pave Johannes Paul IIs initiativ i Assisi, der representanter for verdens store religioner ble samlet for å be for fred.
Årets tema, «Ubevæpnet og avvæpnende fred», hadde en særlig aktualitet. Den internasjonale kontrollen med atomvåpen er blitt svekket, militærutgiftene har nådd rekordhøye nivåer, og kunstig intelligens tas raskt i bruk i forsvarssystemer med konsekvenser som fortsatt er vanskelige å forutsi.
Spørsmålet var ikke lenger bare om menneskeheten hadde midlene til å ødelegge seg selv. Spørsmålet var om regjeringer og samfunn fortsatt hadde den dømmekraften som kreves for å forhindre at disse midlene blir tatt i bruk.
Advarselen fra Hiroshima
De menneskelige konsekvensene av atomkrig utgjorde det moralske grunnlaget for et forum viet nedrustning og ikke-spredning.
Katsuko Tanaka, også kjent som Toshiko Tanaka, som overlevde atombomben i Hiroshima, fortalte om bombingen 6. august 1945, da hun var seks år gammel.
Hennes beretning minnet om en katastrofe som rammet mennesker uten forskjell og etterlot de overlevende med fysiske og psykiske sår som de måtte leve med i flere tiår.
Erkebiskop Peter Michiaki Nakamura fra Nagasaki viste i sine publiserte uttalelser til arven etter Takashi Nagai, legen og atombombeoverlevende som viet den siste delen av livet sitt til fredsarbeid.
Til sammen utfordret deres perspektiver tankegangen bak atomavskrekking, som måler sikkerhet ut fra militær kapasitet snarere enn menneskelivene som potensielt kan gå tapt.
Susi Snyder fra Den internasjonale kampanjen for avskaffelse av atomvåpen (ICAN) tok opp den økende faren som følger av moderniseringen av atomvåpenarsenalene og svekkelsen av rustningskontrollen.
Utløpet av New START-avtalen mellom USA og Russland i februar, etterfulgt av at tilsynskonferansen for 2026 om ikke-spredningsavtalen for atomvåpen (NPT) ikke klarte å oppnå enighet, har forsterket bekymringen for fremtiden til den internasjonale atomvåpenkontrollen.
Oppmerksomheten rettes nå mot den første tilsynskonferansen for traktaten om forbud mot atomvåpen (TPNW), som etter planen skal begynne i slutten av november.
Forkjempere for nedrustning står imidlertid overfor en vedvarende hindring: Statene som besitter atomvåpen, står i stor grad fortsatt utenfor traktaten.
Å undervise en generasjon uten egne krigserfaringer
For den italienske Soka Gakkai, en buddhistisk organisasjon som engasjerer seg i kampanjer for avskaffelse av atomvåpen, har opplæring og folkeopplysning blitt en avgjørende del av arbeidet.
Alessja Trama, som representerte Be The Hope Foundation, en organisasjon tilknyttet den italienske Soka Gakkai, beskrev i sitt forberedte innlegg arbeidet til Senzatomica. Dette er et initiativ som har arrangert utstillinger og undervisningsaktiviteter om atomvåpen i lokalsamfunn over hele Italia.
Kampanjen henter sin inspirasjon fra en erklæring fra 1957 av Josei Toda, Soka Gakkais andre president, der han oppfordret til avskaffelse av atomvåpen.
Utgangspunktet er at minnene om Hiroshima og Nagasaki må føre til et offentlig ansvar, særlig blant yngre generasjoner som ikke har noen personlig tilknytning til krigen.
Men samtidig som forkjemperne arbeider for å redusere trusselen fra eksisterende våpen, er fremskritt innen kunstig intelligens i ferd med å forandre selve karakteren av militær makt.
Når menneskelig dømmekraft blir valgfri
Under et eget forum med tittelen «Menneskeheten i teknologiens tidsalder» advarte erkebiskop Vincenzo Paglia om at den teknologiske utviklingen går raskere enn institusjonene som skal regulere og styre den.
Tiziana Catarci, en italiensk forsker innen kunstig intelligens, trakk frem et avgjørende skille: At et menneske formelt inngår i en beslutningsprosess, betyr ikke nødvendigvis at vedkommende har reell kontroll.
En operatør kan formelt godkjenne en anbefaling som er generert av en maskin, uten fullt ut å forstå hvordan den ble til, eller ha mulighet til å utfordre den.
I militære operasjoner kan dette gapet få dødelige konsekvenser.
Catarci etterlyste sterkere tilsyn med KI-systemer og et forbud mot autonome våpen som kan ta beslutninger om å drepe uten meningsfull menneskelig kontroll.
Yoshiyuki Nagaoka, administrerende direktør for Soka Gakkais kontor for samfunnskontakt, tok opp problemstillingen med utgangspunkt i buddhistiske læresetninger om menneskelivets verdighet.
Nagaoka påpekte at kunstig intelligens i økende grad blir tatt i bruk som en kilde til råd i hverdagen i Japan. Noen mennesker søker råd fra KI når de skal ta dypt personlige beslutninger om sine egne liv.
Et eksempel han viste til, var en eldre kvinne som hadde henvendt seg til generativ kunstig intelligens for å få råd om medisinsk behandling av sin uhelbredelig syke ektemann.
For Nagaoka var spørsmålet ikke om kunstig intelligens kunne gi nyttig informasjon. Det handlet om hvorvidt avhengigheten av slike systemer gradvis kunne svekke menneskers vilje til å foreta vanskelige moralske vurderinger.
Han advarte spesielt mot å overlate beslutninger om å drepe til autonome våpen, og tok til orde for internasjonale regler som forbyr systemer som på egen hånd velger ut og angriper menneskelige mål.
Argumentasjonen hans strakte seg utover krigføring og omfattet også helsevesenet, der statistiske prognoser ikke kan erstatte medfølelse, personlige valg og faglig ansvar.
En teknologi som også kan være til hjelp
Andre deltakere advarte mot å betrakte kunstig intelligens utelukkende som en trussel.
Matt Vasey fra Gates Foundation argumenterte for at kunstig intelligens kan forbedre tilgangen til helsetjenester, utdanning og kunnskap om landbruk, særlig i lokalsamfunn som historisk har blitt forsømt i den teknologiske utviklingen.
Samtidig advarte han om at mennesker frivillig kan gi fra seg sitt moralske ansvar til systemer som er utviklet for å gjøre beslutningstaking enklere.
Cisco-lederen Gianpaolo Barozzi understreket behovet for å organisere arbeidslivet på nytt med utgangspunkt i menneskelige evner, mens rabbiner Noam Marans fra American Jewish Committee skilte mellom opphopning av informasjon og utøvelse av visdom.
Innlederne presenterte ingen samlet modell for regulering. Likevel vendte de stadig tilbake til behovet for ansvarlighet, åpenhet og menneskelig dømmekraft.
Den avsluttende fredsappellen fra samlingen knyttet disse bekymringene til en bredere agenda. Den oppfordret til at ressurser som brukes på våpen, i stedet skulle omdirigeres til mat, vann, utdanning, helsetjenester og anstendig arbeid.
Den trakk også frem atomtrusler, opprustning og kunstig intelligens som utfordringer som krever internasjonalt samarbeid.
Budskapet understreket et stadig tydeligere dilemma.
Menneskeheten har utviklet teknologier med en enestående kraft. Likevel har ikke nødvendigvis institusjonene og de moralske forpliktelsene som trengs for å begrense deres destruktive bruk, holdt tritt med utviklingen.
Fra de overlevende vitnene fra Hiroshima til forskerne som arbeider med problematikken rundt autonome våpen, var advarselen som kom frem i Assisi, at sikkerhet ikke bare kan måles ut fra hva menneskeheten er i stand til å bygge.
Den må også måles ut fra hva menneskeheten er villig til å avstå fra.
Denne artikkelen er utarbeidet av INPS Japan i samarbeid med Soka Gakkai International, som har rådgivende status i FNs økonomiske og sosiale råd (ECOSOC).
INPS Japan