Encyklika Leona XIV Magnifica humanitas

198. Niekiedy mówi się o „sztucznych podmiotach moralnych”, jak gdyby maszyna mogła zagwarantować – z większą konsekwencją niż człowiek – rozróżnienie między dobrem a złem. Tymczasem sąd moralny nie daje się sprowadzić do obliczeń: zakłada on sumienie, osobistą odpowiedzialność i uznanie drugiego człowieka za osobę. Dlatego nie wolno powierzać sztucznym systemom decyzji śmiercionośnych ani w ogóle nieodwracalnych. Nie istnieje żaden algorytm, który mógłby uczynić wojnę moralnie dopuszczalną. Sztuczna inteligencja nie odbiera konfliktowi jego wewnętrznie nieludzkiego charakteru: może jedynie uczynić go szybszym i bardziej bezosobowym, obniżając próg uciekania się do przemocy i przemieniając obronę w operacyjne przewidywanie, przy czym ofiary zostają zredukowane do danych. W ten sposób przyzwyczaja nas ona do myśli, że przemoc jest nieuchronna i trzeba ją jedynie optymalizować. Dlatego sprawą najwyższej wagi jest wprowadzanie wartości i roztropnego osądu w programowanie tworzonych przez nas sztucznych systemów, tak aby mogły one przyczyniać się do budowania ekosystemu moralnego, w którym ludzie będą bardziej zdolni do słuchania własnego sumienia, a modelom AI zostaną wyznaczone właściwe granice.

199. Nie wystarczy ogólnikowo odwoływać się do etyki: trzeba wskazać konkretne kryteria rozeznawania. Pierwsze dotyczy odpowiedzialności osobistej. Gdy decyzja o ataku ulega automatyzacji albo staje się nieprzejrzysta, wzrasta ryzyko uchylenia się od odpowiedzialności. Dlatego łańcuch odpowiedzialności musi pozostawać identyfikowalny i weryfikowalny: ten, kto projektuje, kto trenuje, kto wydaje zgodę, kto używa, powinien móc zdać sprawę ze swoich wyborów. Drugie kryterium dotyczy czasu osądu moralnego. Sztuczna inteligencja ma tendencję do skracania czasu podejmowania decyzji; tymczasem na wojnie nieodwracalne decyzje nie mogą mieć za nadrzędne kryteria szybkości i skuteczności. Trzecim kryterium jest identyfikacja oraz ochrona ludności cywilnej. Każda technologia, która ułatwia uderzenie bez oglądania twarzy drugiej osoby, obniża moralny próg konfliktu. Wybór celów i użycie siły nie mogą zacierać różnicy między walczącymi i niewalczącymi ani lekceważyć skutków dla bezbronnej ludności.

200. Z tych kryteriów wynikają pewne nienegocjowalne wymagania. Przede wszystkim, w odniesieniu do każdego systemu używanego w działaniach wojennych muszą być zapewnione identyfikowalność i możliwość odtworzenia procesu decyzyjnego, tak aby odpowiedzialność i ewentualna wina nie rozpływały się „w maszynie”. Po drugie, decyzja o użyciu śmiercionośnej siły nie może być powierzana procesom nieprzejrzystym ani zautomatyzowanym, lecz musi pozostawać pod rzeczywistą, świadomą i odpowiedzialną kontrolą człowieka. Wreszcie, konieczne jest ustanowienie wspólnych zasad, również na poziomie międzynarodowym, które powstrzymają wyścig zbrojeń technologicznych i zapewnią szczególną ochronę ludności cywilnej oraz infrastruktury niezbędnej dla jej przetrwania.

Kryzys multilateralizmu

201. Kultura potęgi wyrasta również z kryzysu systemu multilateralnego. Instytucje powołane do strzeżenia idei wspólnego losu narodów i światowego dobra wspólnego wydają się osłabione, nie tylko z powodu ograniczeń strukturalnych, lecz także dlatego, że często brakuje wspólnej woli, by je wspierać, reformować i uznawać ich autorytet moralny. Zamiast iść naprzód, cofamy się wobec historycznego przełomu XX w. Po 1989 r. upadkowi reżimów komunistycznych w Europie towarzyszyła globalizacja o charakterze głównie gospodarczym, pozbawiona odpowiedniej architektury politycznej zdolnej podtrzymywać dialog i pokój. Niemal ślepo powierzono rynkom zdolność do tworzenia dobrobytu, demokracji i stabilności, podczas gdy w rzeczywistości globalizacja nie zrodziła automatycznie jedności ani pokoju, lecz wywołała reakcje fundamentalistyczne, tożsamościowe i nacjonalistyczne. Rezultat ten daleki jest od autentycznego multilateralizmu: przypomina raczej nieuporządkowaną i konfliktową wielobiegunowość, w której górę bierze nieufność wobec drugiego.

202. Powraca pokusa budowania tożsamości zbiorowej w opozycji do wroga, podsycając narracje, w których każdy przedstawia siebie jako ofiarę uprawnioną do odwetu. Upraszczanie rzeczywistości do schematów – „najpierw ja”, „przyjaciel-wróg”, „my-oni” – ułatwia podejmowanie decyzji często nieodpowiedzialnych, które podkopują wzajemne zaufanie między narodami. Siła prawa międzynarodowego zostaje w ten sposób zastąpiona rzekomym „prawem silniejszego”, a jego narzędzia – od trybunałów właściwych w sprawach zbrodni wojennych po sądy powołane do rozstrzygania sporów między państwami – bywają często omijane albo osłabiane, z katastrofalnymi skutkami dla kultury politycznej i dla współżycia społecznego[185].

203. W tym kontekście budowanie pokoju zeszło na dalszy plan: współpraca na rzecz rozwoju, rozbrojenie, zapobieganie konfliktom i budowanie wzajemnego zaufania są odkładane na bok w imię logiki potęgi. W ten sposób słabną również osiągnięcia prawa humanitarnego: zasada proporcjonalności w odpowiedzi na akty agresji, ochrona dostępu do wody, żywności i dóbr podstawowych, poszanowanie życia ludności cywilnej i dzieci – wszystko to bywa traktowane jak naiwne wspomnienia przeszłości.

Rzekomy realizm polityczny

204. Żyjemy w czasach znacznej ślepoty duchowej i kulturowej. Fałszywy pragmatyzm zachęca do odcinania korzeni pamięci, jak gdyby można było zapoczątkować swego rodzaju „nowe stworzenie” oderwane od przeszłości; także ci, którzy odwołują się do wielkich zasad moralnych, mogą popaść w ten historyczny nihilizm, łudząc się, że okrucieństwa XX w. nie mogą się już powtórzyć. W rzeczywistości te same mechanizmy powracają pod nowymi postaciami. Na nowo zdaje się narzucać logika równowagi zbrojnej i odstraszania. Jednak w przeciwieństwie do dwubiegunowego scenariusza z czasów zimnej wojny, dziś mnożenie się podmiotów i frontów konfliktu sprawia, że logika ta staje się coraz mniej stabilna. Eskalacja konfliktów popycha ku wojnom asymetrycznym i „hybrydowym”, prowadzonym także na polu gospodarczym, finansowym i informatycznym, z wykorzystaniem dezinformacji i kampanii podsycających lęk, mających na celu wywarcie wpływu na opinię publiczną. W wielu krajach, także na globalnym Południu, wzrost wydatków wojskowych przedstawiany jest jako jedyna odpowiedź na niepewną przyszłość albo na postrzegane zagrożenia, podczas gdy rzeczywisty koszt ponoszą najbiedniejsi, którzy widzą, jak kurczą się środki przeznaczone na ochronę zdrowia, kształcenie i pomoc społeczną.