Encyklika Leona XIV Magnifica humanitas

106. Domagać się roztropności, wnikliwej weryfikacji, a niekiedy nawet spowolnienia we wdrażaniu sztucznej inteligencji nie znaczy być przeciwnikiem postępu, lecz wyrażać odpowiedzialną troskę o rodzinę ludzką. Wymóg ten jest tym pilniejszy, że często istnieje brak równowagi między szybkością rozwoju technologicznego a tempem, w jakim dojrzewają świadomość, normy, mechanizmy kontroli i instytucje zdolne zarządzać jego skutkami. Nie wystarczy ogólnikowo odwoływać się do etyki: potrzebne są odpowiednie ramy prawne, niezależny nadzór, edukacja użytkowników oraz polityka, która nie wyrzeka się własnego zadania. W przeciwnym razie zmiana będzie zarządzana wyłącznie przez logikę technokratyczną i przedstawiana jako konieczna oraz nieuchronna, kończąc się narzucaniem reguł dyktowanych przez tych, którzy posiadają dane, infrastrukturę i zdolności obliczeniowe.

107. Nie możemy ograniczać się do postulowania moralizacji maszyny, tak zwanego „dostosowania” (alignment) AI do wartości ludzkich, nie mając odwagi postawić jeszcze jednego warunku: możliwości dyskutowania o kodeksie etycznym, który ma zostać zastosowany, poddając go kryteriom wspólnie podzielanej sprawiedliwości społecznej. W przeciwnym razie ci, którzy kontrolują AI, narzucą własną wizję moralną, która stanie się niewidzialną infrastrukturą systemów. Nie wystarczy, by AI była bardziej moralna, jeśli o tej moralności decydują nieliczni. Potrzeba polityki bardziej obecnej, zdolnej spowalniać tam, gdzie wszystko przyspiesza, i chronić przestrzenie, w których wspólnoty mogą nadal uczestniczyć i stawiać pytania.

108. Istotnie, jak bywa w przypadku każdego wielkiego przełomu technologicznego, AI skłonna jest pomnażać przede wszystkim władzę tych, którzy już dysponują zasobami ekonomicznymi, kompetencjami i dostępem do danych. W świetle dobra wspólnego i powszechnego przeznaczenia dóbr zjawisko to budzi poważny niepokój: małe, lecz bardzo wpływowe grupy mogą ukierunkowywać informację i konsumpcję, warunkować procesy demokratyczne i oddziaływać na dynamikę gospodarczą dla własnej korzyści, wbrew sprawiedliwości społecznej i solidarności między narodami. Dlatego niezbędne jest, by korzystaniu z AI – zwłaszcza wtedy, gdy dotyczy ona dóbr publicznych i praw podstawowych – towarzyszyły jasne kryteria i skuteczne mechanizmy kontroli, inspirowane uczestnictwem i zasadą pomocniczości: wspólnoty i ciała pośrednie nie mogą zostać zredukowane do roli odbiorców decyzji podjętych gdzie indziej, lecz muszą móc wnosić swój wkład w rozeznawanie i nadzór. Ponadto własność danych nie może być powierzona wyłącznie podmiotom prywatnym, lecz musi zostać poddana regulacjom. Dane są owocem wkładu wielu osób i nie mogą być sprzedawane ani powierzane nielicznym. Potrzebna jest kreatywność zdolna zarządzać nimi jako jednym z dóbr wspólnych lub zbiorowych, w logice współdzielenia, jak sugerował już św. Jan Paweł II w odniesieniu do dóbr zbiorowych[128].

109.Zasady nauki społecznej pomagają nam odczytywać tę nową rzeczywistość. W świecie, w którym nieliczne podmioty skupiają dane, kapitał obliczeniowy i zdolność normatywną, mówienie o dobru wspólnym oznacza demaskowanie tej nowej asymetrii epistemicznej, ekonomicznej i politycznej, nazywając po imieniu nowe monopole AI. Mówienie o powszechnym przeznaczeniu dóbr oznacza szukanie sposobów zapewnienia powszechnego dostępu do technologii i formacji. Mówienie o pomocniczości oznacza ochronę zdolności wspólnot do wybierania i korygowania, nie sprowadzając ich udziału do samego nadzoru po tym, jak standardy zostały ustalone gdzie indziej. Mówienie o solidarności zobowiązuje do uznania niewidzialnej pracy, często wykonywanej w warunkach wyzysku, która zasila modele algorytmiczne. Mówienie o sprawiedliwości oznacza pytanie o geografie władzy wyznaczające, kto może trenować modele, a kto jest jedynie przedmiotem tego treningu, oraz uznanie, że sprawiedliwość społeczna nie jest tylko celem, którego należy strzec po wdrożeniu technologii, lecz warunkiem uprzednim, który trzeba urzeczywistniać już w samym ich projektowaniu.

110. Chciałbym wreszcie użyć słowa, które jest mi szczególnie drogie: „rozbroić”. Rozbroić AI znaczy wyrwać ją z logiki zbrojnej rywalizacji, która dzisiaj nie jest już wyłącznie militarna, lecz także ekonomiczna i poznawcza. Jest to wyścig do stworzenia najsprawniejszego algorytmu i najszerszego zbioru danych (dataset) po to, by utrwalić przewagę geopolityczną lub handlową nad wszystkimi innymi. Rozbroić znaczy zerwać tę równoznaczność między potęgą techniczną a prawem do rządzenia. Rozbroić nie znaczy wyrzec się technologii, lecz nie dopuścić, by zapanowała nad tym, co ludzkie. Znaczy wyzwolić ją spod monopoli, uczynić ją przedmiotem debaty i sprzeciwu, a tym samym przestrzenią przyjazną ludziom, przywracając ją wielości ludzkich kultur i form życia. Zadanie stojące dziś przed nami nie ma wymiaru tylko etycznego ani tylko technicznego: ma ono charakter ekologiczny w sensie najbardziej radykalnym, ponieważ dotyczy nowego wymiaru naszego wspólnego domu. Sztuczna inteligencja jest już środowiskiem, w którym jesteśmy zanurzeni, i władzą, z którą musimy się liczyć. Dlatego nie wystarczy jej regulować: trzeba ją rozbroić i uczynić przyjazną.

111. Szczególny apel kieruję do tych, którzy zajmują się rozwijaniem systemów sztucznej inteligencji. Innowacja technologiczna może być w pewnym sensie ludzką formą uczestnictwa w Bożym akcie stworzenia. Na twórcach systemów AI spoczywa zatem szczególna odpowiedzialność etyczna i duchowa, ponieważ każda decyzja projektowa wyraża określoną wizję ludzkości. Tak jak autor dzieła artystycznego czy literackiego powinien brać pod uwagę wartości, które ono wyraża, tak i oni powinni z należytą powagą traktować wartości, które wpisują w swoje projekty: w sposób przejrzysty, z poczuciem odpowiedzialności wobec społeczności, których one dotyczą, oraz z czujnością, która pozwala zweryfikować, czy to, co jest rozwijane, rzeczywiście służy dobru.

To, czego nie możemy utracić

112. Po przywołaniu kwestii odpowiedzialności i zarządzania AI trzeba powrócić do naszego tematu centralnego: co to znaczy troszczyć się o to, co ludzkie. Zagrożenie nie polega jedynie na tym, że niektóre technologie mogą być źle używane, lecz na tym, że paradygmat technokratyczny, w którym jesteśmy zanurzeni, wzmocniony przez rewolucję cyfrową i AI, sprawia, iż za słuszną i normalną zaczyna uchodzić wizja antyludzka, wedle której pełnia życia miałaby polegać na tym, by więcej posiadać, zmniejszać kruchość, eliminować to, co nieprzewidywalne, i wszystko kontrolować. Gdy wydajność staje się miarą wartości, człowiek ulega pokusie myślenia o sobie bardziej jako o projekcie, który należy zoptymalizować, niż jako o stworzeniu powołanym do relacji i komunii.