Encyklika Leona XIV Magnifica humanitas

99. Nie jest możliwe podanie jednej, jednoznacznej i wyczerpującej definicji AI. Możemy jednak stwierdzić, że należy unikać błędnego utożsamiania tej „inteligencji” z inteligencją ludzką. Systemy te naśladują niektóre funkcje ludzkiej inteligencji. Czyniąc to, często przewyższają ją szybkością i zakresem obliczeń, oferując konkretne korzyści w licznych dziedzinach. Niemniej jednak ta moc pozostaje związana wyłącznie z przetwarzaniem danych: tak zwane systemy sztucznej inteligencji nie przeżywają doświadczenia, nie posiadają ciała, nie odczuwają radości i bólu, nie dojrzewają w relacji, nie znają od wewnątrz tego, co znaczą miłość, praca, przyjaźń i odpowiedzialność. Nie mają również świadomości moralnej: nie oceniają dobra i zła, nie ujmują ostatecznego sensu sytuacji, nie biorą na siebie ciężaru konsekwencji. Mogą naśladować języki, zachowania i oceny, mogą symulować empatię albo zrozumienie, ale nie rozumieją tego, co wytwarzają, ponieważ nie żyją w sferze afektywnej, relacyjnej i duchowej, w których człowiek staje się mądry. Także wtedy, gdy narzędzia te przedstawiane są jako zdolne do „uczenia się”, ich sposób działania różni się od sposobu właściwego osobie ludzkiej. Nie jest to doświadczenie kogoś, kto pozwala kształtować się życiu i wzrasta w czasie poprzez dokonywanie wyborów, popełnianie błędów, przebaczanie i wierność; jest to raczej statystyczne dostosowanie na podstawie danych i informacji zwrotnych, które może być bardzo skuteczne, ale nie oznacza wewnętrznego wzrostu.

Cenne wsparcie wymagające uwagi

100. W świetle tego, co zostało powiedziane, możemy lepiej zrozumieć, dlaczego AI może być cenną pomocą, a zarazem wymagać podejścia trzeźwego i czujnego. W ostatnich latach jej prywatne wykorzystanie znacznie wzrosło i z wielu stron podejmuje się refleksję nad możliwościami i zagrożeniami związanymi z jej szybkim upowszechnieniem. W przypadku użycia osobistego należy zwrócić szczególną uwagę na trzy aspekty: łatwość uzyskania wyniku, wrażenie obiektywności oraz symulację komunikacji ludzkiej. Szybkość i prostota, z jakimi można uzyskać wskazówki, złożone opracowania, treści medialne oraz formy konkretnej pomocy upraszczają nasze życie, mogą jednak także przyzwyczajać nas do zbyt daleko idącego delegowania zadań i do szukania gotowych odpowiedzi, osłabiając osobisty osąd i kreatywność. Wrażenie obiektywności, jakie mogą wywoływać odpowiedzi i propozycje tych systemów, niesie ryzyko, że zapomnimy, iż odzwierciedlają one parametry kulturowe tych, którzy je zaprojektowali i wytrenowali, ze wszystkimi ich zaletami i wadami. Sztuczne naśladowanie pozytywnej komunikacji ludzkiej – słów rady, empatii, przyjaźni, miłości – może być satysfakcjonujące, a nawet użyteczne, ale niewystarczająco świadomych użytkowników może wprowadzać w błąd i stwarzać złudzenie, że pozostają oni w relacji z autentycznym podmiotem osobowym. Gdy słowo jest symulowane, nie buduje relacji, lecz jedynie jej pozór. Sztuczne naśladowanie relacji opiekuńczej lub towarzyszenia może stać się niebezpieczne, gdy wkrada się w kontekst ubogi w realne relacje i uczucia: wówczas istnieje ryzyko nie tylko tego, że jakaś osoba uwierzy, iż rozmawia z inną osobą, lecz tego, że utraci samo pragnienie rzeczywistego szukania drugiego człowieka.

101. Poszerzając spojrzenie na zastosowanie AI w naszych społeczeństwach, stwierdzamy, że jest ona już obecna w procesach decyzyjnych we wszystkich dziedzinach i na różnych poziomach: w komunikacji, zarządzaniu i kontroli. Korzyści w zakresie efektywności oraz potencjał poprawy niektórych usług są oczywiste; jednak szybkie i bezkrytyczne wdrażanie naraża nas na różne ryzyka, w tym także na ryzyko niedocenienia jej wpływu na środowisko. Obecne systemy AI wymagają wielkich ilości energii i wody, w sposób znaczący wpływają na emisję dwutlenku węgla i intensywnie zużywają zasoby. Wraz ze wzrostem złożoności, zwłaszcza w przypadku wielkich modeli językowych, rosną także potrzeby w zakresie mocy obliczeniowej i zdolności przechowywania danych, opierające się na całym zespole maszyn, przewodów, centrów danych i energochłonnej infrastruktury. Dlatego niezbędne jest rozwijanie bardziej zrównoważonych rozwiązań technologicznych w celu zmniejszenia wpływu na środowisko i ochrony naszego wspólnego domu[124].

Odpowiedzialność, przejrzystość i zarządzanie sztuczną inteligencją

102. Korzystanie z AI nigdy nie jest faktem czysto technicznym: kiedy wkracza ona w procesy oddziałujące na życie ludzi, dotyka praw, szans, reputacji i wolności. Delikatne decyzje dotyczące pracy, kredytu, dostępu do usług i reputacji osób mogą zostać powierzone całkowicie systemom zautomatyzowanym, które nie znają „współczucia, miłosierdzia, przebaczenia, a nade wszystko otwartości na nadzieję przemiany osoby”[125] i w ten sposób mogą rodzić nowe formy wykluczenia. Mogą istnieć zastosowania w oczywisty sposób antyludzkie, jak manipulowanie informacją czy naruszanie prywatności, ale może istnieć także pułapka mniej jawna, gdy systemy AI, przedstawiając się jako neutralne i obiektywne, odzwierciedlają i umacniają stereotypy lub stanowiska ideologiczne tych, którzy je zaprojektowali i wytrenowali.

103. Powierzyć w praktyce algorytmowi władzę rozstrzygania o tym, kto zasługuje, a kto nie, bez tego, by ktokolwiek brał już na siebie ciężar decyzji, znaczy powierzyć mu zadanie ponownego wyznaczania granic ludzkich możliwości. Tym, czego w tym procesie brakuje, nie jest tylko empatia wobec wykluczonego, którą można sztucznie naśladować, lecz odpowiedzialność polityczna, ponieważ odrzucenie słabych zostaje przyobleczone w pozór neutralności i obiektywności, wobec których nie sposób protestować. Tym samym niesprawiedliwość staje się milcząca, a współczucie, miłosierdzie i przebaczenie – nie jako zwykły pozór, lecz jako gesty polityczne – znikają z horyzontu.

104. Z tego wynika prosta, ale zobowiązująca konsekwencja: nie możemy uważać AI za moralnie neutralną. W rzeczywistości każde urządzenie techniczne niesie z sobą wybory i priorytety: to, co mierzy, to, co ignoruje, to, co optymalizuje, a także sposób, w jaki klasyfikuje osoby i sytuacje. Jeśli jakiś system zostaje pomyślany lub wykorzystywany w taki sposób, że traktuje niektóre życia jako mniej godne albo wyklucza je bez możliwości odwołania, nie jest on zwykłym narzędziem, „którego należy dobrze używać”: wprowadza już kryterium sprzeczne z niezbywalną godnością osoby. Dlatego rozeznawanie etyczne nie może ograniczać się do pytania, czy używamy danego systemu do celu dobrego czy złego, lecz musi także pytać, jak został on zaprojektowany i jaka wizja osoby oraz społeczeństwa została wpisana w dane i modele, które nim kierują[126].

105. Aby AI szanowała godność ludzką i rzeczywiście służyła dobru wspólnemu, konieczne jest, by odpowiedzialność była jasno określona na wszystkich etapach: od tych, którzy projektują i trenują systemy, aż po tych, którzy z nich korzystają, oraz tych, którzy decydują o powierzeniu im konkretnych rozstrzygnięć. W wielu przypadkach jednak wewnętrzne procesy prowadzące do danego wyniku mogą pozostawać mało przejrzyste, a to utrudnia przypisanie odpowiedzialności i korygowanie błędów. Właśnie tutaj decydującego znaczenia nabiera to, co nazywamy accountability – możliwość ustalenia, kto ma „zdać sprawę” z decyzji, uzasadnić je, poddać kontroli, a gdy to konieczne – zakwestionować je i naprawić szkody, które z nich wynikają[127].