Encyklika Leona XIV Magnifica humanitas

169. Wspieranie rodzin i młodych w tej transformacji wymaga decyzji, które uczynią stabilność czymś realnie osiągalnym. Jak już zostało powiedziane, potrzebna jest polityka pracy sprzyjająca ciągłości i jakości zatrudnienia, przeciwstawiająca się nietrwałości jako zwyczajnemu warunkowi życia oraz wspierająca realistyczne drogi wejścia na rynek pracy i rozwoju zawodowego. Po drugie, potrzebne są rozwiązania, które zagwarantują ludzki rytm życia: bez równowagi między pracą, usługami i odpoczynkiem rodzina słabnie, a młodym trudno jest dojrzewać do odpowiedzialności. Ponadto decydujące znaczenie ma inwestowanie w dostępne szkolenia i przekwalifikowanie, aby mobilność zawodowa wymagana przez gospodarkę cyfrową nie stała się okrutną selekcją między tymi, którzy mogą się dokształcać, a tymi, którzy nie mają takiej możliwości. Wreszcie, trzeba wspierać więzi społeczne: sieci i wspólnoty wychowawcze, które towarzyszą wyborom życiowym i nie pozwalają, by niepewność rodziła samotność i uzależnienia. W ten sposób przez transformację technologiczną można przejść bez naruszania tego, co sprawia, że społeczeństwo ma potencjał twórczy, czyli zdolności do budowania przyszłości.

Strzec wolności przed uzależnieniem i utowarowieniem

Uzależnienia i kontrola społeczna

170. Po rozważeniu kwestii prawdy i wychowania, pracy i rodziny, musimy teraz mówić o wpływie rewolucji cyfrowej na ludzką wolność, zastanawiając się, jak stawić czoła zarówno zagrożeniom dotykającym psychiki jednostki, jak i dramatycznym zjawiskom społecznym. Nie wolno lekceważyć subtelniejszych form uzależnienia związanych z cyfrową ekonomią uwagi, w której platformy i usługi są projektowane tak, aby pochłaniać czas i uwagę użytkowników, wykorzystując ich wrażliwość i osłabiając wolność wewnętrzną. Gdy modele biznesowe rozwijają się dzięki ludzkiej słabości, osoba traktowana jest jako środek, a nie jako cel, a ci, którzy projektują lub finansują takie systemy, przyjmują na siebie odpowiedzialność moralną, od której nie mogą się uchylić. Należy pilnie wspierać taki sposób korzystania z technologii, który umacnia wolność wewnętrzną: wychowanie do umiaru w korzystaniu z technologii cyfrowych, ochronę nieletnich oraz przeciwstawienie się modelom, które żerują na ludzkiej wrażliwości.

171. Kolejnym zagrożeniem – mniej widocznym, ale nie mniej poważnym – jest kontrola społeczna, którą umożliwia masowe gromadzenie danych i stosowanie systemów algorytmicznych. Gdy każda aktywność – przemieszczanie się, zakupy, relacje, upodobania – pozostawia ślady, rodzi się nowa postać władzy: władza profilowania, przewidywania i ukierunkowywania zachowań, często bez pełnej świadomości samych zainteresowanych. Jeżeli dane te są wykorzystywane do podejmowania decyzji wpływających na konkretne możliwości życiowe (jak dostęp do kredytu, dobór pracowników, dostęp do usług), istnieje ryzyko naruszenia wolności i dyskryminowania osób najbardziej bezbronnych. Co więcej, kontrola nie dokonuje się jedynie poprzez wyraźne zakazy, lecz także przez samą architekturę rozpoznawalności: to, co zostaje wzmocnione albo uczynione nierozpoznawalnym, to, co bywa nagradzane albo karane, ostatecznie kształtuje opinie i wybory, rodząc konformizm i autocenzurę. Dlatego wolność w epoce cyfrowej nie jest jedynie sprawą wewnętrzną: jest także kwestią publiczną, która domaga się jasnych reguł, przejrzystości, możliwości odwołania się i proporcjonalnych ograniczeń w stosowaniu inwazyjnych technologii, tak aby technika pozostawała w służbie osoby, a nie stawała się formą panowania nad sumieniami.

172. U źródła tych problemów leży mentalność technokratyczna i posthumanistyczna, skłonna postrzegać osobę jako przedmiot manipulacji albo zasób, który należy optymalizować[172], eliminując wszystko to, co stawia granice maksymalizacji zysku: liczy się wydajność, a nie poszanowanie wolności i godności osoby ludzkiej. Niektóre nurty posthumanistyczne posuwają się wręcz do tego, że stawiają hipotezy o istnieniu istot ludzkich „drugiej kategorii”, podporządkowanych interesom elit, które uważają się za lepsze: jest to perspektywa niepokojąca, tym groźniejsza, im bardziej łączy się z narzędziami technologicznymi, które w sposób wykładniczy zwiększają władzę kontroli i selekcji. Także pewne logiki strukturalnego zadłużenia, utrzymujące całe narody w stanie zależności, ujawniają tę samą mentalność, która godzi się – w nowych formach – na relacje podporządkowania zbliżone do niewolnictwa.

Rozerwać kajdany nowych zniewoleń

173. Ta zniekształcona wizja osoby przekłada się dziś na różne formy zniewolenia bezpośrednio związane z gospodarką cyfrową. W świecie AI nie ma nic niematerialnego ani magicznego. Każda odpowiedź, która wydaje się natychmiastowa i doskonała, rodzi się z długiego łańcucha pośrednictw, z rozległej sieci zasobów naturalnych, z infrastruktury energetycznej, a nade wszystko z osób. Znaczna część funkcjonowania gospodarki cyfrowej opiera się na cichej pracy milionów istot ludzkich, zatrudnionych przy zajęciach mało widocznych, lecz nieodzownych: oznaczaniu danych, moderacji treści – nierzadko tych najgorszych – oraz trenowaniu modeli. W wielu przypadkach są to ludzie młodzi, przeważnie kobiety, którzy ciężko pracują za minimalne wynagrodzenie. Do tego niewidzialnego wysiłku dołącza jeszcze trud bardziej brutalny, związany z wydobywaniem surowców niezbędnych do produkcji urządzeń i mikroprocesorów, na których opiera się AI. W niektórych regionach świata nastolatki i dzieci pracują w niebezpiecznych warunkach przy kruszeniu materiałów, z których pozyskuje się pierwiastki ziem rzadkich. Ciała pokryte bliznami, okaleczone, wyniszczone po to, by nie został przerwany przepływ obliczeń. Ponadto sieci przestępcze posługują się platformami internetowymi, systemami komunikacji, anonimowymi płatnościami i technikami profilowania, by werbować, kontrolować i przemieszczać ofiary handlu ludźmi, w wielu przypadkach nieletnich, zamieniając kobiety i mężczyzn w „dane” do śledzenia i „przesyłki” do przekazywania w obrębie tych samych obiegów cyfrowych, które podtrzymują znaczną część światowej gospodarki. Ta rzeczywistość głęboko porusza sumienie moralne naszych czasów. Nie wystarczy odwoływać się do wydajności ani sławić korzyści płynących z innowacji, jeśli zbudowane są one na łańcuchu wyzysku, który pozostaje celowo ukrywany. Jeżeli jakaś technologia obiecuje wyzwolenie, a zarazem tworzy nowe formy globalnego podporządkowania, zaprzecza ona fundamentalnej zasadzie godności osoby.

174. Walka z nowymi formami niewolnictwa jest jednym z rozstrzygających sprawdzianów etycznego rozeznawania AI i transformacji cyfrowej. W nurcie tradycji zapoczątkowanej przez Leona XIII Kościół ponawia stanowcze potępienie wszelkiej formy niewolnictwa, handlu ludźmi i utowarowienia osób, a zarazem przypomina o pilnej potrzebie szerokiego ruchu refleksji i działania, który postawi w centrum uwagi niezbywalną godność każdej istoty ludzkiej oraz dobro wspólne jako cel społeczeństwa i kryteria każdego wyboru osobistego, społecznego i politycznego. Bez tej etycznej i humanizującej refleksji rosnąca władza systemów cyfrowych może prowadzić nas ku nowym okrucieństwom – nie mniej haniebnym niż te z przeszłości – które dziś potępiamy, podczas gdy nadal uważamy się za społeczeństwa „rozwinięte” i „cywilizowane”.

175. Handel ludźmi należy uznać za współczesną formę niewolnictwa i za ciężkie pogwałcenie godności człowieka; brak stanowczej reakcji albo jakakolwiek tolerancja wobec tych praktyk oznacza dziś – w pewnej mierze – współudział w winach popełnianych dawniej, gdy niewolnictwo bywało usprawiedliwiane lub przemilczane[173].