Encyklika Leona XIV Magnifica humanitas

Paradygmat technokratyczny i władza cyfrowa

92. W Encyklice Laudato si’ Papież Franciszek piętnował rosnącą dominację paradygmatu technokratycznego[119] w zglobalizowanym świecie: tendencję do tego, by logika efektywności, kontroli i zysku sama rządziła wyborami osobistymi, społecznymi i gospodarczymi. Tym samym jeszcze wyraźniej widać, że technika nie jest zwykłym narzędziem i że – gdy staje się kryterium – ostatecznie sama decyduje o tym, co ma znaczenie, a co może zostać odrzucone, sprowadzając stworzenie do przedmiotu eksploatacji, a osoby do trybików systemu, który ma być coraz bardziej wydajny.

93. Paradygmat ten szybko rozszerzył się w ostatnich latach, również wskutek rozpowszechniania sztucznej inteligencji, nauk kognitywnych, nanotechnologii, robotyki i biotechnologii. Same w sobie innowacje te mogą stać się wielką pomocą dla integralnego rozwoju człowieka i troski o wspólny dom. Jednak właśnie ze względu na swoją moc mogą pełnić funkcję akceleratora paradygmatu technokratycznego i dlatego potrzebują nowych ram duchowych, etycznych i politycznych. To, co potężniejsze, niekoniecznie znaczy lepsze. W tym sensie aktualne pozostają słowa Romana Guardiniego: „Człowiek nowoczesny nie został wychowany tak, aby umiał się posługiwać swą mocą właściwie”[120].

94. Niebezpieczeństwo, że ludzkość stanie się ofiarą własnych zdobyczy, zostało już z wielką jasnością dostrzeżone przez św. Pawła VI, gdy przestrzegał, że „najbardziej niezwykłe postępy naukowe, najbardziej niesamowite osiągnięcia techniczne, najcudowniejszy rozwój gospodarczy, jeśli nie łączą się z autentycznym postępem społecznym i moralnym, w ostatecznym rachunku zwracają się przeciw człowiekowi”[121]. Dlatego postęp techniczny – sam w sobie cenny – domaga się rozeznania co do antropologicznej wizji, która nim kieruje, oraz celów, do których zmierza. Jeżeli rozwój technologiczny dokonuje się bez odpowiedniego dojrzewania etycznego i społecznego, może się zdarzyć, że środki będą się mnożyć, natomiast nie będzie w tej samej mierze wzrastać człowieczeństwo: „ma się więcej”, ale nie „jest się bardziej”, a osoba ryzykuje, że będzie oceniana przede wszystkim na podstawie osiągów, jakie jest w stanie zagwarantować[122].

95. Trzeba tu uznać fakt decydujący, do którego już wcześniej nawiązałem: w wielu przypadkach w kontekście cyfrowym kontrola nad platformami, infrastrukturami, danymi i mocą obliczeniową nie należy do państw, lecz do wielkich podmiotów gospodarczych i technologicznych, które de facto ustalają warunki dostępu, zasady widoczności treści, a nawet same możliwości uczestnictwa. Kiedy władza o takim zasięgu koncentruje się w nielicznych rękach, ma tendencję do stawania się nieprzejrzystą i wymykania się kontroli publicznej, a zarazem wzrasta ryzyko wypaczonego rozwoju, który rodzi nowe zależności, wykluczenia, manipulacje i nierówności.

96. W obliczu tej koncentracji władzy w świecie cyfrowym wielkie zasady nauki społecznej: zasada niezbywalnej godności osoby, dobra wspólnego, powszechnego przeznaczenia dóbr, pomocniczości, solidarności i sprawiedliwości społecznej, stają się kryteriami oceny i rozeznawania nowej sytuacji. Domagają się one sprawdzenia, czy władza infrastruktur cyfrowych i algorytmów rzeczywiście sprzyja uczestnictwu i odpowiedzialności, chroni najsłabszych, zapewnia sprawiedliwy dostęp do możliwości i pozostaje podporządkowana dobru wszystkich. Wychodząc od tych przesłanek, możemy teraz rozważyć bliżej, czym jest sztuczna inteligencja, jakie możliwości otwiera i jakie ryzyka niesie ze sobą.

Sztuczna inteligencja

97. Nie jest moją intencją, by w tym miejscu przedstawiać wykład na temat sztucznej inteligencji ani przytaczać bibliografię, dziś już bardzo obszerną; istnieją już bowiem autorytatywne opracowania, także w środowisku kościelnym, do których można się odwołać[123]. Ograniczę się do przypomnienia kilku elementów istotnych dla rozeznania moralnego i społecznego, które otaczają troską prymat osoby, tak aby to zawsze inteligencja ludzka – wraz ze swoim sumieniem i swoją wolnością – kierowała innowacjami technicznymi oraz odpowiedzialnie określała ich zastosowanie i granice.

98. Wypada poprzedzić te rozważania dwiema uwagami. Po pierwsze, istnieje ryzyko, że wszelkie tezy dotyczące AI mogą się w krótkim czasie zdezaktualizować ze względu na zdumiewające tempo rozwoju tych systemów. Po drugie, wszyscy – także ci, którzy je projektują – niewiele wiemy o ich rzeczywistym funkcjonowaniu. Współczesne systemy sztucznej inteligencji są bowiem bardziej „hodowane” niż „konstruowane”: twórcy nie projektują bezpośrednio każdego ich szczegółu, lecz tworzą architekturę, na której AI „się rozwija”. W konsekwencji podstawowe aspekty naukowe – takie jak wewnętrzne reprezentacje i procesy obliczeniowe tych systemów – pozostają obecnie nieznane. Tym pilniej ujawnia się potrzeba podjęcia podwójnego wysiłku: z jednej strony pogłębiania badań naukowych, z drugiej – praktykowania rozeznawania moralnego i duchowego.