Papież przestrzegł przed bezkrytycznym poleganiem na AI

W opublikowanym w sobotę przesłaniu papież napisał: "Nie jesteśmy gatunkiem złożonym z biochemicznych algorytmów, z góry określonych. Każdy z nas ma niezastąpione i niepowtarzalne powołanie, które wyłania się z życia i objawia właśnie w komunikacji z innymi. Technologia cyfrowa, jeśli zaniedbamy tę troskę, może radykalnie zmienić niektóre z fundamentalnych filarów ludzkiej cywilizacji, które czasem bierzemy za pewnik".

"Symulując ludzkie głosy i twarze, mądrość i wiedzę, świadomość i odpowiedzialność, empatię i przyjaźń systemy znane jako sztuczna inteligencja nie tylko ingerują w ekosystemy informacyjne, lecz również wkraczają w najgłębszy poziom komunikacji, czyli w relacje między ludźmi" - ostrzegł Leon XIV.

Zaznaczył: "Nie jest to zatem wyzwanie technologiczne, lecz antropologiczne. Stanie na straży oblicz i głosów oznacza w ostatecznym rozrachunku ochronę nas samych. Przyjmować z odwagą, determinacją i rozeznaniem możliwości oferowane przez technologię cyfrową i sztuczną inteligencję nie znaczy ukrywać przed sobą punktów krytycznych, niejasności i ryzyka".

Papież zwrócił uwagę na to, że od dawna istnieje wiele dowodów na to, że algorytmy zaprojektowane w celu maksymalizacji zaangażowania na portalach społecznościowych "premiują szybkie emocje i zarazem penalizują te formy ludzkiej ekspresji, które wymagają czasu, takie jak wysiłek zrozumienia i refleksja".

Jak zauważył, "zamykając grupy osób w bańkach łatwej zgody i łatwego oburzenia, algorytmy te osłabiają zdolność słuchania i krytycznego myślenia oraz zwiększają polaryzację społeczną".

Leon XIV stwierdził, że istnieje też zjawisko naiwnego, bezkrytycznego polegania na AI jako "wszechwiedzącej przyjaciółce", rozdającej każdą informację i będącej "wyrocznią" w każdej radzie.

"Choć AI może zapewniać wsparcie i pomoc w wykonywaniu zadań komunikacyjnych, to unikanie wysiłku własnego myślenia i zadowalanie się sztuczną kompilacją statystyczną grozi w dłuższej perspektywie erozją naszych zdolności poznawczych, emocjonalnych i komunikacyjnych" - napisał papież.

Odnotował, że w ostatnich latach systemy sztucznej inteligencji coraz bardziej przejmują również kontrolę nad produkcją tekstów, muzyki i wideo. Dodał, że w ten sposób znaczna część ludzkiej twórczości może zostać rozmontowana i zastąpiona etykietą "Powered by AI" (wspierane przez AI).

W ten sposób, zdaniem Leona XIV, ludzie mogą stać się biernymi konsumentami anonimowych produktów, a arcydzieła ludzkiego geniuszu w dziedzinie muzyki, sztuki i literatury zostaną zredukowane do zwykłego pola treningowego dla maszyn.

Papież napisał, że najważniejsze w tej sytuacji nie jest to, co potrafi lub będzie potrafiła zrobić maszyna, ale to, co ludzie będą mogli zrobić dzięki mądremu wykorzystaniu potężnych narzędzi, jakie mają do dyspozycji.

Przestrzegł: "Rezygnacja z procesu twórczego i oddanie maszynom własnych funkcji umysłowych i wyobraźni oznacza pogrzebanie talentów, które otrzymaliśmy".

Za niepokojące zjawisko uznał także to, że tzw. boty i wirtualni influencerzy oraz nietransparentne działania tych "zautomatyzowanych agentów wpływają na debaty publiczne i na wybory dokonywane przez ludzi".

Zdaniem papieża ryzyko jest ogromne, ponieważ "siła symulacji jest tak wielka, że AI może nawet zwodzić nas poprzez fabrykowanie równoległych rzeczywistości zawłaszczając sobie nasze twarze i nasze głosy".

W opinii Leona XIV wyzwaniem nie jest to, by zatrzymać cyfrowe innowacje, ale by nimi świadomie kierować.

Podkreślił, że od twórców AI należy domagać się przejrzystości i odpowiedzialności społecznej.

Z Watykanu Sylwia Wysocka (PAP)