„Magnifica humanitas”. Etyczne wyzwania związane z rozwojem sztucznej inteligencji

Zamiast utopijnych fantazji czy dystopijnych wizji Leon XIV w „Magnifica humanitas” wzywa do budowania „cywilizacji miłości” ufundowanej na konkretnych zobowiązaniach. W obliczu technologicznych i ideologicznych przemian zasady nauki społecznej Kościoła stają się podstawowymi kryteriami analizy, interpretacji i waloryzacji zmieniającej się w szybkim tempie rzeczywistości.

AI-dziewczyny i AI-terapeuci

Wraz z postępem technologicznym naszych czasów, rewolucją cyfrową, ze szczególnym uwzględnieniem sztucznej inteligencji, następuje, zdaniem Leona XIV, dynamiczny rozwój paradygmatu technokratycznego sprowadzającego stworzenie do przedmiotu eksploatacji, w którym logika efektywności, kontroli i zysku rządzi wyborami osobistymi, społecznymi i gospodarczymi.

Nadzór zaś nad platformami, infrastrukturami, danymi i mocą obliczeniową w większości spoczywa w rękach prywatnych, jest poza kontrolą publiczną, co powoduje wzrost ryzyka wypaczonego rozwoju niosącego ze sobą nowe zależności, wykluczenia, manipulacje i nierówności.

W obliczu tych przemian zasady nauki społecznej Kościoła stają się podstawowymi kryteriami analizy, interpretacji i waloryzacji nowej sytuacji; probierzem tego, czy władza infrastruktur cyfrowych i algorytmów sprzyja uczestnictwu i odpowiedzialności, ochrania najsłabszych, zapewnia sprawiedliwe warunki i szanse dla wszystkich i jest podporządkowana dobru wspólnemu, czy wręcz przeciwnie.

Papież Franciszek nazwał AI narzędziem fascynującym i jednocześnie groźnym. Leon XIV zaś w Orędziu na LX Światowy Dzień Środków Społecznego Przekazu wskazywał, że wyzwanie, które stawia przed nami sztuczna inteligencja, ma charakter nie tyle technologiczny, co antropologiczny.

Technologia wykorzystująca naszą potrzebę relacji może mieć nie tylko dotkliwe konsekwencje dla losu poszczególnych osób, ale też zaszkodzić tkance społecznej, kulturowej i politycznej społeczeństw. Relacje z innymi zastępujemy bowiem relacjami ze sztuczną inteligencją, wyszkoloną do „katalogowania naszych myśli, a następnie budowania wokół nas świata luster”.

A przecież najpopularniejszym obszarem konsumenckiego zastosowania sztucznej inteligencji, z czego nie zawsze zdajemy sobie sprawę, nie są narzędzia biurowe czy analityczne, lecz tzw. AI companions – wirtualni towarzysze, partnerzy, „dziewczyny” i „chłopaki” AI. Drugim najczęstszym sposobem jej użycia jest z kolei AI-terapia. Mówimy więc o masowym delegowaniu relacji, emocji i sensu na systemy technologiczne, co rodzi pytania nie tylko etyczne, ale wręcz antropologiczne.

O właściwą antropologię

Kwestie te zostały rozwinięte w Magnifica humanitas, gdzie również zwrócono uwagę na zagrożenia niesione przez AI, zarówno dla życia osobistego, jak i społecznego. W przypadku użycia osobistego Leon XIV zwraca uwagę na trzy aspekty: 1) łatwość uzyskania wyniku, 2) wrażenie obiektywności, 3) symulację komunikacji ludzkiej.

Podobnie w życiu społecznym pojawiają się wielorakie ryzyka, kiedy delegujemy na AI rozstrzyganie rozmaitych kwestii. Nie może być ona postrzegana jako całkowicie obiektywna i neutralna w swoich decyzjach, nie możemy zapominać bowiem, iż ktoś ją projektuje i trenuje, a więc może ona odzwierciedlać stereotypy i stanowiska ideologiczne takiej osoby.

Nie jest moralnie neutralna, każde bowiem urządzenie techniczne niesie z sobą wybory i priorytety. Co mierzy, a co ignoruje? Co optymalizuje? W jaki sposób klasyfikuje osoby i sytuacje?

Papież nie waha się pisać nawet o potrzebie spowolnienia rozwoju i wdrażania sztucznej inteligencji, co nie może być postrzegane jako wyraz obskuranctwa, neoluddyzmu czy antytechnologicznych fobii, ale przejaw troski o kondycję człowieka i o rodzinę ludzką.

Nasuwają się tutaj analogie z podnoszonymi w ostatnich latach coraz mocniej hasłami dewzrostowymi (Jason Hickel, Tim Jackson, Niko Paech, Serge Latouche i in.) czy ideą steady-state economy Hermana Daly’ego. Koncepcjami podkreślającymi, iż dalsze stymulowanie wzrostu gospodarczego jest skrajnie nieodpowiedzialne, a korelacja pomiędzy dobrostanem a wzrostem, wbrew powszechnym przekonaniom, wcale nie istnieje.

W tej sytuacji potrzeba polityki „zdolnej spowalniać tam, gdzie wszystko przyspiesza, i chronić przestrzenie, w których wspólnoty mogą nadal uczestniczyć i stawiać pytania” (MH, 106-107).

AI bowiem prowadzi raczej do powiększania dysproporcji, bogatych czyni jeszcze bogatszymi, potężnych jeszcze potężniejszymi, masy biednych sprowadza zaś do roli – używając określenia Yanisa Varoufakisa – „chłopów pańszczyźnianych”, którzy nieświadomie, w ramach nieodpłatnej „pracy”, czyli aktywności w mediach społecznościowych, szkolą algorytmy po to, aby w przyszłości coraz lepiej zarządzały kolejnymi obszarami życia i gospodarki, powiększały majątki i władzę cyfrowych multimiliarderów.

Leon XIV wyraźnie podkreśla, iż problemem nie jest tylko to, że niektóre technologie mogą być źle używane, ale zbliżając się w swojej argumentacji do chrześcijańskich technokrytyków w rodzaju Ernsta F. Schumachera, Jacques’a Ellula czy Ivana Illicha mówi o wszechobejmującym paradygmacie technokratycznym, w którym jesteśmy zanurzeni od dziesięcioleci.

Dziś został on wzmocniony przez rewolucję cyfrową i AI, sprawiając, że za słuszną i normalną zaczyna uchodzić wizja antyludzka, wedle której naczelnym celem życia staje się „mieć” oraz dążenie do eliminowania tego, co nieprzewidywalne, rozciągnięcia pełnej kontroli nad wszystkimi sferami życia. Kiedy zaś wydajność staje się jedyną miarą wartości, „człowiek ulega pokusie myślenia o sobie bardziej jako o projekcie, który należy zoptymalizować, niż jako o stworzeniu powołanym do relacji i komunii” (MH, 112).

W efekcie dochodzi do absolutyzowania inteligencji i do swoistego redukcjonizmu, sprowadzającego człowieka jedynie do tego „projektowego” wymiaru, z pominięciem uczuć, woli, oddania i relacji. Ideologiczny fundament tych tendencji stanowią nierzadko koncepcje transhumanizmu, będące poniekąd recydywą eugenicznych mrzonek.

Ich jądro stanowi nadzieja „zbawienia” oraz marzenie o przekroczeniu granic ludzkiej kondycji dzięki technice. Zgodnie z The Transhumanist Declaration z 2009 r. przyszły rozwój nauki i technologii wywrze fundamentalny wpływ na dalsze losy ludzkości, czego wynikiem będzie rozszerzenie ludzkiego potencjału poprzez przezwyciężenie procesów starzenia, niepożądanego cierpienia czy ograniczeń poznawczych, a wreszcie podbój kosmosu.

Autorzy manifestu zakładają, że potencjał rozwojowy ludzkości pozostaje w znacznym stopniu niezrealizowany i istnieją realistyczne scenariusze prowadzące do powstania nowych, pożądanych i wartościowych form egzystencji.

Mamy więc do czynienia de facto z obietnicą zbawienia opartą na zaufaniu (wierze) w technologiczne możliwości ludzkości, „immanentną transcendencją”, w której ludzkość przekształca się w postludzkość.

W świetle nauki społecznej Kościoła wizja, w której istota ludzka jest traktowana jako materiał do udoskonalenia, jest nie do przyjęcia. W takiej sytuacji bowiem niektórzy mogą zostać „uznani za mniej użytecznych, mniej pożądanych czy mniej godnych. W imię postępu można dojść do wyobrażenia sobie «koniecznych ofiar» i kazać najsłabszym płacić cenę domniemanej optymalizacji gatunku” (MH, 116-117).

Dość przypomnieć, że niektórzy zwolennicy transhumanizmu, tacy jak Guy Kahane, Julian Savulescu czy Walter Veit, wprost mówią o potrzebie czy nawet obowiązku moralnym selekcji genetycznej potomstwa. Taka postawa to zdaniem papieża symptom poważnego kryzysu w podejściu do kondycji ludzkiej i życia. Jest to swoisty perfekcjonizm postrzegający chorobę, starość i cierpienie jedynie jako defekt, który bezwzględnie należy wyeliminować.

Kościół wobec kapitalizmu inwigilacji

Amerykańska psycholog społeczna Shoshana Zuboff nazwała współczesny system kapitalizmem inwigilacji. Ma on charakter na wskroś pasożytniczy i egocentryczny, uznając ludzkie doświadczenie za darmowy surowiec do produkcji danych behawioralnych.

Niektóre z nich co prawda są stosowane do ulepszania produktów lub usług, pozostałe jednak, jak pisze Zuboff, „zostają zadeklarowane jako zastrzeżona nadwyżka behawioralna, wykorzystana w zaawansowanych procesach produkcyjnych zwanych «inteligencją maszyn» (machine intelligence) i przetworzona w produkty do analizy predykcyjnej, które przewidują, co zrobisz teraz, wkrótce i później. Wreszcie, owe produkty predykcyjne stanowią przedmiot obrotu na nowych rynkach prognoz behawioralnych”.

System ten bezwzględnie wykorzystuje bezprecedensowe asymetrie dostępu do wiedzy i władzę, która z tego wypływa. Również Leon XIV zwraca uwagę na te kwestie podkreślając, że kolejnym zagrożeniem jest kontrola, wynikająca z masowego gromadzenia danych i stosowania systemów algorytmicznych.

W sytuacji, kiedy każda nasza aktywność pozostawia ślady w sieci, „rodzi się nowa postać władzy: władza profilowania, przewidywania i ukierunkowywania zachowań, często bez pełnej świadomości samych zainteresowanych. Jeżeli dane te są wykorzystywane do podejmowania decyzji wpływających na konkretne możliwości życiowe (jak dostęp do kredytu, dobór pracowników, dostęp do usług), istnieje ryzyko naruszenia wolności i dyskryminowania osób najbardziej bezbronnych” (MH, 171).

Stanowi to wyraz wspominanej już mentalności technokratyczno-transhumanistycznej, która widzi w osobie głownie przedmiot manipulacji albo zasób, który należy optymalizować. Jak słusznie zauważa Leon XIV, niektóre nurty transhumanistyczne posuwają się wręcz do tego, że stawiają hipotezy o istnieniu istot ludzkich „drugiej kategorii”. Mamy więc do czynienia z nową arystokracją cyfrową wyrastającą ponad masy proletariatu i chłopów pańszczyźnianych współczesnego technofeudalizmu.

Jest to perspektywa niepokojąca. Tym groźniejsza, im bardziej łączy się z narzędziami technologicznymi, które w sposób wykładniczy zwiększają władzę kontroli i selekcji. Papież podkreśla, iż znaczna część funkcjonowania współczesnej gospodarki cyfrowej opiera się na cichej, wręcz niewidocznej pracy milionów ludzi, zatrudnionych przy oznaczaniu danych, moderacji treści oraz trenowaniu modeli.

Sedno Magnifica humanitas leży w pytaniu, jak „pozostać człowiekiem” w obliczu rewolucji technologicznej. W tym sensie encyklika nie przedstawia społecznej doktryny Kościoła jako abstrakcyjnego katalogu zasad, lecz raczej jako „ścieżkę wspólnotowego rozeznania”.

Sztuczna inteligencja nie jest bowiem moralnie neutralna; problem tkwi w tym, jak społeczeństwa ją wykorzystują. Carl Schmitt już przed II wojną światową w pracy Epoka neutralizacji i polityzacji przestrzegał przed złudzeniem neutralności techniki i przekonaniem, że prowadzi ona automatycznie do uczynienia świata lepszym. Wskazywał, iż w ten sposób, niejako w sposób magiczny, łączy się kwestie, które nie mają ze sobą nic wspólnego, zakładając, że wspaniałe instrumentarium współczesnej techniki spożytkowane będzie wyłącznie w dobrej sprawie.

Warto też zauważyć, że encyklika nie proponuje jakiejś naiwnej utopii. Nie ma w niej nostalgii za starymi, dobrymi czasami, utraconym rajem, nie znajdziemy bezwarunkowego odrzucenia technologii, „maszyny”, jak chociażby u Paula Kingsnortha, tęskniącego za Merry England.

Papież powstrzymuje się też od pokusy zarysowywania dystopijnych wizji przyszłości w stylu literatury sci-fi, w której sztuczna inteligencja wymyka się całkowicie spod władzy człowieka i zaczyna działać przeciwko niemu. Zamiast tego papież wzywa do budowania „cywilizacji miłości” ufundowanej na konkretnych zobowiązaniach.