Nadchodzi koniec demokracji? Rewolucja cyfrowa skierowała świat w kierunku autorytaryzmu

Poziom złożoności świata, będący pokłosiem rewolucji cyfrowej, oraz chaos informacyjny podważają funkcjonalną przewagę demokracji. Jeżeli „rządy ludu” przestały być najskuteczniejszym sposobem zarządzania społecznościami, to czy nie jesteśmy skazani na autorytaryzm? O CyberPanach, demokracji i strukturalnie zatrutej infosferze Cezary Boryszewski rozmawia z prof. Andrzejem Zybertowiczem.

Elon Musk jest jedną z najważniejszych person w administracji Donalda Trumpa. Wiceprezydentem jest J.D. Vance, którego intelektualnym patronem miał być Peter Thiel, założyciel PayPala. Czy to, co obserwujemy w USA, aktualizuje pana spojrzenie na rolę CyberPanów? Wielcy Doliny Krzemowej staną na czele prawicowej rewolucji?

Być może to pytanie źle wskazuje punkt ciężkości. Głównymi siłami sprawczymi nie są bowiem sami CyberPanowie, lecz rewolucja cyfrowa (albo kapitalizm w fazie rewolucji cyfrowej). CyberPanowie to tylko emanacja szerszego zjawiska.

Rewolucja cyfrowa pozwoliła na wyłonienie się grupy ludzi, którzy uzyskali możliwość bezprecedensowej w dziejach ludzkości kumulacji kluczowych zasobów, tj. bogactwa, wiedzy i władzy/wpływu. Ich pozycja jest w ogromnej mierze pochodną siły procesów cyfryzacji.

Obserwuję ten unikalny w dziejach ludzkości tandem Trump-Musk i sądzę, że jest to bardzo niebezpieczna sytuacja na poziomie systemowo-cywilizacyjnym. Gdy jeden człowiek (lub bardzo nieliczna grupa osób) ma władzę pociągania za zbyt wiele dźwigni, to zwiększona jest podatność cywilizacji na wstrząsy.

O jakiego rodzaju wstrząsach rozmawiamy?

Podam przykład. W kontekście wielkiej awarii Microsoftu z dnia 19 lipca 2024 r. napisałem tekst pt. Na łasce kodu i sieci, który ukazał się na łamach miesięcznika „Wszystko co Najważniejsze”. Pamięta pan, co wydarzyło się sześć dni przed awarią? Zamach na Donalda Trumpa, który nie udał się tylko dlatego, że w kluczowym momencie dzisiejszy prezydent USA wykonał ruch głową.

Wyobraźmy sobie, że zamach jednak się udał, a awaria Microsoftu nastąpiłaby sześć dni po nim. Dodatkowo przyjmijmy, że próba wysłania paczek z ładunkami wybuchowymi nadanymi najpewniej przez rosyjską agenturę w ramach wojny hybrydowej do samolotów niemieckiej firmy kurierskiej DPD, do czego doszło 20 lipca 2024 r., skończyłyby się powodzeniem.

Gdyby te trzy wydarzenia się ze sobą zbiegły w czasie, wywołałoby to efekt kaskadowy. Gdyby zamach na Donalda Trumpa się powiódł, to w jakiej kondycji byłyby Stany Zjednoczone? Na pewno społeczeństwo i media byłyby skrajnie rozhisteryzowane. Być może kraj zbliżyłby się do granicy wojny domowej.

Co działoby się w Niemczech i Europie, gdyby zamachy na samoloty cargo się udały? Któż wtedy by uwierzył, że awaria Microsoftu była przypadkowa? Kto by uwierzył, że zamachowiec, który chciał zabić Trumpa, działał sam? Prawdopodobnie mielibyśmy do czynienia z paniką i zaburzeniami na skalę światową.

Wyobraźmy sobie, że rozhisteryzowanie Zachodu wykorzystują niektórzy regionalni autorytarni przywódcy. Korzystając z nieuwagi opinii światowej, przechwytują będące przedmiotem starych sporów tereny sąsiednich państw.

A kraje, które mają przygotowane w ramach wojny cyfrowej możliwości sabotażu w sieciach infrastruktury przeciwnika, zaczynają je odpalać, żeby uzyskać pożądane przez siebie efekty. Nietrudno tu przewidzieć reakcje rynków finansowych. Tak mógłby wyglądać początek efektu kaskadowego.

Cywilizacja cyfrowa stała się konstruktem (wiele osób w ogóle nie zdaje sobie z tego sprawy) nader niestabilnym, o wielkiej podatności na wstrząsy i poważne uszkodzenia. Jeśli u steru jednego państwa są dwie bardzo potężne osoby – posiadający ogromne uprawnienia prezydent USA oraz mający ogromne zasoby technologiczne i finansowe właściciel Tesli i szeregu innych firm – to mogą działać na bezprecedensową skalę.

W scenariuszu optymistycznym mogą próbować przesterować świat ku lepszemu. Co jednak, jeśli – niezależnie od ich intencji – pogłębią destabilizację procesów globalnych?

Co jest główną przyczyną niestabilności świata doby rewolucji cyfrowej? Kumulacja władzy w rękach nielicznych czy poziom skomplikowania tegoż świata? 

Mamy do czynienia z paradoksalnym sprzężeniem dwóch procesów obniżających stabilność systemów społecznych. Po pierwsze, rewolucja cyfrowa dodała do świata tradycyjnego, analogowego kolejne warstwy rzeczywistości nowego typu – wirtualnej, tj. cyfrowej. Owo „dodawanie” nie tylko trwa, ale wraz z nadejściem AI przyśpiesza. Rzeczywistość została pomnożona, a przez to znacznie się skomplikowała.

Po drugie, rewolucja cyfrowa, zwłaszcza w swojej „ścieżce” mediów społecznościowych, doprowadziła do degradacji poznawczej, intelektualnej i fizjologicznej całego pokolenia. Świat społeczny zrobił się bardziej złożony. To wymaga zarządzania wyższej jakości. Tymczasem jakość zarządzających spada. Bodaj czy nie proporcjonalnie, wraz ze wzrostem owej złożoności.

Zróbmy teraz eksperyment myślowy. Powiedzmy, że nauczył się pan kierować samochodem w mieście średniej wielkości, takim jak Toruń. Okazuje się, że pan z jakichś powodów musi przemieścić się tym samochodem do Warszawy, gdzie ruch miejski jest znacznie bardziej dynamiczny.

Jednocześnie w trakcie jazdy do stolicy podczas prowadzenia samochodu jest pan bombardowany narastającymi strumieniami bodźców: filmikami z kotami, głupimi historyjkami, memami, przypomnieniami, ustaleniami, decyzjami, ostrzeżeniami.

Zmieniające się warunki jazdy wymagają od pana większej uwagi, ale pana możliwości skupienia stale maleją. To jeszcze nic, bo podczas podróży samochód zamienia się w samolot. Nie ma już pan jedynie kilku „zegarów” do monitorowania jak w aucie, tylko kilkadziesiąt. Co więcej, natężenie ruchu ciągle rośnie.

Na tym polega pułapka dzisiejszej cywilizacji. Nasze zdolności poznawcze, zamiast nadążać za rosnącą komplikacją społecznego świata, są przeciążane przetwarzaniem nieistotnych informacji tak bardzo, że coraz częściej podejmujemy błędne, tj. szkodzące ludzkości, decyzje.

Świat staje się coraz bardziej nieprzejrzysty. Nic dziwnego, że tak wielu z nas zamyka się w bańkach informacyjnych.

Nie będąc w stanie przetworzyć nadmiaru sprzecznych informacji, niektórzy ulegają ofertom iluzorycznego poczucia zrozumienia i kontroli. Stąd tak duże powodzenie prostych schematów i heurystyk, łatwo przyswajalnych narracji, które nie wymagają radzenia sobie z niuansami i złożonością.

Inni wybierają drogę na skróty, opierają się na gotowych odpowiedziach i algorytmicznych podpowiedziach. W efekcie często biernie poddają się rozproszeniu, po jakimś czasie tracą (może bezpowrotnie) zdolność do głębszej koncentracji, krytycznej analizy i refleksji.

Jeszcze inni pocieszają się, że rozwiązaniem jest/będzie delegowane decyzji zewnętrznym narzędziom typu AI, co już prowadzi do stopniowego osłabienia nie tylko pamięci, ale i w ogóle zdolności do zachowania suwerenności intelektualnej przez człowieka. 

Czy elity, które mają potencjalny wpływ na te zjawiska, nie są świadome tych procesów?

W niedużej mierze. Podam przykład. W lutym tego roku byłem z prezydentem Andrzejem Dudą w delegacji w Dubaju na wydarzeniu pod nazwą World Government Summit – czymś w rodzaju regionalnego szczytu na wzór World Economic Forum w Davos.

Pierwszym mówcą był Klaus Schwab, twórca szczytów właśnie w tym mieście. W trakcie swojego przemówienia stwierdził m.in., że po erze agrarnej i erze przemysłowej wchodzimy w erę „inteligentną”.

Przyznał, że nawet pisząc książkę na temat owej inteligentnej ery, nie rozumie wszystkich aspektów tego, co się dzieje. Podsumowując swą wypowiedź, powiedział: „Przyszłość się nie wydarza, przyszłość jest kształtowana przez nas”.

Bardzo optymistyczne założenie.

W sensie przyczynowym, tj. wywoływania pewnych procesów, przyszłość faktycznie kształtujemy w tym sensie, że jej kształt zależy od naszych działań. Problem w tym, że nie całkiem rozumiemy to, od czego zależą nasze działania, dlaczego postępujemy tak, a nie inaczej, nierzadko zastanawiamy się, dlaczego nasze decyzje przynoszą takie, a nie inne rezultaty.

Przecież wiadomo, że to nasze „sprawstwo” bardzo często, być może w sprawach najważniejszych, przynosi efekty uboczne, niezgodne z naszymi intencjami. Znaczy to, że choć jesteśmy „wytwórcami” przyszłości, często wcale nie działamy ani według własnych wartości, ani pragnień.

Po tym wydarzeniu wrzuciłem wykład Schwaba w jeden z modeli językowych AI z pytaniem, czy widzi w przemówieniu jakieś niespójności. Gemini 2.0 firmy Google po zapoznaniu się z automatyczną transkrypcją tekstu punkt po punkcie te nieścisłości wyłapał.

Podsumował, że nawet jeśli osoba pisząca książkę na temat epoki inteligentnej nie rozumie w pełni tego, co się dzieje, to co dopiero mówić o skutecznym kształtowaniu przyszłości przez ludzkość.

To przecież podważa podmiotowość, którą, jak Schwab twierdzi, mamy posiadać. Część wykształconych obecnych na tym wykładzie osób, z którymi potem rozmawiałem, tego nie dostrzegła.

Teoretycznie byli tam przecież jedni z najbardziej kompetentnych i najlepiej poinformowanych ludzi na świecie! Wystarczy przejrzeć listę mówców.

Zatem może chodzi im wszystkim o ich doraźny interes – władzę i powiększanie wpływów?

Nie sądzę, żeby sam Klaus Schwab był cyniczny. To raczej samooszukiwanie się. W moim odczuciu zgromadzeni tam liderzy polityki i biznesu myśleli: jeśli my, elity, będziemy się między sobą porozumiewać i nie będziemy nadmiernie egoistyczni, to przejdziemy suchą nogą przez zmiany spowodowane przez rewolucję cyfrową. Moim zdaniem na takim myśleniu elity współczesnego świata mogą się mocno przejechać.

W dziejach zawsze wśród najbogatszych (poza utracjuszami) była jakaś część ludzi świadomych – „oświeconych”, którzy nie interesowali się wyłącznie uciechami. Rozumieli, że są współodpowiedzialni za resztę systemu społecznego. To była arystokracja.

Znaczna jej część potrafiła w przełomowych okresach historii dokonać konwersji swoich zasobów i stać się bankierami, biznesmenami, przedstawicielami elit artystycznych czy akademickich. Teraz te elity często działają naprawdę w dobrej wierze i są przekonane, że jeżeli mądrze zorganizujemy się jako ludzkość, to względnie bezpieczne przejście do „epoki inteligentnej” nam się powiedzie. Ze względu na złożoność systemu dzisiejszej cywilizacji nie podzielam ich optymizmu.

Jaka jest relacja między kondycją demokracji a kondycją obiegu informacyjnego? Jaką rolę w systemie politycznym odgrywa rzetelny dostęp do wiedzy i informacji? 

Ważne, byśmy nie utożsamiali informacji z wiedzą. Wiedza jest szerszą uporządkowaną całością, czymś, co ma sens. Dzisiejsze strumienie informacji są cząstkami rzadko układającymi się w spójne obrazy pozwalające na rozumienie tego, co się dzieje. Najprawdziwsza nawet informacja bez kontekstu nie ma większego sensu.

Odbiorcy reagują na różnego rodzaju informacje instynktownie, czyli najpierw emocjonalnie. A prawdziwość czy fałsz tych wiadomości nie ma nic do rzeczy. Oburzamy się, obejrzawszy jakiś filmik, zapominamy, że sens etyczny danej informacji umieszczonej w szerszym kontekście może być zupełnie inny.

Już starożytni Rzymianie mieli takie porzekadło: gdy wyjdziesz zza rogu i zobaczysz leżącego, zakrwawionego człowieka, który ma sztylet wbity w pierś, a inny człowiek trzyma za rękojeść sztyletu, to nie wiesz, czy go przed chwilą wbił, czy podszedł, żeby go wyciągnąć z ciała ofiary.

Odróżnianie tych dwóch sytuacji wymaga powstrzymania swoich emocji. Dzisiejszy infozgiełk niezwykle to utrudnia.

I to psuje demokrację?

Tak, ale przypomnijmy sobie dwa zasadnicze uzasadnienia demokracji. Jedno ma charakter moralny, drugie funkcjonalno-darwinowski.

Uzasadnienie moralne głosi, że demokracja jest najsensowniejszym systemem, ponieważ dzięki niemu ludzie mniej cierpią. Mimo że nie jest ustrojem w pełni sprawiedliwym, to mając wbudowane instytucje chroniące prawa człowieka, daje więcej przestrzeni na dochodzenie sprawiedliwości niż systemy niedemokratyczne. Zgodnie z porzekadłem Winstona Churchilla demokracja jest najgorszym możliwym systemem, ale póki co nie wymyślono od niej nic lepszego.

Z kolei uzasadnienie funkcjonalno-darwinowskie głosi, że systemy demokratyczne są organizacyjnie, zarządczo znacznie sprawniejsze od autorytarnych, gdyż funkcjonują na zasadzie tzw. rozproszonego przetwarzania informacji. Do demokratycznej władzy politycznej obywatele nie boją się wysyłać rozmaitych sygnałów, wyrazów niezadowolenia itd. Dzięki temu lepiej reaguje ona na rzeczywiste problemy społeczne i szybciej je rozwiązuje.

Wolność służy kreatywności, kreatywność wynalazkom, a wynalazki służą dobrostanowi itd. Model rozproszonego przetwarzania informacji daje zatem lepszy performance systemu. Demokracja jest zatem skuteczniejsza niż systemy autorytarne w wytwarzaniu dóbr niezbędnych dla rozwoju społeczeństwa i siły sprawczej państwa.

Czy to uzasadnienie w dobie cyfrowej rewolucji uległo załamaniu?

Cofnę się na chwilę o kilka dekad. Polski ekonomista Oskar Lange (1904-1965), ważna postać w czasach PRL-u, rozumował mniej więcej tak: gdybyśmy mieli komputer potrafiący przetwarzać miliony decyzji i operacji rynkowych, które każdego dnia podejmowane są w gospodarce każdego kraju, to można by stworzyć komputerowego centralnego planistę, który skutecznie sterowałby gospodarką.

Czy pan wie, jak wyglądało sterowanie gospodarką socjalistyczną? System opierał się na prognozach dotyczących potrzeb społeczeństwa, a następnie na ich podstawie ustalano pożądaną wielkość produkcji oraz alokację zasobów.

Liczono np., ile w danym roku wynosiła konsumpcja ogórków konserwowych. Prognozowano, że rok później przyrost populacji będzie wynosił np. 1,5%. Stąd wywodzono wniosek, że należałoby wyprodukować 1,5% więcej słoików z ogórkami niż w roku ubiegłym.

Wysyłano więc konkretne zapotrzebowanie do rolnictwa na ogórki, do hut szkła na słoiki, do huty stali na nakrętki itd. A jednak to się nie sprawdzało. Z różnych powodów złożoność tego systemu przekraczała techniczne możliwości skutecznej koordynacji wszystkich ciągów liczbowych i co rusz okazywało się, że czegoś wytworzono za dużo, a czegoś za mało.

Lange wierzył, że gdyby centralny planista miał wystarczająco wydolny wielki komputer, który ogarniałby wszystkie strumienie danych, to mimo wyłączenia rynkowego systemu przetwarzania informacji problem zarządzania gospodarką socjalistyczną zostałby rozwiązany. Zwróćmy uwagę, że rozumowanie Langego na kilka lat przed obecną rewolucją AI odtworzył nieświadomie Yuval Noah Harrari, gdy mówił o dataizmie.

Ta koncepcja zakładała, że jeżeli będziemy mieli wszystkie dostępne dane, np. ślady behawioralne konsumentów, informacje o tym, jakie ludzie mają potrzeby, w tym jaka część z nich jest ekscentrykami, jaka osobami kreatywnymi itd., to można by doskonale zarządzać naszym skomplikowanym światem z jednego centrum. W tej sytuacji wsłuchiwanie się w głos ludu poprzez procedury wyborcze byłoby zbędne.

Tu rodzą się pytania, czy ta funkcjonalna, wynikająca ze spontanicznego, rozproszonego obiegu informacji (rynek oraz instytucje demokratyczne, w tym wolne media jako wielkie agregatory informacji) przewaga demokracji nad autorytaryzmem już nie znika.

Czy w obecnym hiperzłożonym układzie rozproszony system spontanicznego obiegu informacji już się nie załamuje? Jeżeli tak, to co w miejsce demokracji? Czy jakaś forma centralnego sterowania coraz bardziej zautomatyzowaną gospodarką nie byłoby funkcjonalnie skuteczniejsza?

Dlaczego to, jak funkcjonuje dzisiejszy obieg informacyjny, psuje funkcjonalno-darwinowską przewagę demokracji nad autorytaryzmem?

Widzę co najmniej dwa powody. Pierwszy: wydaje się, że w wyniku zanurzenia w strukturalnie zatrutą infosferę spora część (większość?) ludzi już utraciła zdolność poprawnego rozpoznawania swoich rzeczywistych potrzeb.

Z jednej strony oznacza to naszą większą podatność na manipulacje, z drugiej to, że informacje, jakie sobie samym i innym współobywatelom przekazujemy na swój temat, okazują się błędne. Znaczy to, że zasoby społeczne są alokowane nie tam, gdzie niebawem okazują się potrzebne, np. walczy się z dyskryminacją, ale wcale nie tam, gdzie przynosi ona najgorsze skutki.

Powód drugi: by demokracja funkcjonowała, musi istnieć minimalny konsensus co do wartości, sensu pojęć, nieprzekraczalnych ram naszego działania. Ludzie muszą akceptować pewne reguły gry. Konstytucja jest prawem wiążącym tylko wtedy, gdy pewna cześć społeczeństwa uznaje ją za prawo wiążące.

Jeśli konstytucja została sprowadzona do sztandaru w walce politycznej i jeśli nie ufamy tym, którzy ją interpretują, jeśli między ekspertami nie sposób uzyskać zgody co do pojmowania pewnych zapisów konstytucji, to pod znakiem zapytania staje jej (regulacyjna) wartość i lojalność obywateli wobec niej.

Widzimy to w Polsce. Jeżeli w zbiorowości nie ma minimalnego konsensusu, demokracja buksuje.

W warunkach strukturalnie zatrutej cyfrowej infosfery i stałego przeciążenia bodźcami bardzo trudne jest prowadzenie rzeczowego sporu. Ludzie kierują się naturalnym odruchem obronnym wobec informacyjnego chaosu i zamykają się w bańkach informacyjnych, a to z kolei wymusza na politykach grę na polaryzację.

Każdy żyje we własnym świecie, bańce, narracji i ma taką „prawdę”, na jaką pozwalają emocje jego „plemienia”. Jak w takich warunkach możliwa jest szersza wspólnota?

Zauważmy, że na całym bodaj Zachodzie – nieważne, czy w Polsce, USA lub w Wielkiej Brytanii – zapomina się, że i konserwatyści, i progresywiści mają takie samo prawo uczestniczenia w życiu publicznym. Ludzie dziś odmawiają sobie wzajemnie prawa do istnienia.

Problem w tym, że politycy nie robią nic, by obniżyć temperaturę polaryzacji. Jest wręcz przeciwnie – cynicznie ją podgrzewają.

Pytanie, czy mają wybór. Wiem o pewnym polityku, który brutalne, chamskie wypowiedzi wręcz uzgadniał z dziennikarzami tuż przed wejściem na antenę, pytał ich, jak to wypadnie. Sam, gdy udzielałem niegdyś wywiadu, zostałem poproszony przez dziennikarkę, bym powiedział coś takiego, co da się zacytować i wzbudzi emocje.

Jeśli idzie pan ulicą i znajduje się na niej jeden baner reklamowy, to pan go zauważy. Gdy tych reklam jest cały rząd, zaczyna pan je ignorować. W związku z tym rozpoczyna się rywalizacja o uwagę. Wygrywa ten, kto swoją reklamę oprawi najbardziej krzykliwym neonem lub roznegliżowaną kobietą.

Gdy w 2007 r. byłem doradcą premiera Jarosława Kaczyńskiego, politycy chodzili do prowadzonej przez red. Beatę Michniewicz audycji Śniadanie w Trójce w Polskim Radiu. Była to wówczas jedyna audycja weekendowa tego typu.

Dzisiaj sama Kancelaria Prezydenta wysyła w weekendy swoich przedstawicieli bodaj do ośmiu cotygodniowych audycji. Czy obecny hiperpluralizm kanałów przekazu oznacza podwyższenie jakość komunikacji politycznej w Polsce?

Rozumiem, że to pytanie retoryczne.

Strumieni informacji jest tak dużo, że jeśli nie chcę, żeby mój przekaz przeszedł bez echa, muszę go maksymalnie uprościć i naładować emocjonalnie. Czasem do granic skandalu. To uruchomiło proces degradacji klasy politycznej.

Nawet inteligentny polityk o wyważonym temperamencie widzi, że nie ma czasu na niuansowanie i trzeba zbliżyć się do poziomu komunikacji wulgarnych demagogów. Usprawiedliwiając się, dodaje, że jeżeli tamci wygrają wybory, strasznie zaszkodzą Polsce.

Dziś polityk znalazł się w pułapce. Musi dopasować się do wyborców, którzy poznawczo zostali zdegradowani przez strukturalnie zatrutą infosferę. To zaś nakręca polaryzację ponad miarę. Tendencje polaryzacyjne w życiu społecznym zawsze istniały, ale nigdy nie rozłupywały tak dramatycznie całych społeczeństw.

Gdy jakąś dekadę temu uczestniczyłem w panelu badawczym na temat tendencji do radykalizacji politycznej w Europie, byłem jedyną osobą, która zwróciła uwagę na negatywną rolę mediów społecznościowych w tym kontekście.

Nie sądzi pan profesor, że w końcu nastąpi jakieś odbicie? Społeczeństwa będą tak emocjonalnie przebodźcowane, że dokonają redukcji wrażeń.

Obawiam się, że nie. Cały czas bowiem ulegam (niezbyt świadomie) sztucznie wytworzonej w nas obsesji pośpiechu i towarzyszącemu temu ciągłemu lękowi, że gdy spowolnimy, to coś ważnego nas ominie. Proszę zwrócić uwagę na pułapkę e-maili. Na pierwszy rzut oka wydaje się, że poczta elektroniczna powinna oszczędzać nam czas.

Nie muszę szukać papieru, długopisu, koperty, znaczka, iść na pocztę, mogę odpowiedzieć od razu. Ale nic z tego – ilu z nas ledwo ogarnia korespondencję elektroniczną?

Nie trzeba pracować w korpo, żeby idąc spać, mieć przekonanie, że znów czegoś się nie zrobiło, komuś nie odpowiedziało. Coś, co miało oszczędzać czas, w sumie radykalnie go zabiera. Tak działają liczne inne technologie cyfrowe.

Wymuszają większą efektywność.

Pozorną. Efektywność grzecznego odpowiadania na nieistotne maile? Do problemu dezinformacji dochodzi jeszcze zjawisko, które za Harrym Frankfurtem nazywam bullshitem, czyli niekończącym się potokiem bzdur.

Strukturalnie zatruta infosfera utrudnia nam posługiwanie się podstawowymi rozróżnieniami poznawczymi, niezbędnymi dla zdrowego życia zarówno jednostek, jak i społeczeństw. Jakie to rozróżnienia?

Po pierwsze: czy coś jest dobre, czy złe? Po drugie: czy coś jest prawdziwe, czy fałszywe? Po trzecie: czy coś jest ważne, czy nieważne? Po czwarte: czy to jest pilne, czy może poczekać? Po piąte: przysłał to przyjaciel czy wróg? Wreszcie, po szóste: mam kontakt z człowiekiem czy z botem?

Wyobraźmy sobie, że dostajemy same prawdziwe informacje. Nie ma żadnej dezinformacji. Jednak jak sklasyfikować znaczenie tych wiadomości? Skąd mieć kompetencje odróżniania spraw ważnych od nieważnych, skoro stare systemy wartości zostały obalone?

W praktyce często nie jesteśmy w stanie stwierdzić, czy coś jest prawdziwe, czy nie. Bullshit jest z reguły w nieokreślonej relacji do prawdy. Kłamca, jak mówi Harry Frankfurt, wie, gdzie jest prawda. Chce nas od niej oddalić. Ale wytwórca bullshitu pragnie po prostu zdobyć naszą uwagę, niezależnie od tego, jak jego słowa mają się do rzeczywistości, do prawdy.

Teraz zadajmy sobie pytanie: co się dzieje z umysłem człowieka, który nie umie odróżnić dobra od zła? Prawdy od fałszu? Ważnego od nieważnego? Pilnego od niepilnego? Wroga od przyjaciela? Człowieka od bota? Nasz mózg cały czas musi selekcjonować informacje, bo tak jest skonstruowany.

Zatem jakie kryteria będziemy stosować wobec nadmiaru informacji? Na przykład takie: atrakcyjne – nieatrakcyjne, łatwe – męczące. Jak to się ma do rozumienia świata i budowania spójnej tożsamości zakotwiczonej w jakiejś wspólnocie wartości?

Animal ratoniale przestaje być racjonalny.

Człowiek jako istota racjonalna to byt przereklamowany. Zgadzam się z Jordanem Petersonem, że jesteśmy głęboko irracjonalnymi stworzeniami zwykle kierowanymi przez siły, których często nie rozumiemy. W ramach pewnych praktyk społecznych minimum racjonalności się ujawnia.

Muszę umieć odróżnić banknot fałszywy od prawdziwego. Muszę odróżnić, czy człowiek, z którym podpisuję umowę, jest godny zaufania, czy nie. Są pewne minimalne kompetencje niezbędne do tego, żeby zachowania ludzi były wzajemnie przewidywalne.

Jedną z podstawowych funkcji kultury jest stabilizacja znaczeń języka i wzorców zachowań pozajęzykowych (instytucji). Bez tego świat społeczny traci przewidywalność. Z kolei, stąd już niewiele kroków do tego, co dwójka amerykańskich ekonomistów Anne Case i Angusa Deaton w książce z 2020 r. nazwała „epidemią rozpaczy”.

Strukturalnie zatruta infosfera, która za pomocą smartfonów „ryje nasze berety” ciągłymi bodźcami uniemożliwiającymi stosowanie tych wszystkich tradycyjnych rozróżnień, radykalnie ogranicza naszą racjonalność. Dlatego będziemy coraz częściej popełniali błędy. Dotyczy to zarówno gościa, który idzie na zakupy, jak i osoby, która jedzie na spotkanie G20, żeby negocjować ważne dla całej ludzkości decyzje.

Zatem demokracja jest dziś niemożliwa? Co w zamian? Oligarchia? Autorytaryzm?

Szczerze mówiąc, nie wiem. Pewnie nie jestem jedyny. Potrzebny jest tu namysł grupowy. Mogę powiedzieć, że jesteśmy w fazie wielkiego dryfu i że ścierają się ze sobą różne siły próbujące ten dryf jakoś ukierunkować. Szczególnie silny wydaje się nurt pchający nas w stronę jakiegoś systemu kastowego.

Niektórzy badacze, np. Grzegorz Lewicki, mówią w tym kontekście o neofeudalizmie. Demokracje mogą w najlepszym razie okazać się jakimiś miękkimi autorytaryzmami.

Wygląda na to, że dziś obłędny Techno-Entuzjazm – ideologia służąca CyberPanom – jest potężniejszy niż siły prodemokratyczne. Przecież nikt nie konsultuje z wyborcami kierunków rozwoju technologii cyfrowych z nieszczęsną sztuczną inteligencją na czele.

Stworzyliśmy technologie, nad którymi zaczynamy tracić kontrolę, o czym z moim zespołem pisałem więcej w książce Samobójstwo Oświecenia? Jak neuronauka i nowe technologie pustoszą ludzki świat (Kraków 2015). Człowiek i technologia zawsze były wobec siebie w heglowskiej dialektyce pana i niewolnika. Im bardziej niewolnik jest przydatny, tym bardziej uzależnia od siebie swojego pana.

Najprostsza technologia: młotek. Gdy się nim źle posłużę, mogę sobie uszkodzić palec. Nawet bardzo proste technologie nieumiejętnie obsługiwane mogą obrócić się przeciwko ich twórcy/panu.

Chociaż przez większość dziejów ludzkości mieliśmy zdecydowaną przewagę nad swoimi narzędziami, to zmieniło się to wraz z usieciowieniem technologii,  powstaniem internetu – nowej domeny rzeczywistości, która z jednej strony ewoluuje spontanicznie ku coraz mniejszej jej przejrzystości, a z drugiej coraz większej koncentracji kluczowych zasobów w rękach big techów.

Tradycyjny samochód spalinowy też wymaga usieciowienia. Czy mogę się nim posługiwać bez sieci warsztatów naprawczych, stacji benzynowych, bezpiecznych skrzyżowań i znaków drogowych? Nie.

Ale to zupełnie inna sieć od tej cyfrowej. Jej elementy nie komunikują się między sobą, nie śledzą się wzajemnie i nie wymuszają na nas aktualizacji.

Internet jest pierwszą technologią, która się autonomizuje. Rewolucja AI obecnie jest tego najwyższym przejawem. W dodatku mamy do czynienia z technologią czarnoskrzynkową, która osiąga pewne rezultaty, ale nie wiemy, jak to robi.

Twórcy technologii nie rozumieją zasad jej działania. To era nowej nieprzejrzystości. Jeśli z tym nic nie zrobimy, to nadejdą prawdziwe wieki czarne.

Kto zatem będzie suwerenem w przyszłości? AI? CyberPanowie? Państwa narodowe?

Do niedawna ambicja panowania nad całym ludzkim światem była tylko literacką fikcją lub spiskową obsesją. Nie było możliwości technicznych realizacji takiej wizji. Natomiast dziś CyberPanowie realnie ćwiczą się w panowaniu nad światem.

Taki wątek nieźle portretuje film Mountainhead w reżyserii Jesse’ego Armstronga, twórcy serialu Sukcesja. W filmie cyberwładcy wpływają na sytuację w odległych krajach, m.in. przez kontrolę nad infrastrukturą krytyczną, a zamęt na ogromną skalę wywołują, gdy umożliwiają masowe tworzenie deep fake’ów nowej generacji.

W życiu społecznym CyberPanowie do dyspozycji mają jeszcze mikrotargeting. Na czym polega historycznie bezprecedensowy i przełomowy charakter tej technologii?

Do niedawna władca, jeśli chciał skutecznie rządzić, komunikował się z pojedynczym człowiekiem lub z tłumami. Pojedynczego człowieka mógł zastraszyć lub uwieść. Gdy władca przemawia do tłumu, musi uśrednić swój przekaz. Nie jest w stanie go zindywidualizować, by techniki perswazji dopasować do każdego słuchającego.

Dziś do miliardów ludzi możemy dotrzeć ze zindywidualizowanym przekazem za pomocą algorytmów sztucznej inteligencji. Dzięki technologiom cyfrowym CyberPanowie, zebrawszy ogromną liczbę śladów behawioralnych, mogą zbudować sobowtóra cyfrowego każdej osoby.Sobowtóra, który opisuje, na co dany człowiek jest podatny, jakie ma pragnienia, skłonności, nadzieje i lęki.

Z taką wiedzą możliwości manipulacji człowiekiem są przeogromne. Niedawno czytałem o badaniach pokazujących, że AI już jest w sposobach perswazji bardziej skuteczna od ludzi.

Są też tacy CyberPanowie, którzy uważają, że kierują/manipulują ludźmi w dobrej wierze. Sądzę, że wśród tych, których nazywa się ewangelistami z Doliny Krzemowej, są osoby, które wierzą w to, że dzięki nowym technologiom przyniosą zbawienie dla wszystkich na tym świecie. I że trafią ze swoją „uszczęśliwiającą wizją” do każdego bez konieczności użycia przemocy, bo np. któż nie chciałby nieśmiertelności…

Nie jest więc tak, że kieruje nimi wyłącznie pragnienie władzy i pieniędzy, ale żyje w nich – dajmy na to w takim Elonie Musku – rzeczywista chęć uczynienia życia ludzkości lepszym?

Jeżeli ktoś ma już 15 mld USD, to po co mu więcej? Do końca życia on i jego rodzina tych pieniędzy nie wydadzą. Rodzi się zatem potrzeba, a raczej pokusa, osiągnięć na nieco innych polach niż technobiznes.

Wygląda to na starożytną logikę polityczną, według której za działanie na rzecz dobra wspólnego brali się ludzie, których było na to stać. Osiągali dochód pasywny, bo odziedziczyli wielkie połacie ziemi i niewolników na nich pracujących. Dzięki temu nie musieli pracować i mogli poświęcić się wyższym celom. Tak działała rzymska republika czy demokracja ateńska.

Współcześni arystokraci chcą nas przywieść do zbawienia. Ha, ha! CyberPanowie chcą zaoferować ludziom np. technologie nieśmiertelności albo wysłać ludzkość na podbój galaktyki.

Stąd popularne wśród nich różnego rodzaju ideologie, takie jak longtermizm czy transhumanizm.

Problem polega na tym, że nigdy w dziejach ludzkości – co mówi także Harari, choć on nie przywiązuje do tego takiej wagi, jak ja – nie mieliśmy do czynienia z tak dużą, nieproporcjonalnie wielką kumulacją zasobów w rękach tak nielicznych.

Nikt wcześniej nie miał wiedzy ani środków oddziaływania pozwalających na mikrotargeting miliardów ludzi. CyberPanowie mają niedostępne wcześniej możliwości, by bogactwo i wiedzę zamienić na władzę lub wpływ (jeśli rozumieć władzę jako bezpośrednie sterowanie, zaś wpływ jako tworzenie warunków, w których ludzie są bardziej skłonni coś robić lub czegoś nie robić).

Istnieją cztery typy zasobów: bogactwo, wiedza, władza i wpływ. Czasami niektórzy podają, że – patrząc proporcjonalnie – Rothschild czy Rockefeler posiadali majątek większy niż Elon Musk czy Mark Zuckerberg. Oni nie mieli możliwości, by przez algorytmy AI zmieniać sposób myślenia i postępowania milionów, a może nawet miliardów ludzi.

Kiedyś dziennikarz WP.pl powiedział na konferencji, że jego praca polega na tym, że, „każdego dnia stara się odgadnąć wolę boga”. Co miał na myśli?

Chodziło o to, by odgadnąć, jak Google podkręca swoje algorytmy, żeby wpisy Wirtualnej Polski miały jak największą klikalność. Algorytmy Google’a są niczym bóg, który działa według zasad utajonych, a swoją wolę komunikuje z opóźnieniem lub wcale. Ten, kto tę wolę odgadnie, osiąga sukces.

W kontekście polityki istnieją badania Roberta Epsteina dotyczące m.in. kampanii prezydenckiej w USA z 2016 r. Pokazują, że Google manipulował swoimi algorytmami.

Założono filtry obserwujące na komputerach różnych ludzi i sprawdzano, którego z kandydatów algorytmy preferują. Okazało się, że wskazywały Hilary Clinton. Gdy skończyła się kampania wyborcza, systemy rekomendacji wróciły do równowagi.

Zatem teraz to nie mityczne służby specjalne śledzą każdy nas ruch, lecz robi to big tech.

Kiedyś uważano, że podmiotem mającym największy potencjał informacyjny na świecie jest National Security Agency (NSA). Jeszcze przed aferą z Edwardem Snowdenem mówiono, że istnieje koordynowany przez amerykańskie służby system Echelon, który ma próbować podsłuchiwać wszystkie rozmowy telefoniczne na Ziemi. Snowden ujawnił, że inwigilacja na masową skalę to nie mit, lecz fakt.

W epoce przedcyfrowej inwigilacja co do zasady była punktowa. Jesteś o coś podejrzany, to nadstawiamy ucha. Instalujemy ci podsłuch w telefonie, mieszkaniu, wysyłamy za tobą zespoły obserwacyjne.

Tymczasem od czasu masowego rozpowszechnienia technologii cyfrowej „podsłuchiwać” można de facto każdego. Nie trzeba nawet instalować Pegasusa w telefonie. Twój smartfon i tak cię szpieguje.

Gdy tajne służby chcą kogoś podsłuchać, muszą przejść przez konkretną procedurę administracyjno-prawną. CyberPanów to wszystko nie obowiązuje.

Jeżeli Google, Facebook czy Amazon chcą zmienić algorytm, żeby pewne informacje wyeksponować, a pewne ukryć, to nikogo się o to nie pyta. Nikt tego nie kontroluje. W ten sposób bezkarnie i zazwyczaj skrycie wywiera wpływ na myślenie (i działanie) milionów, jeżeli nie miliardów, ludzi.

Czy to znaczy, że państwa (samodzielnie i zrzeszone w organizacje międzynarodowe) są bezsilnie wobec big techu? 

Przy obecnym stanie prawnym możliwości przeciwstawienia się jeszcze wciąż istnieją. Moim zdaniem te możliwości byłyby większe, gdyby w prawie międzynarodowym, a przynajmniej unijnym, przyjęto założenie, że żadne algorytmy, które wywierają wpływ na życie społeczne i myślenie ludzkie, nie mogą być chronione tajemnicą handlową. Nie mogą być chronione przed poddaniem ich audytowi przez władzę publiczną.

Dlatego popieram następujące rozwiązanie: powołajmy do życia tzw. zaufane ciało trzecie, które ma prawo do audytu każdego algorytmu, zarazem gwarantuje zachowanie tajemnicy handlowej.

Niestety, jak powiedział mi parę lat temu pewien człowiek, w tym pokoju – w Biurze Bezpieczeństwa Narodowego – w którym właśnie rozmawiamy, posłowie nie zabiorą otwarcie głosu w sprawie podatku cyfrowego, bo podczas najbliższych wyborów Google spowoduje, że będą się wyświetlali w wyszukiwarce kilka ekranów niżej i przez to przepadną. Czyż już nie działa samo wyobrażenie takiej możliwości?

Istnieje realny lobbing big techów?

Oczywiście, ale poza tym decydenci wielu krajów odczuwają lęk przed big techami. Nieważne, czy jest on uzasadniony, czy nie. Strach jest faktem, który niestety kieruje działaniami polityków.

Oczywiście cyfrowe korporacje rzeczywiście posiadają swoje fundusze lobbingowe i potrafią skutecznie paraliżować chęć podmiotów politycznych do regulacji. Świetnie pisze o tym Sylwia Czubkowska w książce Bóg techy.

By ich ograniczyć, musiałaby nastąpić naprawdę duża solidarność między poszczególnymi państwami. 

Żeby taka solidarność nastąpiła, nie wystarczy świadomość problemu; nie wystarczą kolejne diagnozy czy prognozy ostrzegawcze. Bez potężnego i niestety bolesnego wstrząsu – zwiastuna zagrożenia – nie nastąpi obudzenie świadomości decydentów.

Obawiam się, że dopóki nie będzie jakiegoś kataklizmu, ludzkość się nie zmobilizuje, żeby technologie cyfrowe i CyberPanów „wziąć za pysk”. Żeby obszar ten poddać kontroli, np. wprowadzić moratorium na rozwój wybranych technologii.

Jaki ma to być kataklizm?

Nikt nie lubi być straszony czarnymi scenariuszami, ale nie możemy udawać, że koszmarne wizje przyszłości to jedynie domena sztuki filmowej. Być może ludzkość tak się zderacjonalizowała, że bez naprawdę silnego wstrząsu nikt nie będzie chciał wprowadzać zmian pozwalających na odwrócenie niebezpiecznych trendów.

Kryzys finansowy z 2008 r. był za słabym sygnałem. COVID-19 okazał się za słaby, tragedia wojny na Ukrainie też. Wygląda, jak byśmy potrzebowali wstrząsu znacznie większego kalibru.

Brzmi to bardzo pesymistycznie.

Istnieje może cień szansy, że Waszyngton z Pekinem się dogadają i, bazując na doświadczeniach z kontroli zbrojeń jądrowych, uznają, że musimy wprowadzić instytucjonalną kontrolę rozwoju AI.