Autorytaryzm na technologicznych sterydach? Chiński System Zaufania Społecznego

Konsekwencją wprowadzenia Systemu Zaufania Społecznego będzie stworzenie wzorca obywatela i modelowanie go za pomocą bodźców punktowych. Jesteś punktualny, dobrze się odżywiasz i pamiętasz o płaceniu rachunków? Prawdopodobnie algorytm to doceni, a ty zyskasz i awansujesz w hierarchii społecznej. Ściągałeś na egzaminie, oglądasz nocami seriale, mieszkasz w niezbyt dobrej dzielnicy, a co gorsza utrzymujesz kontakt na WeChacie z osobami o niskim ratingu? Już niedługo wylądujesz na marginesie społecznym z ograniczonym dostępem do usług i praktycznie bez szans na lepsze jutro dla samego siebie i swojej rodziny.

Ten system ma swoje uzasadnienie

Diagnoza, która uzasadnia konieczność stworzenia SZS jest trafna. W Chinach zaufanie społeczne zostało zniszczone w toku komunistycznej rewolucji, a dopełnieniem tego procesu była rewolucja kulturalna. Dla Mao rozbicie tradycyjnych więzów społecznych było celem samym w sobie. Zrobił wiele, by zachwiać równowagą społeczną przez wieki opartą na tradycyjnych więzach rodzinnych (rozumianych nie tylko jako więzy krwi, ale całą sieć relacji społecznych zwanych guanxi). Plan się do końca nie powiódł, ale społeczne skutki rewolucji Chiny odczuwają do dzisiaj.

Ekstremalnie szybkiemu rozwojowi gospodarki w ostatnich dekadach nie towarzyszył rozwój norm prawnych i kulturowych. Współczesne chińskie społeczeństwo cechuje się więc powszechną „znieczulicą” oraz przyzwoleniem na oszustwa. Próżno również szukać jakichkolwiek zrębów społeczeństwa obywatelskiego.

Chińskie banki nie wiedzą komu mogą pożyczać pieniądze, państwo ma problem z egzekwowaniem orzeczeń sądowych, a obywatele nawet nie spojrzą na potrąconego przechodnia leżącego na ulicy w myśl jakże popularnej w komunistycznym społeczeństwie zasady „nie wtykaj nosa nie w swoje sprawy”. Szczególnie dotkliwa dla Partii jest jednak plaga oszustów gospodarczych – trefnych szczepionek, rozpadających się mieszkań, zatrutego mleka czy transportowych katastrof. Dość powiedzieć, że gdy w zeszłym roku chińska Państwowa Administracja Leków poinformowała, że firma Changchun Changsheng Biotechnology fałszowała skład szczepionek, tysiące ludzi w prowincji Shandong wyszło na ulice w ramach protestu. Nawet, zwykle perfekcyjni do bólu, cenzorzy mediów społecznościowych, pozwolili przerażonym Chińczykom dzielić się krytycznymi komentarzami w sieci.

Co więcej, lokalne protesty przeciwko firmom (nigdy przeciwko państwu czy Partii) działających na szkodę społeczeństwa są od kilku lat zdecydowanie największą przyczyną niepokojów społecznych. I nie mówimy tu tylko o pokojowych przemarszach, ale również demolowaniu fabryk, jak choćby kilka lat temu w Fengxiang, po tym jak lokalne media podały, że fabryka odpowiada za otrucie dzieci ołowiem.

Dlatego też zapowiedzi o budowie systemu, który odbuduje zaufanie społeczne zostały odebrane pozytywnie. Szczególnie, że zostało to przedstawione jako „bat na skorumpowanych urzędników i nieuczciwych obywateli”. Technokratyczne państwo zbudowane w ostatnich latach na wierze w potęgę chińskiego cudu gospodarczego nie może tolerować bylejakości podszytej korupcją.

Zgodnie z opublikowanym w 2014 r. dokumentem Rady Państwa, czyli najważniejszego organu wykonawczego Chińskiej Republiki Ludowej, celem programu jest stworzenie „systemu mierzącego i wzmacniającego zaufanie w całym kraju oraz budowa kultury szczerości. Wzmocni to wiarogodność polityczną, społeczną, handlową oraz sądową”.

Nie spłacasz długów? To nie dostaniesz paszportu

Równolegle z oficjalnymi zapowiedziami powszechnego systemu rozpoczęły się testy różnych prototypów, na ograniczonym obszarze lub w ograniczonej funkcjonalności. W 2015 r. osiem chińskich gigantów takich jak Alibaba Group czy Tencent udostępniły systemy, do których wybrani obywatele mogli dołączyć i czerpać korzyści z „podwyższania osobistej oceny”. Stało się to oczywiście z błogosławieństwem najważniejszych chińskich urzędników, którzy w oficjalnych dokumentach zapowiedzieli, że kilka najbliższych lat to będzie okres testowy.

W jaki sposób ocenia się ludzi? Oczywiście żadna z firm nie udostępniła publicznie szczegółów swojego narzędzia. W największym systemie, Sesame Credit, robi to algorytm, który uwzględnia 5 kategorii: zobowiązania finansowe (np. terminowe płatności rachunków), zobowiązania cywilno-prawne, dane osobowe (miejsce zamieszkania, numer telefonu), zachowania i preferencje (dane o zakupach i transakcjach płatniczych) oraz relacje międzyludzkie (oceniane na bazie relacji i znajomości w świecie wirtualnym – zarówno w komunikatorach, forach, jak i portalach randkowych).

System zbiera dane od swoich użytkowników za pomocą aplikacji i usług, które oferuje. Ant Financial (twórca Sesame Credit) ma prawie 600 milionów użytkowników i jest tylko częścią imperium Alibaby, najpotężniejszej chińskiej firmy technologicznej oferującej praktycznie wszystkie usługi potrzebne chińskiemu użytkownikowi internetu. Dane dostarczają więc portale społecznościowe, systemy płatnicze, banki i ubezpieczyciele, a nawet portale randkowe – Sesame Credit wie wszystko o swoich użytkownikach, którzy dobrowolnie zgadzają się na przetwarzanie danych oczekując nagrody za „dobre sprawowanie”.

Dobrowolność jest o tyle ważna, że w teorii jest to system prywatny, który nie ma nic wspólnego z zapowiadanym przez chiński rząd SZS. Jack Ma, twórca Alibaby, wielokrotnie podkreślał, że jego firma nie przekazuje danych o swoich użytkownikach chińskiemu rządowi, a sama firma jest w pełni niezależna (co wzbudza wśród wielu ekspertów od chińskiej gospodarki jedynie uśmiech na twarzy). System stosuje marchewkę, a nie kij – nie stosuje kar za niski rating, ale wynagradza za wysoki. A nagrody są całkiem atrakcyjne – dostęp do preferencyjnych kredytów, tańszy dostęp do wybranych szpitali, brak obowiązku uiszczenia depozytów przy wypożyczaniu samochodu lub roweru – wszystko to powoduje, że w 2017 r. w systemie była zarejestrowana ponad jedna trzeci obywateli, 500 milionów Chińczyków, czyli zdecydowana większość obywateli funkcjonujących w „świecie cyfrowym” (ich liczbę szacuje się na 770 milionów).

Sesame Credit stał się najbardziej znanym prototypem spośród ośmiu „prywatnych” oraz kilkunastu państwowych, lokalnie testowanych przez władze niektórych miast. W międzyczasie agencje rządowe obserwują ich funkcjonowanie oraz wprowadzają w życie programy pomocnicze służące zbieraniu dodatkowych danych, pozwalających włączyć obywateli do systemu. Mimo, że powszechny System Zaufania Społecznego ma zostać wprowadzony najwcześniej w 2020 r. to pierwsze efekty „rozruchu” mogliśmy już zaobserwować.

Co kilka miesięcy pojawiają się na zachodnich portalach informacyjnych przedruki agencyjne o kilkunastu milionach chińskich obywateli, którzy nie mogli kupić biletu lotniczego lub nie dostali paszportu. Wszystko to dzieje się za sprawą jednego z wspomnianych wcześniej programów pomocniczych, którego zadaniem jest (przynajmniej oficjalnie) wykluczanie ze społeczeństwa obywateli niegodnych zaufania: na razie tylko tych, którzy stoją na bakier z prawem lub nie spłacają długów.

Chiński „Wielki Brat”

Chociaż oficjalne zapowiedzi Systemu Zaufania Społecznego mówiły o wprowadzeniu go w roku 2020, wydaje się, że Chiny nie są na to gotowe. Najbardziej problematyczne jest uzyskanie powszechności. Chociaż chińskie społeczeństwo cyfrowe to już prawie 800 milionów obywateli, proces włączania w „świat cyfrowy” pozostałych 500 milionów obywateli zajmie jeszcze wiele dekad. System rozpoznawania twarzy, który wydaje się stosunkowo łatwy do wprowadzenia w Pekinie czy Szanghaju, pewnie nigdy nie będzie możliwy do implementacji w jednej z setek syczuańskich wiosek. Podobnie ma się sprawa z ocenianiem na podstawie interakcji w mediach społecznościowych. W wyniku bezprecedensowego rozwoju technologicznego, część Chińczyków została w trybie ekspresowym włączona w technologiczną rewolucję i gospodarkę cyfrową. W kraju wciąż istnieje jednak znaczna mniejszość, której te zmiany nie dotknęły, a być może nigdy nie dotkną.

Dlatego też SZS niekoniecznie zostanie ogłoszony z pompą podczas zorganizowanej konferencji. Może się okazać, że kolejne nakładające się na siebie programy pomocnicze zostaną zintegrowane (z dużą dozą prawdopodobieństwa ten proces już powoli następuje), a wirtualne fajerwerki od Alibaby czy Tencenta zostaną jedynie dla osłody dorzucone do krajowego systemu, oczywiście bez pytania o zgodę wszystkich tych, którzy zaakceptowali warunki instalując jedną z setek usług oferowanych przez te firmy.

Nie znaczy to oczywiście, że największe firmy zostaną znacjonalizowane. Zostanie zastosowany dobrze już znany model porozumienia o wymianie danych – oczywiście bez grama transparentności czy otwartego dostępu, ale to zarówno dla chińskich urzędników, jak i przedsiębiorców nie wydaje się problemem.

Bezpośrednią konsekwencją powszechnej oceny obywateli będzie stworzenie wzorca obywatela i modelowanie go za pomocą bodźców punktowych. Jesteś punktualny, dobrze się odżywiasz i pamiętasz o płaceniu rachunków? Prawdopodobnie algorytm to doceni, a ty zyskasz i awansujesz w hierarchii. Ściągałeś na egzaminie, oglądasz nocami seriale, mieszkasz w niezbyt dobrej dzielnicy, a co gorsza utrzymujesz kontakt na WeChacie z osobami o niskim ratingu? Już niedługo wylądujesz na marginesie społecznym z ograniczonym dostępem do usług i praktycznie bez szans na lepsze jutro dla samego siebie i swojej rodziny.

Ważniejsze będzie jednak to jak system wpłynie pośrednio na społeczeństwo, wywracając do góry nogami zachowania i relacje społeczne oraz powodując bezprecedensowe rozwarstwienie społeczne. To algorytm (a w praktyce ci, którzy go stworzyli) będzie wskazywał z kim warto utrzymywać relacje, premiując przykładnych obywateli i spychając tych, którzy nie trzymają się narzuconego wzorca. Życiowym celem nie będzie więc założenie szczęśliwej rodziny czy sukces zawodowy, ale przede wszystkim utrzymywanie wysokiego wskaźnika, którego pozytywnym skutkiem ubocznym może być sukces prywatny lub zawodowy.

Cyfrowe „oko Saurona”

Zapewnienia o potrzebie budowy zaufania społecznego są w jakiejś część prawdą, co potwierdza entuzjazm społeczeństwa wobec tego projektu (oczywiście uwzględniając, że nawet jakby tego entuzjazmu nie było to pewnie byśmy się o tym nie dowiedzieli).

Nie ma jednak wątpliwości, że w systemie chodzi o coś więcej niż tylko budowę jakże szlachetnego zaufania społecznego. Nadrzędnym celem Systemu Kredytu Społecznego jest utrwalenie władzy Komunistycznej Partii Chin.

Państwo jednopartyjne rządzone przez kilkutysięczną elitę, z coraz mocniej autorytarnym prezydentem, niewielką kontrolą władzy i bez tradycji kontroli społecznej przeszło niesamowitą transformację, której głównym celem było „żeby było tak jak było” – oczywiście pod względem ustrojowym i społecznym. Stworzenie SZS jest więc jedynie technologicznym zwieńczeniem drogi, którą przeszła KPCh i która pozwoliła powiązać partię z rozwojem gospodarczym i społecznym. Za czasów Mao siłą Partii była masowa mobilizacja ideologiczna bazująca na charyzmie wodza, która oczywiście na dłuższą metę nie mogła być skuteczna. Wprowadzenie systemu, który zapewne powszechny będzie tylko z nazwy i nie będzie obejmował partyjnej elity to po prostu kolejny krok umacniający pozycję obecnych elit.

Wiele również wskazuje, że rozwój sztucznej inteligencji tylko w tym pomoże. Chociaż debata na temat rozwoju AI dotyczy głównie znikających miejsc pracy, warto pamiętać, że rządy i korporacje dostaną wkrótce niespotykane dotąd narzędzia do monitorowania i kontrolowania nastrojów społecznych, których koszty będą znikome w porównaniu choćby do hukou, czyli systemu kontroli paszportowej, który w XX w. trzymał chińskie społeczeństwo w ryzach.

Do tej pory największą przewagą demokracji liberalnej nad autorytaryzmami był rozproszony, a co za tym idzie zdecydowanie efektywniejszy przepływ informacji. Dyktatury z jednym centralnym ośrodkiem władzy musiały być zawsze z tyłu. Tymczasem nieoczekiwanym skutkiem rewolucji przemysłowej 4.0 może być uczynienie rządów autorytarnych zdecydowanie bardziej efektywnymi. Ostrzega o tym m.in. Yuval Noah Harari pisząc, że scentralizowane systemy będą znacznie bardziej wydajne niż systemy rozproszone, ponieważ uczenie maszynowe działa lepiej, gdy maszyna ma więcej informacji do analizy.

Skorzysta na tym nie tylko Komunistyczna Partia Chin, ale również mniej lub bardziej demokratyczne kraje Afryki czy nawet rozwinięte zachodnie demokracje. Izrael już teraz czyni starania, aby kosztowne i ryzykowne systemy wywiadowcze w Palestynie zastąpić algorytmami. Po co ryzykować ludzkie życie, jeżeli wystarczy odpowiedni ciąg znaków i trochę kamer?

Anglojęzyczna wersja materiału do przeczytania tutaj. Wejdź, przeczytaj i wyślij swoim znajomym z innych krajów!