Brzyski: Cała władza w ręce algorytmów?

Niepewność czy za danym wpisem albo głosem w sieci stoi realny człowiek, sprawia, że cierpimy na deficyt relacji opartych na klasycznych więziach, bezpośrednim spotkaniu i kontakcie. Znajduje to swój wyraz w licznych filmach, serialach, książkach, a nawet tekstach piosenek. – pisał na łamach tygodnika „Plus Minus” nasz redaktor Bartosz Brzyski.

Postrzeganie technologii w kulturze Zachodu zmienia się dynamicznie. Proces ten nabrał szczególnego przyspieszenia u progu nowego tysiąclecia. Wizje przyszłości opisywane jeszcze 30 lat temu są jak fotografie z dzieciństwa, które wywołują uśmiech nostalgii. To, co niegdyś opisywał Stanisław Lem, przestało być odbierane jako czysta futurologia. Internet wraz z jego narzędziami zaczął wnikać w nasze życie tak głęboko i z taką szybkością, że w tym procesie przestaliśmy postrzegać samo siebie jako podmioty decydujące o zmianach, ale bardziej jako przedmioty niekontrolowanej zmiany.

Dekadę po premierze Matriksa na ekrany kin wszedł Mr. Nobody w reżyserii Jaco Van Dormaela, Moon Duncana Jonesa i wreszcie kasowy Avatar Jamesa Camerona. Te trzy filmy poświęcone kolejno nieśmiertelności, klonowaniu i wirtualnej rzeczywistości, miały jedną cechę wspólną – stawiały pytanie o to, co realne i ludzkie. Każdy z nich na swój sposób poddawał w wątpliwość przekonanie, że każde odkrycie naukowe czy innowacja warte są zaimplementowania w życiu człowieka. Raczej wywoływały wątpliwości, pokazując że takie rozwiązania skutkować mogą odebraniem nam wolności, godności i człowieczeństwa w jego klasycznym rozumieniu. Mówiły o tym samym, co w literaturze rozpatrywał równolegle w 2005 r. Michel Houellebecq w opowieści o post-człowieku, zatytułowanej Możliwości wyspy.

To zmiana o tyle znacząca, że wcześniej kultura popularna prawie w ogóle nie zajmowała się pojmowanymi w taki sposób kosztami technologicznego postępu. W Mr. Nobody ostatni śmiertelny człowiek na planecie rozpatrywał sens człowieczeństwa. Główny bohater Moon dokonywał rozpoznania, że swoje istnienie zawdzięczał nielegalnej działalności korporacji, która uczyniła go kolejną kopią klona skazanego na pracę w stacji kosmicznej. W Avatarze to człowiek wyposażony w najnowsze technologie niszczył to, co pierwotne. W wizji Jamesa Camerona to on sam był niczym maszyna z Matriksa – galaktyczny konkwistador, który zagania obcych, jak Indian do rezerwatu, aby eksploatować ich ziemię. Wszystkie te obrazy opowiadały o utraconej niewinności ludzkości, o tęsknocie za człowiekiem wolnym od technologicznej przemocy, która go zniewala albo zmusza do zniewalania innych.

Kiedy spojrzymy na dzieła najnowsze, znów można odnieść wrażenie, że technologia prowokuje najwięcej pytań i wątpliwości, choć na inny sposób niż w czasach Matriksa. Dotychczas opowieści o jej rozwoju i wpływie na człowieka przybierały różne kształty: obcej cywilizacji, atomowego mocarstwa, szalonego naukowca albo terrorysty. Ostatnia dekada w twórczości stanowi jednak coraz szybsze doganianie przyszłości. Twórcy już nie przewidują co się wydarzy za lat pięćdziesiąt, tylko za pięć. Tak jakby zrozumieli, że rozwój technologii to nie latające samochody, ale zmiana naszego myślenia, zachowania, metod komunikacji czy wreszcie reorganizacja samych społeczeństw.

Najlepszym przykładem jest tutaj serial Black Mirror, jedna z najpopularniejszych telewizyjnych serii poświęcona przede wszystkim wpływom zmieniającej się technologii na życie społeczne. Część zawartych w produkcji czarnych wizji zaczęła się realizować niedługo po emisji.

Tak było chociażby z odcinkiem pt. Nosedive, który opowiadał o kastowym społeczeństwie opartym na systemie ocen (ratingu) wystawianych przez otaczających nas ludzi. Taka koncepcja pod nazwą Social Credit System realizowana jest obecnie w Chinach, a do powszechnego użytku ma wejść już w 2020 r.

Oczywiście taki system nie byłby możliwy do wprowadzenia w demokratycznych państwach Zachodu, ale daje nam obraz tego, jaki potencjał inżynierii społecznej drzemie w nowych technologiach.

Nasz zdominowany przez algorytmy świat rozczłonkowuje się jednak coraz bardziej i coraz trudniej będzie go okiełznać. Koniec 2018 r. przyniósł użytkownikom platformy Netflix możliwość zobaczenia pierwszej filmowej produkcji interaktywnej. Stanowi ona kontynuację serialu Black Mirror, ale najnowszy odcinek o tyle różni się od pozostałych, że to widz decyduje, w jaki sposób ma rozwijać się filmowa fabuła. Mamy rok 1984, a główny bohater Stefan jest początkującym programistą, który ma ambicję stworzenia gry komputerowej na podstawie książki z nurtu fantasy, napisanej w formie paragrafów.

Idea opowieści polega na nieustannym podejmowaniu wyborów, prowadząc nas do różnego finału. To my początkowo decydujemy o wyborze śniadania, jakie zje Stefan, a kończąc, na tym, czy pozwolimy mu kogoś skrzywdzić. Człowiek jest więc bogiem dla bohatera, który wielokrotnie walcząc z systemem, zwraca się do ekranu, krzycząc, aby jego bóg dał mu znak. To czy go damy, zależy tylko od nas.

Oczywiście sama koncepcja filmu Netflixa nie jest niczym nowym, stosowana jest m.in. już od kilku lat przez studio Telltale produkujące animowane gry komputerowe. Wcielamy się w nich np. w postać małej dziewczynki walczącej o przetrwanie w świecie znanym z serialu The Walking Dead o świecie zawładniętym przez zombie, mając często tylko dziesięć sekund na podjęcie decyzji o czyimś życiu lub śmierci.

Jednak premiera filmu-kontynuacji serialu Black Mirror jest o tyle przełomowa, że pokazuje, iż właśnie ważą się losy kultury masowej i naszego całego społeczeństwa. Bo jeśli tak opracowany system przestanie być niszowy i wejdzie na stałe do popkultury, to znajdziemy się w innej epoce kulturowej. Rozpadnie się nie tylko kanon, on i tak już właściwie nie istnieje, ale przestaną nas łączyć wspólne historie, ponieważ każdy z nas będzie miał swoją własną do opowiedzenia. I chociaż boimy się inżynierii genetycznej czy neuroinżynierii, to wszystko wskazuje na to, że wystarczy nas strach przed postępującym modelem życia, który przedstawił w powieści Upał Michał Olszewski. Pisarz i dziennikarz pokazał jak w świecie zalewu informacji stajemy się niewolnikami technologii tylko pozornie ułatwiającej nam życie. Niewolnikami w znaczeniu niemal dosłownym.

Chęć ucieczki przed takim stanem rzeczy, a zarazem jej niemożność pokazuje świetnie Matt Ross w filmie Captain Fantastic. Przedstawia on radykalną wersję coraz popularniejszego w Polsce homeschoolingu. Chcący odizolować dzieci od współczesnego świata ojciec edukuje je zaszyty głęboko w górach. Przypadkowo zmuszone do życia w cywilizacji dzieci szybko orientują się, jak przewyższając swoich rówieśników wiedzą o świecie, mogą jednocześnie nie radzić sobie z podstawowym funkcjonowaniem w nim. Ojciec staje więc przed wyborem włączenie dzieci w system społeczny, albo skazania je na pustelnicze życie.

Wbrew powszechnemu przekonaniu jednostka ma bowiem bardzo ograniczony wpływ na styl życia, który warunkuje dominująca kultura. W demokracji to ona decyduje o tym co zostanie uznane za normę, a w konsekwencji usankcjonowane prawnie jako dozwolone. Jak przedstawiał to w wywiadzie dla Magazynu Apokaliptycznego „Czterdzieści i cztery” pisarz Jacek Dukaj: „Jeżeli designerskie dzieci naszych celebrytów okażą się bardziej miluśne, to w przyszłych, albo jeszcze następnych, wyborach przegłosuje się normę genetycznego projektowania potomstwa”. Nasza niezgoda na zmianę nic nie zmieni. Alternatywą jest tylko pustelnia.

Dodatkowo obawę o niekontrolowany rozwój technologii potęguje świadomość, że kultura innowacji leży u fundamentów kapitalizmu. Gospodarki działają tak długo, jak długo prą do przodu, powiększając przewagę nad konkurencją. Niewprowadzanie nowych rozwiązań i pozwolenie na rozwój technologii w innej części globu jest obarczone zbyt dużym kosztem, którego nikt nie chce ponieść.

Z obu tych powodów – ekonomicznych i społecznych –  trudno znaleźć sposób na ograniczenie niemożliwych dziś do przewidzenia efektów sprzężeń zwrotnych między technologią, społeczeństwem, a żyjącym w nim człowiekiem. Ucieczką spod gilotyny wydaje się ponowne odwołanie do określonej antropologii, która pomogłaby nam przerwać dryf i umożliwiła nawigację po wzburzonych falach współczesności, redefiniując kierunek cywilizacyjnego rozwoju. Inaczej, prędzej czy później, zaleje nas fala płynnej nowoczesności, której siły nie będziemy mogli się już przeciwstawić.

Całość artykułu do przeczytania w wydaniu „Plusa Minusa” z 4 stycznia 2018 r. Zachęcamy do lektury.