Witamy na stronie Klubu Jagiellońskiego. Jesteśmy niepartyjnym, chadeckim środowiskiem politycznym, które szuka rozwiązań ustrojowych, gospodarczych i społecznych służących integralnemu rozwojowi człowieka. Portal klubjagiellonski.pl rozwija ideę Nowej Chadecji, której filarami są: republikanizm, konserwatyzm, katolicka nauka społeczna.

Zachęcamy do regularnych odwiedzin naszej strony. Informujemy, że korzystamy z cookies.
Bartosz Paszcza  10 grudnia 2020

Bezrefleksyjny technooptymizm i totalne potępienie technologii. Recenzja książki „Sztuczna inteligencja: nieludzka, arcyludzka” Aleksandry Przegalińskiej i Pawła Oksanowicza

Bartosz Paszcza  10 grudnia 2020
przeczytanie zajmie 6 min
Bezrefleksyjny technooptymizm i totalne potępienie technologii. Recenzja książki „Sztuczna inteligencja: nieludzka, arcyludzka” Aleksandry Przegalińskiej i Pawła Oksanowicza Ilustracja: Magdalena Karpińska

Społeczna debata nad technologią przypomina starcie dwóch religii: bezbrzeżnego zachwytu nad postępem i potępienia w czambuł internetowej gospodarki. W książce Sztuczna inteligencja: nieludzka, arcyludzka autorzy idą w innym kierunku: próbują uchwycić naturę problemu, nie udają, że mamy gotowe, rewolucyjne odpowiedzi. To podejście po prostu odpowiedzialne, które może nam pomóc budować prawdziwy republikanizm wykorzystujący technologię dla dobra obywateli.

Zacznę od krytyki. Książkę otwiera wizja typowego dnia autorki w przyszłości – to chyba najnudniejszy fragment. Mamy tu oczywiście całą gamę przeróżnych inteligentnych asystentów, wszędobylskich urządzeń Internetu rzeczy i tym podobnych wynalazków. Osobom przynajmniej pobieżnie intersującym się technologią wydaje się, że to wszystko już było. Znamy takie wizje z dziesiątek książek, wywiadów i artykułów.

Być może to nie wina autorów, że futurologia nam po prostu spowszedniała. W końcu dwa lata temu sądziliśmy, że blockchain zrewolucjonizuje nam transakcje finansowe, cztery lata temu, że do foteli na zawsze przykują nas okulary wirtualnej rzeczywistości, a sześć lat temu, że jednak zrobi to telewizor z funkcją 3D. To tylko trzy przykłady produktów, które miały zrewolucjonizować nasze codziennie życie i nic z tego finalnie nie wyszło.

Po prostu nie można być Lemem w 2020 roku. Polski autor w formie nieraz bajkowej próbował konstruować wizję przyszłości o kilka dekad do przodu. Dzisiaj żyjemy w erze, w której obiecujące produkty i technologie podobno rewolucjonizują nam rzeczywistość co pół roku. A jeśli w takim odstępie czasowym nowy wynalazek zmienia nam optykę patrzenia w przyszłość, to trudno nam sięgnąć nawet na pięć lat do przodu, a co dopiero na dekady.

Rzeczywistość not great, not terrible

Diatłow, inżynier czarnobylskiej elektrowni ze słynnego serialu HBO, ze swoją wypowiedzią o tym, że „nie jest świetnie, nie jest strasznie” mógłby równie dobrze opisywać stan technologii AD 2020. Wartością książki jest bowiem jej celny opis aktualnego, a nie przyszłego, stanu sztucznej inteligencji, jej już istniejącego wpływu na społeczeństwo i debat nad jej regulacją. Aleksandra Przegalińska opowiada o najtrudniejszych dylematach i pojawiających się problemach bynajmniej nie obiektywnie, ale po prostu wyważenie.

Właśnie wyważonych ocen rozwoju technologii mamy dzisiaj w Polsce deficyt. Coraz częściej szamotamy się między przestarzałą już nieco narracją bezrefleksyjnego technooptymizmu a totalnym potępieniem technologii. Z jednej strony mamy więc narrację o światowym superbohaterze Elonie Musku i zachwyt nad zbawienną rolą Bitcoina. Postęp, który po prostu się wydarzy i na który nie mamy wpływu. Możemy jedynie kibicować, płynąc w głównym nurcie lub stojąc na brzegu. Z drugiej strony pojawia się rosnąca na znaczeniu narracja, według której społecznym podziałom winna jest moderacja treści na Facebooku i Twitterze (lub jej brak), a niemal każde wykorzystanie technologii w celu poprawy usług publicznych to technosolucjonizm, tzw. techlash dostrzegający przyczynę problemów społecznych w technologii.

Aleksandra Przegalińska unika obu tych skrajności. Pokazuje skomplikowanie tematów, z którymi się mierzymy. W pewnym momencie mówi: „Zwracam uwagę na Amy Webb, bo autorka ta omija uproszczenia w analizie obecnej sytuacji społeczno-ekonomicznej w kontekście SI i wspomnianych firm. Daleka jest od obwiniania wielkich spółek technologicznych o całe zło tego świata. Ja się z nią w tym zgadzam. Przecież nie jest tak, że wszystkiemu winne są te cztery firmy albo nawet siedem czy dziewięć”. Trzeba przyznać, że ekspertka jest przekonująca w odkłamywaniu przesadnego upraszczania świata, modnego zarówno wśród bezrefleksyjnych zwolenników technologicznego postępu, jak i krytyków współczesnego technokapitalizmu nie dlatego, że wchodzi z nimi w polemikę, ale właśnie dlatego, że w prosty sposób przedstawia skomplikowane, stojące przed nami wyzwania.

Algorytmy, dane i zaufanie do AI

Autorzy znaczą część książki poświęcają kluczowym problemom dotyczącym sztucznej inteligencji. Przegalińska zdecydowanie sprzeciwia się wizji algorytmów jako niewytłumaczalnych czarnych skrzynek, wciąż niejednokrotnie suflowanej przez technologów. Sama (poprzez opisanie problemu „chihuahua czy muffin?”) zarysowuje skalę wyzwania, pokazuje, na czym polega problem z wyjaśnialnością wielopoziomowych sieci neuronalnych. „Oczywiście nie można tej sprawy tak zostawić” – podsumowuje to wyzwanie. „Jeśli sztuczna inteligencja ma być wykorzystywana we wszelkich procesach, od wspierania decyzji sędziów w sądach, przez diagnozę medyczną, po działania edukacyjne, to musi być wyjaśnialna” – stwierdza stanowczo.

Nieco mniej wyrazisty jest fragment dotyczący rozmowy o przyszłości własności i zarządzania danymi. Sam dylemat – do kogo należeć mają generowane przez nas ciągle dane (szczególnie te nieosobowe) i przez kogo mogą być wykorzystywane – jest zarysowany uczciwie. Autorka chyba sympatyzuje jednak z potrzebą reformy w duchu tej, którą wkrótce w pakiecie zmian w Digital Services Act ma zaproponować UE. „Jeśli świat nadal będzie się rozwijał, opierając się na danych, […], a SI będzie narzędziem wspierającym ich przetwarzanie, to warto chyba zadać sobie pytanie, czy dane nie powinny stać się dobrem publicznym. […] Chodzi o upublicznienie, a nie upaństwowienie. Kontrola publiczna i jej gwarancje muszą być twarde – jako swoisty element demokracji” – podsumowuje.

Aleksandra Przegalińska sporą część książki poświęca kwestii zaufania do sztucznej inteligencji, również w odniesieniu do afer, takich jak sprawa Cambridge Analytica. Podsumowuje też wyniki swoich badań, według których ludzie raczej nie chcą ufać SI w podejmowaniu decyzji kluczowych dla „indywidualnego życia, takich jak zdrowie, finanse i związki”. Budowa mądrego zaufania wymaga etyki w tworzeniu SI, odpowiedniej wyjaśnialności, ale i regulacji. Nawiązanie do zaufania pojawia się w książce wielokrotnie, czasami wręcz mimowolnie.

To skłania mnie do raczej niezbyt oczywistego wniosku: zaufanie będzie kluczowe dla rozwoju sztucznej inteligencji i jej zastosowań. Jeśli zadbamy o miękkie i twarde mechanizmy wzbudzające (uzasadnione) zaufanie do technologii, możemy liczyć na prawdziwy rozwój. Taki scenariusz nie będzie miał szans na powodzenie, jeśli firmy technologiczne, debata publiczna i politycy potraktują ten temat po macoszemu, szczególnie w pewnym nadwiślańskim kraju znanym z niskiego poziomu zaufania społecznego.

Celna wizja pozbawiona sensacji

W debacie na temat technologii (jak i w wielu innych) najczęściej przebijają się książki z odważną tezą. Część z nich słusznie usiłuje uporządkować świat na nowo, w innych autorzy wychodzą na szukających sensacji mądrali. Książka Sztuczna inteligencja: nieludzka, arcyludzka Aleksandry Przegalińskiej i Pawla Oksanowicza wcale nie aspiruje do sensacyjności i dlatego warto do niej zajrzeć.

To dzieło, które nie sili się na przekonanie czytelnika do autorskiej wizji rozumienia technologicznej rewolucji. To publikacja, która nie krzyczy, że winni są miliarderzy z Doliny Krzemowej, niedouczeni lub sprzedajni politycy. Nie szuka kozła ofiarnego. W zamian oferuje czytelnikowi przegląd wielu ważnych wyzwań związanych z wprowadzaniem sztucznej inteligencji w nasze życie. Autorzy starają się przedstawić różne perspektywy i możliwe wyjaśnienia.

Tu i ówdzie można by się przyczepić. W książce nie pojawia się temat uzależnienia od technologii i niemal brak tu rozmów o jej wpływie na dzieci (z wyjątkiem ciekawego wspomnienia o zmianach rozwojowych wywoływanych przez Alexę Amazona). Czasem pobłażliwość autorki wobec technologicznych gigantów wydaje się jednak zbyt wielka. Tak jest na przykład w momencie, w którym Aleksandra Przegalińska twierdzi, że rozwinięcie systemu moderacji po aferze Cambridge Analytica nie było w interesie Facebooka. Owszem, to generuje dla firmy koszty, ale przecież aktywność własna zmniejszyła presję na regulację mediów społecznościowych i uspokoiła sumienia ich użytkowników, a przy okazji uciszyła krytykę. Trudno więc nie uznać, że takie działanie było dokładnie w ich interesie.

Książka przede wszystkim chce przedstawiać świat w sposób wierny i zniuansowany, nie narzuca czytelnikowi własnej wizji świata. Jest nie tylko pełna anegdot i świetnych, bo zrozumiałych, wytłumaczeń, na czym polegają konkretne problemy z SI.

To również zarys odpowiedzialnego podejścia do technologii. Bez udawania, że wszystko jest okej. Bez zwalania całości winy na paru miliarderów-skąpców w typie Sknerusa McKwacza. Mamy więc dogłębne przedstawienie problemów, a także parę konkretnych pomysłów na rozwiązanie sytuacji. Przedstawiane są odpowiedzialnie – jako pomysły z ich wadami i zaletami.

Możemy uznać diagnozę za błędną, a pomysły za niewystarczające. Jednak właśnie to jest ogromną wartością tej lektury. Zamiast kolejnej pozycji oferującej radykalne antidotum na wady tego świata, warto sięgnąć właśnie do książki, która problemy tłumaczy, niuansuje, atakuje z różnych perspektyw. Tego właśnie potrzebujemy w rozhuśtanej emocjonalnie debacie nad technologią u progu trzeciej dekady XXI wieku.

Dofinansowano ze środków Ministra Kultury i Dziedzictwa Narodowego pochodzących z Funduszu Promocji Kultury, uzyskanych z dopłat ustanowionych w grach objętych monopolem państwa, zgodnie z art. 80 ust. 1 ustawy z dnia 19 listopada 2009 r. o grach hazardowych.

Ten utwór (z wyłączeniem grafik) jest udostępniony na licencji Creative Commons Uznanie Autorstwa 4.0 Międzynarodowe. Zachęcamy do jego przedruku i wykorzystania. Prosimy jednak o zachowanie informacji o finansowaniu artykułu oraz podanie linku do naszej strony.