A co jeśli sztuczna inteligencja nigdy nie uzyska świadomości?

Sztuczna inteligencja stała się już tak złożona, że nie potrafimy w pełni zrozumieć mechanizmów jej działania. Dodatkowo, daliśmy jej dostęp do internetu, w tym do wiedzy o naszych słabościach. Zrobiliśmy to, przed czym ostrzegała nas zarówno fantastyka naukowa, jak i badacze AI. Czy jesteśmy na prostej drodze, aby maszyny zyskały samoświadomość i przejęły władzę nad światem? Może współczesnego człowieka dosięgnął freudowski „popęd śmierci” i nieświadomie dążymy do samozagłady? Wydaje się jednak, że obecnej AI daleko jest do stanu, w którym mogłaby być groźna dla człowieka – a być może nigdy go nie osiągnie.

Nawet jeśli większość najnowszych modeli językowych bez problemu przechodzi test Turinga i nie daje się odróżnić od prawdziwego człowieka, to nikt na poważnie nie zakłada, że sztuczna inteligencja jest już świadoma. Stwarzanie pozorów świadomości nie jest bowiem tym samym, co faktyczna świadomość.

Mimo to, wielu badaczy przewiduje, że nadejście „osobliwości”, czyli samoświadomej AI, która zacznie rozwijać się w sposób przekraczający możliwości poznawcze człowieka, jest jedynie kwestią czasu. Gdy jednak przyjrzymy się bliżej argumentom stojącym za tymi prognozami, okaże się, że są one słabsze niż mogłoby się wydawać.

Komputery wcale nie są podobne do ludzi

Rozumowanie stojące za tezą o nadejściu świadomego AI w gruncie rzeczy opiera się o spore uproszczenia i wątpliwą analogię. Wychodzi ono z założenia, że ludzka świadomość powstała samorzutnie w toku ewolucji. Była po prostu efektem coraz lepszego przetwarzania danych przez ludzki mózg.

Następnie opis tego procesu, wywodzący się z biologii ewolucyjnej, rzutuje się na zupełnie inną dziedzinę, jaką jest technologia. Na bazie tej projekcji stwierdza się, że jeżeli będziemy poddawać maszyny ciągłemu rozwojowi, to ten sam proces, który miał miejsce u ludzi, powtórzy się także w przypadku komputerów.

Sądzę, że już na tym etapie widać problematyczne założenie tej teorii, które można by w zasadzie podpiąć pod błąd logiczny fałszywej analogii. Bierzemy bowiem dwa zjawiska – ewolucję biologiczną i rozwój technologii – które należą do zupełnie innych kategorii bytów, a następnie zakładamy, że będą działać w podobny sposób.

Tymczasem jedyne, co obecnie łączy ludzi i maszyny, to fakt, że potrafimy przeprowadzać pewne zbliżone do siebie operacje na symbolach – jak konstruowanie zdań czy rozpoznawanie wzorców.

Jednak i tutaj nie ma dobrej analogii. Człowiek nie jest w stanie policzyć w głowie większości operacji matematycznych, które dla komputera są banalne – i vice versa: uczące się algorytmy wciąż mają problem z rozpoznawaniem emocji, które ludzie rozpoznają odruchowo.

Natomiast różnic między rozwojem ludzi i maszyn jest aż nadto. Zacznijmy od tego, że maszyny działają na zupełnie innych „nośnikach”. Ludzkie ciała zbudowane są z wody i związków organicznych węgla, zaś komputery i roboty bazują na „suchym” krzemie, miedzi i aluminium.

Nie są więc one pokrewnymi nam organizmami, które mogłyby rozwijać się w podobny sposób, ale w ogóle inną formą bytu, rządzącą się innymi zasadami.

Oczywiście, pewne procesy mogą zachodzić w podobny sposób w zupełnie różnych obiektach. Przykładowo, jesteśmy w stanie zaobserwować pewne mechanizmy przypominające ewolucję w rozwoju technologii – chociażby to, że nowe generacje sprzętu powstają na bazie rozwiązań, które okazały się najlepiej dostosowane do ludzkich potrzeb.

Jednak mimo tych podobieństw, wciąż nie mamy do czynienia z procesem, który dałoby się łatwo przełożyć na realia biologicznej ewolucji. Maszyny nie rozwijają się samodzielnie, nie łączą się w pary, nie wymieniają między sobą „danych konstrukcyjnych” – jak ma to miejsce w przypadku DNA – ani nie podlegają doborowi naturalnemu.

Ich rozwój jest całkowicie zależny od ludzkiej woli. Budujemy je jako sztuczne twory, kształtując je z myślą o własnych potrzebach. Maszyny nie powstały w sposób „naturalny”, nigdy nie były „żywe” i nie walczyły o przetrwanie w toku „prawdziwej” ewolucji.

Ludzie mieli wolę przetrwania, samoświadomość i „iskrę bożą” jeszcze zanim stali się na tyle inteligentni, by opracować matematykę. W przeciwieństwie do nich komputery wykonywały skomplikowane obliczenia, zanim potrafiły robić cokolwiek innego.

Tutaj pojawia się kolejna istotna różnica między nami a nimi – mianowicie to, że przeszły one „odwrotność” naszego rozwoju. Komputery zaczynały od abstrakcyjnych obliczeń, od których stopniowo schodziły „w dół”, w kierunku naśladowania bardziej podstawowych funkcji ludzkiego mózgu – jak nauka mowy czy poruszania się.

Możemy oczywiście zakładać, że w końcu dotrą do „samego dna” ludzkiej psychiki – do miejsca, z którego wyłania się nasza świadomość. Ale obecnie to tylko życzenia największych entuzjastów technologii.

Możemy także założyć, że pojawienie się świadomości u ludzi nie było efektem ewolucji, lecz po prostu wynikiem lepszego przetwarzania danych – jednak również jest to niepotwierdzona teoria. Możliwość osiągnięcia świadomości przez maszyny dodatkowo komplikuje fakt, że do dziś nie wiadomo, czym dokładnie jest świadomość, jak powstaje ani jak właściwie „działa”.

W mózgu nie istnieje jeden, konkretny ośrodek odpowiedzialny za świadomość, który można by wyciąć lub uszkodzić, aby ją wyłączyć. Świadomość niejako „dzieje się” gdzieś pomiędzy różnymi obszarami mózgu i wydaje się zjawiskiem niemalże „eterycznym”.

Świadomość pozostaje tajemnicą, której nauka nie potrafi wyjaśnić

Posiadanie świadomości może nam się wydawać czymś oczywistym, wręcz banalnym. Bo w końcu każdy z nas jest świadomy odkąd pamięta. Jednak sama natura świadomości sprawia, że nie da się zbadać procesu jej powstawania, bo zanim się ona pojawi, nie istnieje obserwator, który mógłby prześledzić proces jej powstania, a kiedy świadomość już się pojawi, nie sposób cofnąć się do czasu, kiedy mogło jej nie być.

Świadomość da się obserwować pośrednio – np. śledząc, jak kształtuje się u innych ludzi, szczególnie u dzieci. Badacze od lat zajmują się tą dziedziną, jednak im głębiej wnikają w ten temat, tym bardziej zdaje się on wymykać jednoznacznym wnioskom.

Np. w psychologii rozwojowej zauważono, że początkowo dzieci nie są świadome tego, że są kimś odrębnym od świata. Dopiero z czasem dociera do nich, że nie stanowią jedności z otaczającą ich przestrzenią. Dzieje się to poprzez obserwację granic własnego ciała, a także poprzez interakcje z innymi ludźmi.

Niemowlęta przez początkowy okres życia utożsamiają się ze swoim opiekunem (najczęściej z matką). Dlatego też reagują paniką, gdy nie ma jej w pobliżu – bo nie zdają sobie sprawy, że osoba ta istnieje niezależnie i może powrócić. Obecne sieci neuronowe są pozbawione zarówno możliwości obserwacji swojego ciała, jak i nawiązywania relacji z ludźmi.

Sam okres dziecięcy nie stanowi zwieńczenia rozwoju samoświadomości, a dopiero jego początek. Co więcej, nawet dorosły człowiek pozostaje pod wpływem nieuświadomionych procesów. Carl Gustav Jung uważał, że uświadomienie ich sobie jest częścią indywiduacji, czyli dochodzenia do pełnej świadomości samego siebie, co może trwać właściwie całe życie.

Świadomość nie tylko pozostaje dla nas nie w pełni zrozumiała, ale również jest zjawiskiem niestałym, które może się zarówno wzmacniać, jak i osłabiać lub zanikać. W przypadku bardzo silnego stresu, może dojść do tego, że dana osoba zaczyna funkcjonować bez udziału świadomości.

Działa „automatycznie”, na bazie pierwotnych instynktów i wzorców. W tym stanie może podejmować konkretne decyzje, działania, a nawet wypowiadać słowa, których potem nie będzie pamiętać. Przykładem tego mogą być tak zwane zabójstwa w afekcie.

Wspomniany już Jung zauważył też, że jednym z najczęściej występujących zaburzeń psychicznych wśród plemion pierwotnych jest dysocjacja – czyli oderwanie się świadomości lub tożsamości od reszty psychiki. Obecne były u nich praktyki transowe, na przykład „spacery z duchami”, w trakcie których dana osoba „odcinała się” od świadomej części umysłu, starając się dotrzeć do głębszych doświadczeń duchowych.

Podobnie jest współcześnie z hipnozą lub snami, w trakcie których ludzki umysł działa bez udziału świadomości. Wszystko to wskazuje, że świadomość stanowi niejako powierzchnię, która skrywa znacznie bardziej złożone procesy zachodzące w ludzkiej psyche. Procesów tych nie rozumiemy, więc tym bardziej nie jesteśmy w stanie ich zreplikować w maszynie.

Możliwe, że trudność w opisie świadomości wynika z faktu, że świadomość próbuje zrozumieć samą siebie – co może być niemożliwe. Jak zauważa Federico Faggin, współtwórca pierwszego mikroprocesora, matematyka nie może opisać świadomości, ponieważ sama jest jej wytworem.

To pewna przestroga, aby nie utożsamiać bycia świadomym z człowieczeństwem, godnością ludzką czy co gorsza – z duszą. Skoro bowiem świadomość nie jest zjawiskiem stałym i jednorodnym, to przy złych intencjach można argumentować, że niektóre osoby — np. ludzie w śpiączce czy dzieci w łonie matki — nie są w pełni ludźmi, bo nie są „świadome”.

Co więcej – po ustaleniu „norm” dotyczących tego, co znaczy być „w pełni świadomą osobą”, można by argumentować, że nawet osiemnastolatek nie jest w pełni człowiekiem, bo nie uświadamia sobie pewnych aspektów własnej psychiki.

Wiara w nadludzką AI jak wiara w przybycie Obcych?

W obliczu niejasności otaczających zagadnienie świadomości najrozsądniej byłoby uznać, że pozostanie ona dla nas tajemnicą. Jednak nowoczesna nauka nie dopuszcza takiej kategorii.

Z jednej strony ma to pozytywny wymiar, bowiem motywuje badaczy do lepszego poznawania natury ludzkiej, ale z drugiej strony – może prowadzić do radykalnych uproszczeń. Sprowadzanie złożonych procesów psychicznych do prostych zależności przyczynowo-skutkowych nie tylko niczego nie tłumaczy, ale może wręcz oznaczać zakłamywanie rzeczywistości.

Być może w spekulacjach o świadomych maszynach kryje się jeszcze inna intencja, wynikająca paradoksalnie z naszych własnych, duchowych potrzeb.

W końcu odnalezienie lub stworzenie innej, inteligentnej formy życia, która mogłaby być naszym odbiciem, dawałoby nam poczucie, że nie jesteśmy sami we wszechświecie. Na podobnej zasadzie w drugiej połowie XX wieku ludzie zaczęli marzyć o istotach pozaziemskich – i również te marzenia miały poniekąd naukowe podstawy.

Początki eksploracji kosmosu pobudzały wyobraźnię nie tylko badaczy przestrzeni kosmicznej, ale i szerokich mas. W obliczu potencjalnej nieskończoności kosmosu wydawało się, że spotkanie z Obcymi to tylko kwestia czasu, jako że statystyka zdawała się przemawiać na korzyść istnienia istot pozaziemskich.

Przez kolejne dekady wysyłano sondy, budowano coraz potężniejsze teleskopy i nasłuchiwano najdrobniejszych sygnałów dobiegających z kosmicznej pustki. Momentami przypominało to wręcz obsesję.

Pojawiali się (głównie w USA) łowcy kosmitów oraz stowarzyszenia oczekujące nadejścia przybyszy z innych planet, wykazujące się wręcz religijną nabożnością. Z kolei popkultura produkowała kolejne fantazje o kontaktach z obcymi cywilizacjami.

Jednak przez te wszystkie lata nie znaleźliśmy żadnej pozaziemskiej formy życia, a przynajmniej niczego, co bylibyśmy w stanie rozpoznać jako życie. Mimo iż teoretycznie wciąż może dojść do spotkania z kosmitami, to realna wiara w to osłabła, a samo zjawisko zostało sprowadzone do kolejnej kulturowej kliszy.

Ponieważ przyszłość jest nieodgadniona, to nigdy nie można ostatecznie wykluczyć, że do pojawienia się zarówno kosmitów, jak i świadomych maszyn jednak dojdzie. Jednak im dłużej będzie trwał rozwój AI, któremu nie będzie towarzyszyć nadejście osobliwości, tym szanse na to będą coraz mniejsze.

Nie oznacza to jednak, że ta technologia nie będzie nieść ze sobą innych zagrożeń. Choćby takiego, że algorytmy sztucznej inteligencji, ucząc się coraz lepiej udawać ludzi i symulować świadomość, w końcu sprawią, że spora rzesza ludzi będzie je uważać za świadome. Już dziś media donoszą o ludziach, którzy „zakochali się” w czatbotach.

Elektroniczni towarzysze, idealnie odzwierciedlający emocje i stany wewnętrzne, mogą sprawić, że coraz więcej osób zacznie się do nich przywiązywać jak do żywych istot. Co będzie o tyle łatwiejsze, że będą mogły się odpowiednio wytrenować, aby odpowiadać potrzebom i upodobaniom danej osoby, czego z ludźmi zrobić się nie da.

Humanizacja maszyn i przekonanie o tym, że posiadają świadomość, mogą doprowadzać ludzi do prawdziwych lęków przed tym, że ich AI „umrze” — wtedy będą przeżywać realną depresję czy żałobę po wyłączeniu programu lub utracie danych.

Istnieje też ryzyko „deifikacji” sztucznej inteligencji. Powierzanie sieciom neuronowym kolejnych elementów naszego życia, prywatności, funkcjonowania państwa i gospodarki, może nas doprowadzić do uzależnienia od niedoskonałego narzędzia.

Ślepa wiara w technologię i bezkrytyczne przyjmowanie wskazań AI może okazać się niebezpieczne, nawet jeśli nie będzie stała za nią żadna złowroga świadomość. Może bowiem upośledzić funkcjonowanie ludzi i uzależnić ich od dosłownie nieludzkiego systemu.

Jak dotąd, AI okazało się potężnym narzędziem, które jak każdy wynalazek człowieka może zostać wykorzystane zarówno w dobrych, jak i złych celach. Ale żadna maszyna – świadoma lub nie – nie uwolni nas od moralnego ciężaru naszych własnych decyzji.