Mustafa Suleyman – człowiek, który osobiście spełnia swoje przepowiednie

Narastające od kilku lat zainteresowanie sztuczną inteligencją, szczególnie od czasu premiery Chatu GPT, skutkuje zalewem treści podejmujących ten temat. Wśród nich warto wskazać Nadchodzącą falę pióra Mustafy Suleymana, przedsiębiorcy z branży, obecnego CEO Microsoft AI. Autor nie ogranicza się do powszechnie powtarzanych diagnoz i okrągłych formułek. Korzystając ze swojego bogatego doświadczenia, identyfikuje realistyczne, a nie wydumane zagrożenia, które niesie sztuczna inteligencja. Jednocześnie wzywa, by nie zapominać o potencjalnych korzyściach.

Z tematem sztucznej inteligencji od dziesięcioleci możemy się zetknąć zarówno w literaturze, jak i kinie fantastyki naukowej. Dla mnie pierwszy kontakt z konceptem myślącego programu to wyśmienita seria książek dla dzieci i młodzieży Felix, Net i Nika pióra Rafała Kosika. Jednym z najbliższych przyjaciół i kompanów tytułowej trójki jest sympatyczny program Manfred.

Autor wprowadził czytelników w pojęcia takie jak test Turinga czy sam skrót AI (artificial intelligence). Zasygnalizował pożyteczne zastosowania sztucznej inteligencji (wspomniany Manfred zawodowo steruje ruchem ulicznym w Warszawie), ale wskazał również związane z nią zagrożenia (choć raczej niezbyt trafnie zdiagnozowane) – antagonistą całej serii jest zbuntowana AI Morten.

Wspominam o tej ważnej dla mnie serii, bo pamiętam, jak niepoważna wydawała mi się wizja prezentowana przez Kosika. Sztuczna inteligencja brzmiała jak problem i dobrodziejstwo, które będzie zaprzątać głowę moich wnuków. I chyba nie byłem w tym odosobniony. Większość ludzi wrzucała podobne wątki w popkulturze do tej samej przegródki, co podróże w czasie i napędy nadświetlne.

Rzeczywistość wystawiła podobne podejście na śmieszność. Chat GPT w błyskawicznym tempie wywarł oszałamiające wrażenie na opinii publicznej. Uświadomił sporej części z nas, dotychczas tkwiących w błogiej niewiedzy, że świat, który znamy, czeka gwałtowna rewolucja, najszybsza w historii naszego gatunku.

Dzisiaj trudno spychać temat AI do książek dla dzieci. Zamiast nich potrzeba solidnych opracowań mogących na poważnie wprowadzić czytelnika w temat. Jednym z nich jest wydana w Polsce przez wydawnictwo Szczeliny Nadchodząca fala. Sztuczna inteligencja, władza i najważniejszy dylemat ludzkości w XXI wieku Mustafy Suleymana.

Autor żywym językiem, pełnym anegdot ze świata twórców technologii, ale nie stroniąc też od analogii historycznych, snuje opowieść o rozpoczynającej się rewolucji. A to wszystko w zrozumiały dla laika sposób, tym samym unikając pułapki, w którą wpada wielu autorów usiłujących przybliżyć niuanse nowych technologii szerszej publiczności.

Powracające fale zmian

Na początek trzeba jednak wyjaśnić, czym jest tytułowa fala. W rozumieniu Suleymana jest to „globalna ekspansja lub rozprzestrzenianie się zespołu technologii opartych na nowej technologii ogólnego przeznaczenia”. Takie fale nie są niczym nowym, ich przejścia towarzyszą nam od początku historii ludzkości.

Jako jedną z pierwszych należy wskazać poskromienie ognia. Z książką Suleymana możemy się zapoznać tylko dzięki fali o tysiące lat późniejszej, jaką wywołało wynalezienie pisma. A także dzięki najbardziej znanemu wynalazkowi Gutenberga – maszynie drukarskiej.

Takich fal było wiele i za każdym razem znacząco zmieniały życie całej ludzkości. Poprawiały byt mieszkańców Ziemi, ale też tworzyły nowe zagrożenia. Za każdym razem trzeba było je zidentyfikować oraz przystosować się tak, by ich uniknąć albo chociaż zminimalizować negatywne skutki.

Ich historia każe nam wysnuć dwa wnioski. Po pierwsze, fale są nieuniknione. W przeszłości wielokrotnie próbowano zatrzymać rozwój technologii, które uznano za groźne. Choćby w XV w. Imperium Osmańskie zakazało na swoim terytorium funkcjonowania pras drukarskich.

W reakcji na wynalezienie krosna mechanicznego, które doprowadziło do zniknięcia tysięcy miejsc pracy, powstał ruch luddystów, protestujących, niszczących fabryki i domagających się zakazania szatańskiego wynalazku. Każdy, kto zna historię świata, wie, że próby te nie przyniosły żadnych efektów. Technologie, których rozwoju usiłowano uniknąć, i tak rozlały się na cały świat.

Po drugie, każda fala jest coraz gwałtowniejsza. Rozprzestrzenianie się sztuki wykorzystania ognia po całym globie trwało prawdopodobnie setki, jeśli nie tysiące lat. Dla porównania, w ciągu zaledwie kilkudziesięciu lat komputery ze sprzętu zajmującego kilka pokoi i istniejącego w jednostkowych egzemplarzach skurczyły się do rozmiaru małego prostopadłościanu mieszczącego się w kieszeni. Możemy je spotkać w prawie każdym miejscu na globie, a ich wydajność zwiększyła się przez ten czas o miliardy procent.

Suleyman wskazuje, że fala, która nas czeka, będzie wywołana przez wzajemnie powiązane technologie z obszaru sztucznej inteligencji i biologii syntetycznej. A efekt gwałtownego przyśpieszenia spowoduje, że ludzkość będzie miała mniej czasu na kontrolowanie zmian, wychwytywanie zagrożeń i dostosowanie się do nich.

Już teraz widać, że absolutnie nie doceniliśmy, jaki wpływ wywrą na nas media społecznościowe. A są one tylko jednym z wielu wycinków poprzedniej fali, na której konsekwencje nie byliśmy gotowi. Tymczasem następna fala będzie prawdopodobnie znacznie szybsza niż którakolwiek wcześniejsza.

Mustafa Suleyman – człowiek, który osobiście spełnia swoje przepowiednie

Książki o nadchodzących zmianach wywołanych technologią pisze wielu. Niektórzy przestrzegają przed przyszłością, inni widzą w nowych technologiach lekarstwo na bolączki ludzkości. Czym wyróżnia się wśród nich Suleyman?

Na pewno nie jest typem kontrowersyjnego dziennikarza, na co dzień lubującego się w prezentowaniu światu teorii spiskowych. Ani skrajnie prawicowym filozofem, który w ramach ćwiczeń intelektualnych usiłuje wyobrazić sobie następne dekady historii w jak najczarniejszych barwach.

Mustafa Suleyman jest bowiem przedsiębiorcą i jednym z twórców technologii, o której pisze. Osobiście zakładał dwa absolutnie kluczowe dla rozwoju branży przedsiębiorstwa: Deep Mind (później kupione przez Google) i Inflection AI. Obecnie jest CEO Microsoft AI.

Przez lata miał okazję nie tylko obserwować, ale też tworzyć sztuczną inteligencję. W swojej książce obficie korzysta z tego doświadczenia. Często obrazuje opisywane zagadnienie, przywołując własne wspomnienia lub opowieści, które zna z pierwszej ręki, od twórców obecnej rewolucji technologicznej.

Książka nie jest również relacją szalonego naukowca, który uświadomiwszy sobie, że stworzył coś strasznego, usiłuje teraz w sposób przesadzony ostrzegać przed swoim wynalazkiem. Suleyman cały czas pracuje w branży i opisuje liczne dobrodziejstwa, które AI może przynieść ludzkości.

Nie usłyszymy tu wezwania do palenia biur firm informatycznych. Rozwoju technologii nie da się bowiem zatrzymać, jak o tym świadczy wiele przykładów z historii. Natomiast trzeba się na niego przygotować.

Co równie ważne, autor ma bogate doświadczenie we współpracy z administracją publiczną na różnych szczeblach, od samorządowego po międzynarodowy. Jego rekomendacje odnośnie do najlepszych kroków do podjęcia przez władzę tchną realizmem, jeśli nie pesymizmem. Rady dla rządzących daje ktoś, kto doskonale zna ograniczenia zarówno tworzących, jak i stosujących prawo.

Przyszłość to nie Terminator, ale deepfake

W słowniczku otwierającym Nadchodzącą falę znajdujemy trzy kluczowe dla książki pojęcia:

• sztuczna inteligencja (AI, ang. artificial intelligence) to dziedzina nauki zajmująca się konstruowaniem maszyn zdolnych do uczenia się umiejętności zbliżonych do ludzkich;
• sztuczna inteligencja ogólna (AGI, ang. artificial general intelligence) to rodzaj AI, która posługuje się wszystkimi ludzkimi zdolnościami poznawczymi lepiej niż najbardziej inteligentni ludzie;
• kompetentna sztuczna inteligencja (ACI, ang. artificial capable intelligence), czyli zbliżający się wielkimi krokami etap pośredni między AI a AGI. ACI potrafi wykonywać szeroką gamę złożonych zadań, ale wciąż daleko jej do kompletnej wszechstronności.

To właśnie ACI jest główną bohaterką książki Suleymana. Więc nie mówimy tu o programach, które myślą tak jak ludzie. Są one po prostu bardzo zaawansowanymi modelami językowymi i obliczeniowymi, zdolnymi uczyć się umiejętności, a nie tylko wykonywać program stworzony przez człowieka. Wobec tego, wbrew popkulturowym schematom rodem z Terminatora, największe zagrożenia związane ze sztuczną inteligencją nie sprowadzają się do wielkiego buntu maszyn prowadzonego przez jakiś Skynet.

Autor rysuje obraz zagrożeń dużo mniej spektakularnych, ale przez to realistycznych. Dotyczą kryzysu na rynkach pracy, zagrożeń dla bezpieczeństwa powszechnego, wywołanego nagraniami i obrazami generowanymi przez AI kryzysu zaufania czy wreszcie kryzysu państwa narodowego.

Czekająca nas fala wiązać się będzie również z rozwojem biologii syntetycznej. Rewolucyjne technologie związane z tą dziedziną pozwalają już teraz na syntetyczne wytwarzanie tkanek, które może stać się przyszłością transplantologii i innych dziedzin medycyny.

A wraz z rozwojem tego obszaru wiedzy będzie pojawiała się pokusa, aby nabyte umiejętności wykorzystać również do ulepszania zdolności poznawczych i fizycznych człowieka. Modyfikowanie DNA nienarodzonych dzieci celem otrzymania konkretnego zestawu cech już miało miejsce. Pytanie, co będzie następne?

Złota droga środka

Autor prezentuje dwie negatywne postawy, które można przyjąć wobec wyzwań, jakie stawia przed nami współczesność. Wiążą się z nimi poważne niebezpieczeństwa. Postawa pierwsza nawiązuje do XVII- i XVIII-wiecznego ruchu ludystów, wspomnianego powyżej. Sprowadza się do gwałtownego i bezrefleksyjnego odrzucenia nowej technologii oraz próby zduszenia jej w zarodku.

Postawa ta, pojawiająca się przy wielu poprzednich falach, nigdy nie przyniosła pozytywnych rezultatów. W świecie pełnym aktorów państwowych i niepaństwowych wiara w to, że coś raz odkrytego można zdusić w zarodku i o tym zapomnieć, grzeszy co najmniej naiwnością. Powstrzymywanie rozwoju technologii po prostu nie działa.

Jedyne co może nieść zakaz sztucznej inteligencji, to wyłączenie jej spod jakiejkolwiek kontroli państwa. A na takim rezultacie nikomu nie zależy. Gwałtowny opór przed nową technologią ponadto pozbawia ludzkość wszelkich potencjalnych benefitów wypływających z jej rozpowszechnienia.

Postawę drugą autor określa jako awersję do pesymizmu. Jest to „powszechna skłonność, szczególnie silna wśród elit, do ignorowania, bagatelizowania lub odrzucania narracji, które uważają za przesadnie negatywne. Odmiana błędu nadmiernego optymizmu, która nadaje ton większości debat na temat przyszłości, szczególnie w kręgach technologicznych”. Ta groźna mieszanina ,,jakoś to będzie” i ,,przecież nie może być tak źle” prowadzi do bagatelizowania zagrożeń i nieprzygotowania się do nadchodzących wyzwań.

Autor spotyka się z nią wielokrotnie podczas rozmów z decydentami w Waszyngtonie, Pekinie i Brukseli. Chęć jej przełamania legła u podstaw decyzji o napisaniu omawianej książki. Stojąc u progu fali, być może największej w historii, absolutnie niemądrym jest uznanie, że czarne scenariusze kreślone przez ekspertów nigdy się nie spełnią. Niestety, wygląda na to, że przynajmniej część naszych rządzących tak właśnie uważa.

Zamiast dwóch powyższych podejść autor proponuje drogę środka. Z jednej strony zachęca, aby uznać, wraz z nieuniknionością nowej technologii, ogrom dobrodziejstw, które będą z niej płynąć. Ale równocześnie wzywa do bycia świadomym jej wad oraz do przygotowania się na zagrożenia.

Przedstawiane zagadnienia autor dzieli na cztery części odpowiadające kompozycji książki. Na początku rekonstruuje dotychczasową historię rozwoju technologicznego, wskazując na cechy wspólne wszystkich fal oraz odpowiadając na pytanie, czy możliwe jest powstrzymanie niechcianej technologii. Dalej poddaje analizie nadchodzącą falę sztucznej inteligencji i biologii syntetycznej.

W części trzeciej zwraca uwagę na polityczne implikacje wywołane przez niekontrolowaną falę technologii. Wreszcie w części czwartej części prezentuje w dziesięciu krokach propozycje rozwiązań omawianych problemów.

Wyciągajmy wnioski z przeszłości!

Dziesięć wskazówek autora książki ma co prawda dość ogólny charakter (być może zbyt ogólny), ale są pewnymi propozycjami ram, w jakich powinno się myśleć o technologiach bliskiej przyszłości. Suleyman kieruje je zarówno do naukowców, społeczności międzynarodowej, jak i decydentów w państwach – dla każdego z nich widzi osobną rolę.

Punktem wyjścia do myślenia ze względnym optymizmem o przyszłości jest historia broni atomowej. Technologia ta również pojawiła się na scenie dziejów nagle i zszokowała międzynarodową opinię publiczną. Następnie w ciągu zaledwie kilku lat rozprzestrzeniła się do kolejnych krajów (na czele z ZSRR).

Jednak dość szybko została wzięta w pewne ryzy i jej nieograniczone rozprzestrzenianie się zostało zahamowane. Lista krajów, które dysponują tego typu bronią, jest wciąż nieliczna; nie znamy też przypadku wykorzystania jej przez aktorów niepaństwowych.

To wzajemne samoograniczanie się w rozpowszechnianiu, a przede wszystkim w wykorzystaniu bomb atomowych sprawia, że Suleyman widzi istotną rolę dla społeczności międzynarodowej, zarówno politycznej, jak i naukowej. Ich odpowiednie decyzje będą kluczowe dla prawidłowego rozwoju technologii w przyszłości. Konieczne jest wypracowanie i bezwzględne egzekwowanie zbioru wartości, których trzymać muszą się naukowcy, i jakkolwiek brzmi to niecodziennie ­wpajanie ich tworzonej sztucznej inteligencji.

Pobrzmiewa tu koncepcja bliska prawom robotów, pierwszy raz sformułowanym przez pisarza fantastyki Asimova. Każda technologia potrzebuje bezpieczników, czegoś, co pozwoli wyłączyć ją, gdy stanie się groźna. Tworząc AI, nie można o tym zapominać. Być może takim bezpiecznikiem będzie nauczenie jej, by pilnowała sama siebie?

Rola samych naukowców zajmujących się sztuczną inteligencją i biotechnologią jest bardzo ważna, bo de facto to oni mogą być najsprawniejszymi krytykami własnych dokonań. To ich głosu świat będzie potrzebował, by zidentyfikować prawdziwe zagrożenia. Krytyk-luddysta sam siebie pozbawia możliwości dogłębnego zrozumienia przedmiotu swojej krytyki. Trzeba coś bardzo dobrze rozumieć, by wskazać tego groźne konsekwencje.

Z kolei polityczna społeczność międzynarodowa powinna cały czas patrzeć na ręce twórcom nowoczesnych technologii, dokonując nieustannego audytu efektów ich prac i stosowanych metod. Nie wystarczy uregulować prawnie pewnych kluczowych kwestii i napawać się uczuciem dobrze spełnionego legislacyjnego obowiązku. Przestrzeganie standardów, solidarne egzekwowanie zakazów stosowania określonych rozwiązań – to wszystko powinno być wspólnie pilnowane na poziomie organizacji międzypaństwowych.

Wykorzystać też należy zjawisko wąskiego gardła, o którym pisze Suleyman. Dostęp do technologii potrzebnej do dokonywania przełomów jest cały czas ograniczony. Choćby większość najmocniejszych procesorów produkuje amerykańskie przedsiębiorstwo NVIDIA. Należy podjąć wszelkie kroki, by ograniczyć dostęp do tych technologii w krajach uznanych za niebezpieczne (dla autora takim zagrożeniem są Chiny, które zdobycze technologiczne wykorzystują do budowania państwa autorytarnego).

Nie jest to rozwiązanie na stałe, ale doraźnie kupi czas, który powinno się wykorzystać na wypracowanie odpowiednich standardów i metod ich egzekwowania. Pojawia się też przestrzeń na poważne rozmowy o maksymalnie szerokich traktatach międzynarodowych regulujących problem AI.

Suleyman widzi również zadanie dla indywidualnych państw, które powinny działać według zasad: przetrwaj, reformuj, reguluj. Z kolei wielkie korporacje muszą sobie uświadomić, że w pogoni za krótkoterminowym zyskiem mogą uruchomić łańcuch zdarzeń prowadzący do ich własnego upadku.

W tym wszystkim ogromną rolę do odegrania mają ruchy społeczne i zwyczajni obywatele, którzy muszą nie tylko uświadomić sobie skalę wyzwań, ale przy urnach, na ulicach i w mediach społecznościowych domagać się od elit rozsądnej polityki będącej na nie odpowiedzią.

Mądre powstrzymywanie negatywnych skutków technologii nie kończy się nigdy. Czy to niepokojąca myśl? Raczej powinniśmy być do niej przyzwyczajeni. Wszak cały czas straż pożarna musi wyjeżdżać na sygnale, by powstrzymywać konsekwencje oswojenia technologii sprzed setek tysięcy lat: ognia.

Zarysowane zalecenia tchną lekko zarówno zbytnią ogólnością, jak i idealizmem. Wskazać też należy pewną niespójność: odcinamy od najnowszych procesorów Chiny, by w perspektywie kilku lat współtworzyć z nimi traktaty mające powstrzymać negatywne skutki AI.

Przedstawione propozycje mogą więc być co najwyżej początkiem debaty na ten temat. Jednak już teraz warto wyciągnąć z książki Suleymana wniosek, że każdy aktor życia publicznego może i powinien odegrać swoją rolę w mierzeniu się z nadchodzącymi wyzwaniami.

Rewolucja puka do drzwi

Stoimy u progu gwałtownych zmian, które wywrócą naszą codzienność do góry nogami. Z jednej strony możemy spodziewać się poprawy jakości życia, a wiele problemów technologicznych i medycznych zapewne znajdzie swoje rozwiązanie. Z drugiej czyhają na nas zagrożenia, które zarówno w treści, jak i w skali wykraczają poza to, z czym kiedykolwiek musieli się mierzyć nasi przodkowie.

Czy według autora książki przetrwamy tę falę? Tak, jeśli uświadomimy sobie skalę wyzwań, które nas czekają, i odpowiednio się na nie przygotujemy. Właśnie z myślą o zagubionych w otaczającej nas rzeczywistości powstała książka Mustafy Suleymana.

Jeśli ktoś poszukuje fachowej pozycji dotyczącej potencjalnych konsekwencji, jakie dla naszego życia prywatnego i polityki publicznej niesie rozwój sztucznej inteligencji, to Nadchodząca fala będzie znakomitym wyborem. Jeśli jednak ktoś chciałby usłyszeć, że sprawy wcale nie są tak poważne, jak się o tym mówi, i że nie dzieje się nic specjalnego – to książka bardzo go rozczaruje, ale przeczytać ją powinien tym bardziej.