„AlgoPolska”: 11 postulatów, których realizacja pozwoli uniknąć mrocznych wizji rodem z „Black Mirror”

Coraz częściej delegujemy decyzje na posługujące się algorytmami komputery. To z jednej strony ogromna szansa na zwiększenie sprawności działania firm i administracji, z drugiej jednak niesie ze sobą konkretne zagrożenia. Chcąc zbudować społeczne zaufanie do technologii, musimy zachować rozsądek i dbałość o interes społeczny w jej wdrażaniu. W raporcie “AlgoPolska” autorzy z Fundacji Centrum Cyfrowe oraz Klubu Jagiellońskiego wskazują, że aby Polska dokonała technologicznego skoku, potrzebujemy realnej debaty, modelu regulacji algorytmów, audytów i wyjaśnialności takich systemów, nowych rozwiązań w kwestii zarządzania danymi oraz powszechnej edukacji.

1. Proponujemy przeniesienie punktu ciężkości debaty z dyskusji o sztucznej inteligencji na dyskusję o zautomatyzowanych systemach podejmowania decyzji (Automated Decision Making, ADM). Systemy ADM łączą infrastrukturę techniczną i procedury społeczne, by delegować na komputerowe modele część decyzyjności będącej dotychczas w rękach ludzi. Często, ale nie zawsze, modele te wykorzystują sztuczną inteligencję – technologię uczenia się maszynowego.

2. Mówienie o systemach ADM – zamiast o sztucznej inteligencji – pozwala lepiej rozumieć wpływ tych nowych technologii na jednostkę i społeczeństwo. Automatyzacja podejmowania decyzji jest też bowiem wprowadzana z wykorzystaniem dużo prostszych technologii.

3. Gospodarczo-technologiczny skok Polski nie dokona się bez wytworzenia popytu na wdrażanie najnowszych technologii w kraju. Obserwujemy skupienie debaty oraz polityki rozwoju sztucznej inteligencji w Polsce wokół prac badawczo-rozwojowych oraz wykorzystywania jej do tworzenia eksportowych produktów gospodarczych. Prowadzi to do stworzenia strategii podażowej, w której Polska jest krajem dostarczającym opartych o sztuczną inteligencję rozwiązań stosowanych następnie w innych miejscach na świecie. Stworzenie strategii popytowej jest niezbędne, jeśli rewolucja technologiczna ma przynieść korzyść polskiemu społeczeństwu.

4. W Polsce wdraża się mniej systemów ADM niż w innych państwach europejskich i rozwiniętych gospodarkach. Możemy wykorzystać rentę zapóźnienia, by zapewnić zrównoważony rozwój systemów ADM w Polsce. Wprowadzając te systemy, możemy bowiem wyciągać wnioski i uczyć się na błędach popełnianych w innych państwach, które dokonały pionierskich – i często wadliwych – wdrożeń. Rozsądne, określone jasnymi zasadami dbałości o interes publiczny, wprowadzanie systemów ADM może przynieść korzyści polskiej gospodarce, społeczeństwu i administracji publicznej.

5. W raporcie prezentujemy wybór różnych zastosowań systemów ADM na świecie, w Europie i Polsce w kluczowych dla życia społecznego obszarach: prewencji przestępstw, rynku pracy, opiece społecznej i medycznej, edukacji, dostępie do kultury i informacji, finansach i sądownictwie. Wskazujemy też pozytywne skutki, jakie niesie za sobą wdrażanie systemów automatyzujących podejmowanie decyzji: podniesienie efektywności działania przedsiębiorstw i administracji, podejmowanie decyzji w oparciu o dane i wiedzę, identyfikację i eliminację części ludzkich błędów oraz stronniczości.

6. Równocześnie opisujemy wyzwania związane z wdrażaniem systemów ADM: zbyt wielkie zaufanie do algorytmicznych decyzji skutkujące utratą samodzielności przez ludzi, przyczynianie się systemów ADM do społecznych niesprawiedliwości i nierówności, brak przejrzystości algorytmów i związany z tym brak odpowiedzialności, globalizację systemów ADM prowadzącą do utraty wrażliwości na wartości lokalnych społeczności, ochronę prywatności i innych praw podstawowych.

7. Jeśli chcemy budować społeczne i gospodarcze zaufanie do systemów ADM, konieczna jest współpraca w modelu poczwórnej helisy, łączącym naukowców, przedsiębiorców, administrację publiczną i stronę społeczną. Jedynie uwzględniając interesy każdej z grup, będziemy w stanie automatyzować procesy społeczne w sposób zrównoważony.

8. Potrzebna jest także regulacja systemów ADM. Ze względu na wpływ, który systemy te mają na jednostki i całe społeczeństwo, konieczne jest wspólne wypracowanie założeń regulacyjnych mających zapewnić, że systemy ADM będą działać w połączonym interesie społeczeństwa oraz gospodarki. Regulacje muszą przede wszystkim zapewnić ochronę praw podstawowych i wskazać obszary, w których systemy ADM nie mogą być stosowane – decyzje muszą być dokonywane przez ludzi.

9. Systemy ADM będą jedynie tak dobre, jak wykorzystywane przez nie dane. Odpowiednia jakość oraz przede wszystkim dostępność zbiorów danych jest niezbędna, jeśli chcemy unikać skrzywionych i stronniczych wyników działania systemów ADM. Dostępność danych jest także warunkiem kluczowym do porównawczych analiz wyników działania algorytmów.

10. Fundamentem budowania systemów ADM musi być przejrzystość i wytłumaczalność ich działania. Ma to szczególne znaczenie w przypadku systemów stosowanych przez administrację publiczną oraz decydujących o kwestiach wrażliwych, m.in. wpływających na prawa podstawowe obywateli. Pozwala bowiem zrozumieć oddziaływanie tych systemów zarówno w jednostkowych przypadkach, jak i na poziomie społeczeństwa.

11. Podstawą zrównoważonego rozwoju ADM musi być świadomość społeczna: zrozumienie działania tych systemów i ich skutków. W społeczeństwie kształtowanym coraz bardziej przez algorytmy koniecznością jest podstawowa znajomość zasad działania algorytmów oraz umiejętność ich wykorzystania ze świadomością tworzonych przez nie szans i zagrożeń. Niezbędną specjalistyczną wiedzę muszą też posiadać osoby odpowiedzialne za wdrażanie systemów ADM. Dlatego edukację – często wspominaną, choć równie często bagatelizowaną – uznajemy za kluczowy element poszukiwania rozwiązań.