Technologia zmieni nasze życia i nasze społeczeństwa. Nadchodzi era boga-algorytmu i cyfrowych dyktaur?

Jeśli technologiczna władza nowej ery wpadnie w ręce Stalina XXI w., rezultatem będzie najgorszy reżim totalitarny w historii ludzkości –  przekonywał autor wielu bestsellerów, Yuval Harari, podczas tegorocznej konferencji w Davos.

Yuval Harari to izraelski historyk i profesor na Wydziale Historii Uniwersytetu Hebrajskiego w Jerozolimie. Jest autorem bestsellerów „Sapiens: od zwierząt do bogów” i „Homo deus: krótka historia jutra”.

W Davos Harari stwierdził, że „egzystencjalne wyzwanie” dla naszego gatunku stanowią trzy problemy: wojna nuklearna, zapaść ekologiczna i rewolucja technologiczna. Wojna nuklearna i zapaść ekologiczna są już zagrożeniami dobrze znanymi, więc pozwólcie mi poświęcić trochę czasu na wyjaśnienie mniej znanego zagrożenia, jakie stanowi rewolucja technologiczna – mówił naukowiec.

Izraelczyk zauważył, że technologia może na zakłócić działanie ludzkiego społeczeństwa i podkopać „na wiele sposobów” sens ludzkiego życia – od stworzenia globalnej klasy ludzi bezużytecznych po „zapoczątkowanie kolonializmu danych i dyktatur cyfrowych”.

Automatyzacja wkrótce zlikwiduje wiele miejsce pracy. W ich miejsce z pewnością powstaną nowe, ale nie każdy będzie w stanie zdobyć nowe umiejętności wystarczająco szybko. Za przykład podany został 50-letni zawodowy kierowca ciężarówek, którego pracy już niedługo mogą pozbawić samochody samojezdne. Oczywiście w tym samym czasie pojawią się nowe wakaty na stanowiskach programisty albo trenerów jogi dla pracowników biurowych. Tylko w jaki sposób ten 50-latek, który całe swoje życie spędził w trasie, miałby nagle spędzać większość czasu przed komputerem lub uczyć innych jak zrelaksować się po całym dniu takiej aktywności? Nie jest także wcale takie pewne, że nawet po zmianie profesji nowo upieczony programista, ex-kierowca, będzie miał pewność zatrudnienia. Jak przekonuje Harari, „rewolucja w automatyzacji nie będzie pojedynczym wydarzeniem, po którym rynek pracy ustabilizuje się w nowej równowadze”. Jego zdaniem będzie to „raczej kaskada coraz większych przełomów, ponieważ sztuczna inteligencja nie jest jeszcze bliska osiągnięcia swojego pełnego potencjału”.

Stare miejsca pracy znikną i pojawią się nowe, ale wówczas te nowe miejsca pracy szybko się zmienią i również znikną. Podczas gdy w przeszłości człowiek musiał zmagać się z wyzyskiem, w XXI w. naprawdę nierówna walka będzie miała związek z nieistotnością. Znacznie gorzej jest być nieistotnym niż wyzyskiwanym – mówił w Davos naukowiec.

Ci, którym nie powiedzie się walka z „nieistotnością” staną się „klasą bezużytecznych”, czyli ludzi bezużytecznych z punktu widzenia gospodarczego i politycznego (nie rodziny i przyjaciół). Ta klasa będzie oddzielona od elity stale rosnącą przepaścią. Rozwój sztucznej inteligencji może wytworzyć nierówności nie tylko między klasami, ale także między poszczególnymi krajami. W XIX wieku dzięki szybkiemu uprzemysłowieniu Wielka Brytania zdominowała i następnie wyzyskiwała ogromną część świata. To samo może stać się w XXI wieku za sprawą sztucznej inteligencji.

W tej materii już trwa wyścig zbrojeń. Prowadzą w nim Chiny i USA, cała reszta świata pozostaje daleko w tyle. Jeżeli dobrodziejstwa płynące ze sztucznej inteligencji nie zostaną rozdzielone między wszystkich ludzi to prawdopodobnie wygeneruje ona „ogromne bogactwo w kilku zaawansowanych technologicznie centrach, podczas gdy inne kraje zbankrutują lub staną się koloniami danych”.

Wystarczy pomyśleć, co stanie się z rozwijającymi się gospodarkami, kiedy produkcja tekstyliów lub samochodów będzie tańsza w Kalifornii niż w Meksyku? A co się stanie z polityką w Twoim kraju za dwadzieścia lat, kiedy ktoś w San Francisco lub Pekinie pozna całą historię medyczną i osobistą każdego polityka, każdego sędziego i dziennikarza w Twoim kraju, w tym wszystkie ich seksualne eskapady, wszystkie ich psychiczne słabości i wszystkie ich brudne interesy? Czy nadal będzie to niezależny kraj, czy stanie się kolonią danych? – retorycznie pytał się Harari.

Obok nierówności, kolejnym poważnym zagrożeniem, przed którym stoi ludzkość, jest „rozwój cyfrowych dyktatur, które będą monitorować wszystkich przez cały czas”.  Można je przedstawić w postaci równania: B x C x D = AHH!

Wiedza biologiczna (B) pomnożona przez moc obliczeniową (C, ang. computing power) pomnożoną przez zasoby danych (D) równa się zdolność hakowania ludzi (AHH, ang. ability to hack humans).

Dzięki znajomości biologii, odpowiedniej mocy obliczeniowej i wystarczająco dużego zbioru danych, można zhakować „ciało, mózg i życie” człowieka. Możesz poznać mój typ osobowości, moje poglądy polityczne, moje preferencje seksualne, moje słabości umysłowe, moje najgłębsze lęki i nadzieje. Poznasz mnie lepiej niż ja sam. I możesz to zrobić nie tylko ze mną, ale z każdym. System, który rozumie nas lepiej niż my sami, może przewidywać nasze uczucia i decyzje, może nimi manipulować, a ostatecznie może podejmować decyzje za nas – mówił Izraelczyk.

Żaden system totalitarny z przeszłości nie dysponował ani wystarczającą wiedza biologiczną, ani mocą obliczeniową, ani też niezbędnymi danymi, aby w pełni kontrolować miliony ludzi. Obecnie powinniśmy przyzwyczaić się do tego, że „nie jesteśmy już tajemniczymi duszami – jesteśmy teraz zwierzętami, które można hakować”.

Zdolność do hakowania ludzi można wykorzystać dobrze – np. do zapewnienia lepszej opieki zdrowotnej, lub źle – „jeśli taka władza wpadnie w ręce Stalina XXI w., rezultatem będzie najgorszy reżim totalitarny w historii ludzkości”.

Harari nakreślił przed słuchaczami wizję takiego reżimu. Wyobraźmy sobie Koreę Północną za dwadzieścia lat, kiedy wszyscy będą musieli nosić bransoletkę biometryczną, która monitoruje ciśnienie krwi, tętno, aktywność mózgu przez 24 godziny na dobę. Słuchasz przemówienia wielkiego przywódcy w radiu, a oni wiedzą, co naprawdę czujesz. Możesz klaskać i się uśmiechać, ale jeśli jesteś zły, oni się o tym dowiedzą, a jutro będziesz w gułagu.

Zdolność do hakowania ludzi może „podważyć sam sens ludzkiej wolności”. Jeżeli sztuczna inteligencja będzie wyręczać ludzi przy coraz to kolejnych decyzjach, to władza nie będzie należała już do człowieka, a algorytmów. Nawet dziś miliony ludzi ufa „algorytmowi Facebooka, mówiącemu nam, co nowego, algorytmowi Google, mówiącemu nam, co jest prawdą, Netflixowi mówiącemu nam, co oglądać, oraz algorytmom Amazon i Alibaba mówiącym nam, co kupić”.

Niedługo algorytmy będą mogły sugerować nam kto byłby najlepszym kandydatem na męża/żonę, a także decydować czy nadajemy się do konkretnej pracy lub czy można nam bezpiecznie udzielić pożyczki. Jeżeli pojawią się jakieś wątpliwości to odpowiedź będzie jedna – „tak mówi system”, co zakończy wszystkie dyskusje, bo przeciętny człowiek nie jest w stanie zrozumieć algorytmu, nie ma też wystarczającej wiedzy biologicznej, mocy obliczeniowej i zasobu danych.

W efekcie w „wolnych” krajach ludzie stracą kontrolę nad własnym życiem, nie będą także rozumieli polityki publicznej. Już w tej chwili mało kto rozumie jak funkcjonuje współczesny system finansowy. Za kilkadziesiąt lat system może być niezrozumiały dla nikogo.

My, ludzie, jesteśmy przyzwyczajeni do myślenia o życiu jako dramacie podejmowania decyzji. Jaki będzie sens ludzkiego życia, gdy większość decyzji podejmują algorytmy? Nie mamy nawet modeli filozoficznych zdolnych pojąć taką egzystencję. Zwykle układ między filozofami a politykami polega na tym, że filozofowie mają wiele fantazyjnych pomysłów, a politycy zasadniczo wyjaśniają, że brakuje im środków na ich realizację. Teraz mamy odwrotną sytuację. Grozi nam filozoficzne bankructwo – twierdzi Harari.

Rewolucje dokonujące się w infotechnologii i biotechnologii dają politykom możliwość stworzenia raju lub piekła. Filozofowie natomiast nie są w stanie określić, jak będzie wyglądać nowy raj i nowe piekło. W efekcie bardzo łatwo jako „raj” może zostać społeczeństwu przedstawiona utopia, będąca w rzeczywistości piekłem.

Rozwój technologii może także zakłócić naszą biologię. Sztuczna inteligencja i biotechnologia mogą dać moc zupełnego przeprojektowywania życia, a także tworzenia jego zupełnie nowych form. Po czterech miliardach lat kształtowania życia organicznego przez dobór naturalny wkraczamy w nową erę życia nieorganicznego, kształtowanego przez inteligentny projekt – przekonuje Harari.

Mając tak wielkie możliwości otwarta zostanie dla nas furtka do popełniania błędów na „kosmiczną skalę”. Rządy, armie i korporacje będą zainteresowane w rozwoju tylko niektórych aspektów ludzkiego bycia, np. inteligencji i dyscypliny. Zupełnie nieatrakcyjne dla nich będą jednostki o wysokim stopniu wrażliwości czy o rozwiniętej duchowości.

Harari zaznacza jednak, że jest to jedynie jedna z możliwości, która wcale nie musi stać się rzeczywistością, jeśli uda się nawiązać globalną współpracę. Żaden kraj nie jest w stanie samodzielnie zapobiec wojnie nuklearnej czy powstrzymać ekologicznej katastrofy. Podobnie żaden kraj nie jest w stanie samodzielnie kontrolować rozwoju sztucznej inteligencji i bioinżynierii. Jeżeli w tej dziedzinie kontynuowny będzie wyścig zbrojeń to nie będzie w nim zwycięzców, a na pewno przegra ludzkość.

Badacz postawił także śmiałą tezę, że nie ma sprzeczności między nacjonalizmem a globalizmem –  Ponieważ nacjonalizm nie polega na nienawidzeniu obcokrajowców. Nacjonalizm polega na miłości wobec własnych rodaków. A w dwudziestym pierwszym wieku, aby chronić bezpieczeństwo i przyszłość swoich rodaków, musimy współpracować z obcokrajowcami.

I dlatego w XXI wieku „dobrzy nacjonaliści muszą być także globalistami”, bo globalizm „nie oznacza obecnie ustanowienia globalnego rządu, porzucenia wszelkich narodowych tradycji ani otwarcia granic na nieograniczoną imigrację”. Jest raczej przywiązaniem do pewnych globalnych reguł, które „wcale nie negują wyjątkowości każdego narodu, a jedynie regulują stosunki między nimi”.

Przykładem globalizmu opisywanego przez Harariego są piłkarskie Mistrzostwa Świata, podczas których drużyny narodowe rywalizują o najwyższe laury, ale robią wedle określonych zasad. Francja nie może grać przeciwko Chorwacji, chyba że Francuzi i Chorwaci uzgodnią takie same zasady gry. I to jest globalizm w praktyce. Jeśli lubisz Mistrzostwa Świata – już jesteś globalistą – twierdzi Izraelczyk.

I takiej harmonii i współpracy trzeba nie tylko w piłce nożnej, ale także przy regulowaniu niebezpiecznych technologii i zmniejszaniu globalnych nierówności. Trzeba stworzyć system, w którym sztuczna inteligencja będzie przynosiła korzyści nie tylko amerykańskim autorom oprogramowania, ale także meksykańskim pracownikom włókienniczym, Udało się już uciec od czegoś co przez całą historię ludzkości wydawało się czymś oczywistym – od prawa, wedle którego między dwoma sąsiadującymi krajami z roku na rok z dużym prawdopodobieństwem mogły wybuchać wojny. Udało się zbudować globalny porządek, to prawda, pełeń niedoskonałości, ale jednak oparty na pewnych regułach, co pozwoliło ludzkości przeżyć najbogatszą i najbardziej pokojową erę w jej historii.

Pokój obecnie nie jest chwilowym brakiem wojny, tylko jej zupełną niewiarygodnością. Oczywiście, w niektórych częściach świata wciąż toczone są walki. Ale trudno sobie wyobrazić, żeby za rok niemieckie czołgi miały wkroczyć do Paryża.

Żyjemy obecnie w świecie, w którym wojna zabija mniej ludzi niż samobójstwa, a proch strzelniczy jest o wiele mniej niebezpieczny dla naszego życia niż cukier. Większość krajów – z kilkoma znaczącymi wyjątkami, takimi jak Rosja – nawet nie marzy o podboju i aneksji swoich sąsiadów. Dlatego większość krajów może sobie pozwolić na przeznaczanie około dwóch procent PKB na obronność, a znacznie więcej na edukację i opiekę zdrowotną – przekonywał Harari.

Przyzwyczailiśmy się do takiej sytuacji, którą uważamy za coś oczywistego i stajemy się wyjątkowo nieostrożni. Zamiast poprawiać ten kruchy system, wielu stara się go podważać. Już niedługo znaleźć możemy się ponownie w dżungli wszechobecnej wojny, w której nasz gatunek funkcjonował praktycznie od początku swojego istnienia. Jeżeli teraz do niej wrócimy, to dzięki technologiom XXI wieku, „nasz gatunek prawdopodobnie sam się unicestwi”.

CZYTAJ TAKŻE: Adam Szabelak: Rewolta przeciw współczesnemu światu

Źródło: Klub Jagielloński

Adam Szabelak

Czytaj Wcześniejszy

Analiza wyników I tury wyborów prezydenckich

Czytaj Następny

Debata: II tura z perspektywy narodowca [+WIDEO]

Komentarze

  • Tak na prawdę jedyną nadzieją dla świata jest Paruzja. Mam nadzieję, że ją zobaczę zanim algorytmy będą kontrolować niemal każdą dziedzinę życia albo, że po prostu nie dożyję takich czasów. Polemizowałbym z tym, że wojna jest nieprawdopodobna. Niemieckie czołgi nie wjadą do Paryża ale mogą go opanować islamscy rzeźnicy. Niewykluczone też, że nowa inwazja barbarzyńców na kraje północy po prosu je zdewastuje w takim stopniu, że nastąpi regres technologiczny jak po upadku imperium rzymskiego.

Zostaw Odpowiedź

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *