Marcin Zwierzchowski: Pana nowa książka nosi tytuł „21 lekcji na XXI wiek”. Kto ma się z niej uczyć? Wydaje się, że problemem nie jest brak wiedzy choćby o globalnym ociepleniu, ale brak decyzji o jakimkolwiek działaniu w tym temacie.
Yuval Noah Harari: Te lekcje są dla wszystkich. Żeby zainicjować działania w sprawie czy to ocieplenia klimatu, czy innych ważnych problemów, najpierw musimy zmienić dyskurs polityczny, który w wielu krajach skupia się na niewłaściwych zagadnieniach. Ludzkość stoi obecnie przed trzema wielkimi zagrożeniami: wojną nuklearną, zmianami klimatu oraz innowacyjnymi technologiami. Zarówno politycy, jak i wyborcy nie poświęcają im wiele uwagi.
Niech przykładem będzie Brexit. Sam w sobie niekoniecznie jest złym pomysłem. Pytanie, czy to właśnie tym obecnie powinny zajmować się Wielka Brytania i Unia Europejska? W jaki sposób Brexit może zniwelować ryzyko wojny nuklearnej, zatrzymać globalne ocieplenie czy pomóc w okiełznaniu niebezpiecznie ogromnego potencjału sztucznej inteligencji lub bioinżynierii? W żaden. Prędzej utrudni rozwiązanie tych problemów, jako że wymagałoby ono silniejszej globalnej kooperacji, a nie zwiększania podziałów. Niebezpiecznie odwraca naszą uwagę od tego, co ważne, bo każda minuta, jaką Unia i Wielka Brytania poświęcają Brexitowi to mniej czasu na pochylenie się nad zagadnieniami zmian klimatu czy regulacji prawnych dotyczących AI.
Napisałem „21 lekcji…”, by pomóc ludziom zrozumieć, co winno być na liście naszych priorytetów.
Mówi Pan, że wolna wola to mit i że oddanie AI kontroli nad choćby samochodami każdego roku ratowałoby miliony żyć. Jak daleko powinniśmy się posunąć w kwestii przekazywania AI władzy nad nami?
Większość podejmowanych przez nas decyzji nie jest efektem działania jakiejś tajemniczej „wolnej woli”. Stanowią one odzwierciedlenie najróżniejszych biologicznych, kulturalnych i politycznych wpływów. Dlatego wiele z podejmowanych przez nas decyzji jest błędnych, jak choćby te dotyczące kierunku studiów, miejsca pracy, osoby, którą poślubiamy, czy nawet głosowania na niewłaściwego polityka.
Najwyraźniej widać to na naszych drogach: niektórzy siadają za kierownicą pijani, inni zamiast przed siebie, wpatrują się w ekranu smartfonów. W efekcie takich złych decyzji rokrocznie w wypadkach samochodowych ginie 1,25 mln ludzi. To dwa razy więcej, niż połączona roczna liczba ofiar wojen, zbrodni i terroryzmu razem wziętych. Przekazanie kierownic AI pozwalałby więc uratować co najmniej milion osób każdego roku.
I równie dobrze ludzie mogliby korzystać z pomocy sztucznej inteligencji decydując o swojej edukacji, karierze czy życiu miłosnym.
Z drugiej strony wiąże się z tym straszne ryzyko. Bo wraz z coraz silniejszym opieraniem się w naszych procesach decyzyjnych na algorytmach, rosnąć będzie władza tych, którzy te algorytmy stworzyli i kontrolują. Brak ostrożności na tym polu może doprowadzić do cyfrowych dyktatur gdzie rząd wie o tobie wszystko i kontroluje każdy aspekt twojego życia.
Skoro jednak, jak czytamy w „21 lekcjach…”, wolna wola to mit odziedziczony od chrześcijańskiej teologii i ludźmi łatwo manipulować, a nawet nas zhakować, to może jednak oddanie się zewnętrznej kontroli AI nie byłoby takie złe.
Najłatwiej jest manipulować ludźmi wierzącymi w wolną wolę. Ludzie z pewnością posiadają wolę i nieustannie podejmują decyzje, jednakże większość z nich nie zapada świadomie. Wiara w „wolną wolę” jest niebezpieczna, ponieważ sprzyja braku zrozumienia przez nas samych siebie. Gdy dokonujemy jakiegoś wyboru, czy to będzie produkt, ścieżka kariery, partner czy polityk, wmawiamy sobie, że to „Ja podjąłem tę decyzję z pomocą wolnej woli”. W takim wypadku nie ma w co się wgłębiać i nie ma powodu by być ciekawym, jakie procesy we mnie zachodzą i jakie bodźce kształtują moje wybory.
Ponieważ zaś korporacje i rządy opracowują i nabywają nowe technologie służące kształtowaniu i manipulowaniu naszymi decyzjami, wiara w wolną wolę jest teraz nawet bardziej niebezpieczna, niż wcześniej.
Przy czym nie popieram oddania się w ręce algorytmów, by podejmowały za nas wszystkie decyzje. Rekomendowałbym natomiast obranie ścieżki gdzieś pośrodku: poznawanie siebie, zrozumienie, co naprawdę stoi za naszymi pragnieniami i wyborami. To jedyny sposób na uchronienie się przed staniem się marionetką ludzkiego dyktatora lub super inteligentnego komputera.
To rzecz jasna najstarsza z rad. Już w czasach starożytnych mędrcy i święci powtarzali ludziom, że powinni „poznać siebie”. Przy czym w czasach Sokratesa, Jezusa czy Buddy nie było na tym polu żadnej konkurencji i jeżeli zaniedbało się tę ścieżkę, pozostawało się nieodkrytą tajemnicą. Teraz jednak mamy inne czasy, konkurencja jest silna, i gdy czytasz ten wywiad, różne rządy i korporacje starają się cię zhakować. Jeżeli zaś poznają cię lepiej, niż ty sam, będą w stanie sprzedać ci wszystko, co tylko sobie wymyślą, czy będzie to kolejny produkt, czy polityk.
Wciąż, taka wizja Sztucznej Inteligencji jest jednak mniej przerażająca, niż to, co opisuje fantastyka naukowa.
Gdyby AI było tak złe, jak to rysują filmy science fiction, nikogo nie kusiłoby, by ją opracować.
Jeżeli jednak SF pokazujące AI walczące z ludźmi jest nierealne, to które wizje przyszłości z fantastyki naukowej wydają się prawdopodobne? Czytając fragmenty „21 lekcji…” poświęconej nieśmiertelności, przed oczami miałem „Modyfikowany węgiel” Richarda Morgana, gdzie światem rządzili nieśmiertelni, idealni miliarderzy.
Nie powinniśmy się obawiać ani buntu robotów, ani wojny ludzi z komputerami. Powinniśmy za to się bać podziału ludzkości – AI może pomóc wąskiej elicie posiąść ogromną władzę, z pomocą której reszta z nas zostanie zniewolona. Z drugiej strony, jeżeli sztuczna inteligencja będzie coraz lepsza w wyręczaniu nas z różnych zadań, może to wypchnąć miliardy ludzi z rynku pracy. W efekcie zasililiby oni szeregi „nieprzydatnej klasy”, nie posiadającej ani żadnej wartości ekonomicznej, ani siły politycznej. Jeszcze inny scenariusz jest taki, że elity mogą posiąść kontrolę nad wszystkimi robotami i komputerami i nawet wykorzystać bioinżynierię, by się ulepszać. W ten sposób otrzymalibyśmy społeczeństwo z największymi nierównościami w dziejach.
Kim mogliby być ci przyszli nieśmiertelni miliarderzy? Według Pana nie ci posiadający ziemię czy maszyny, ale informacje. Facebook mógłby w przyszłości być nową siłą polityczną?
Dawnej najbardziej wartościowym zasobem była ziemia, polityka była więc walką o kontrolę nad nią, a z dyktaturą mieliśmy do czynienia wtedy, gdy zbyt wiele ziemi posiadał albo pojedynczy władca, albo arystokracja. W ostatnich dwustu latach z kolei to maszyny i fabryki stały się cenniejsze, politycy zaczęli więc walczyć o ich posiadanie, a dyktatorami byli ci, którzy zagarniali je wszystkie dla siebie lub dla kilku oligarchów. Natomiast XX wiek będzie erą informacji, która wartością przyćmi ziemię i maszyny, polityka stanie więc grą o kontrolę nad przepływem danych. Jeżeli jakiś rząd lub kilka korporacji zyskają zbyt wielką nad tym kontrolę, będziemy mieli do czynienia z cyfrową dyktaturą.
Wzrok wielu osób skupia się w tym względzie na technologicznych gigantach pokroju Google czy Facebooka, jeżeli jednak przyjrzeć się bliżej poczynaniom Rosji i Chin, dojdzie się do wniosku, że to te rządy stanowią większe zagrożenie.
Zważywszy na to, że Facebook, Google czy Amazon przestały być już tylko sklepami, zwykłymi aplikacjami i stronami internetowymi, czy powinniśmy wymagać od nich wzięcia większej odpowiedzialności za przyszłość ludzkości?
W idealnym scenariuszu odpowiedzialność za przyszłość ludzkości bierzemy na siebie wszyscy, nie pozostawiając tego typu kwestii w rękach korporacji. Odpowiedzialność wymaga jednak specjalistycznej wiedzy na temat zmian klimatu, biologii czy komputerów, a wielu polityków i wyborców takowej brakuje.
Rzecz jasna nie mówimy tu o wiedzy na poziomie doktoratu, konieczne byłoby jednak zrozumienie dynamiki zmian klimatycznych czy potencjału sztucznej inteligencji. Ludzie powtarzający argumenty typu „To co, jeżeli temperatura na Ziemi wzrośnie o dwa stopnie, najwyżej będzie trochę cieplej” albo „Sztuczna inteligencja nigdy nie będzie w stanie dorównać ludzkiej intuicji”, nie nadają się do zarządzania światem, ponieważ nie rozumieją jego największych problemów.
Najbardziej optymistycznym rozdziałem „21 lekcji…” wydaje się być ten poświęcony… wojnie. Jeżeli dobrze Pana zrozumiałem, Polska nie powinna bać się wojny, ponieważ obecnie Rosji nie opłacałoby się nas atakować, z racji opisanych wcześniej zmian wartości najważniejszych zasobów na świecie.
Obecnie cieszymy się najspokojniejszym okresem w dziejach ludzkich wojen. Otyłość odpowiada za więcej ofiar, niż działania militarne, cukier jest więc bardziej niebezpieczny, niż proch strzelniczy. Co stoi za takim stanem rzeczy? Z jednej strony broń nuklearna radykalnie zwiększyła potencjalny koszt agresji, z drugiej wspomniana ewolucja ekonomiczna radykalnie zniwelowała potencjalne zyski z wojny. Niegdyś bogactwo mierzone było w rzeczach materialnych: polach pszenicy, kopalniach złota czy niewolnikach. Zachęcało to do działań zbrojnych, ponieważ relatywnie łatwo było w ich wyniku je zdobyć. Obecnie bogaty jest ten, kto kontroluje dane. Tych zaś nie da się podbić na drodze wojny – bo nie sposób na przykład ograbić Doliny Krzemowej, jako że nie ma w niej kopalni krzemu; jej bogactwo to wiedza inżynierów i techników.
W efekcie współcześnie wojny dotykają przede wszystkim te części świata – jak Bliski Wschód – gdzie wartość mają przede wszystkim staroświeckie dobra materialne, głównie pola roponośne.
Wiele możemy się nauczyć, porównując politykę zagraniczną Rosji i Chin. Państwo Środka w ostatnich dwóch dekadach nie prowadziło żadnych wojen. Rosja z kolei wygrała w Gruzji, na Ukrainie i w Syrii. Przyjrzyjmy się ich gospodarkom: pokojowe Chiny rozwijały się w olbrzymim tempie, tymczasem tryumfująca wojennie Rosja jest w stanie stagnacji, a jej budżet ratują wpływy ze sprzedaży ropy i gazu. Kiedy ostatnio kupił Pan coś z etykietką „made in Russia”?
Niestety nie oznacza to, że Polska nie ma się czego bać. Wojna z waszym krajem nie da nic Rosjanom, mogą jednak zyskać na niej Putin i rządzący Rosją oligarchowie. Ponieważ rosyjski reżim nie jest w stanie poprawić sytuacji bytowej swoich obywateli poprzez poprawienie poziomu opieki zdrowotnej czy ograniczenie korupcji w sądach, musi polegać na podżeganiu nacjonalistycznych sentymentów. Co może okazać się bardzo niebezpiecznym dla Polski.
Jednym z gwarantów bezpieczeństwa Polski jest przynależność do Unii Europejskiej. Wspólnota przechodzi teraz jednak kryzys. W „21 lekcjach…” porusza Pan ten temat i podaje sposób na integrację napływających do Europy imigrantów.
Trudno o innych kraj w Europie, który miałby tyle do stracenia na zerwaniu więzi z Unią co Polska. Nie chodzi tylko o niezwykle istotne wsparcie ekonomiczne, ale również o to, że bylibyście bardziej podatni na Rosyjską interwencję. Dlatego też zadziwia mnie postawa obecnego polskiego rządu, który pomaga w osłabianiu unii. To bardzo krótkowzroczna polityka.
Wrogowie Unii Europejskiej wykorzystują strach przed imigrantami jako broń w procesie jej niszczenia. Ale też demokratyczna Unia powinna móc wdrażać taką politykę, jakiej oczekują jej mieszkańcy. Tak więc najistotniejszym, co można powiedzieć w kwestii debaty o imigrantach w Europie jest to, że poglądy obu stron są zasadne. Ci popierający imigrację błędnie postrzegają swoich oponentów jako niemoralnych rasistów, podczas gdy ci przeciwni imigracji nie powinni widzieć w swoich rywalach irracjonalnych szaleńców. to nie jest kwestia walki dobra ze złem. To spór między dwoma wartościowymi stanowiskami, który może i powinien być rozstrzygnięty w demokratyczny sposób.
Błędem byłoby, gdyby jakikolwiek rząd forsował zgodę na przyjęcie imigrantów wbrew woli obywateli. Imigracja to proces długotrwały, a skuteczna integracja przybyszów wymaga poparcia i współpracy lokalnej ludności. Z drugiej strony złym byłoby zniszczenie systemu demokratycznego w imię rzekomej ochrony kraju przed imigrantami. Dlatego alarmującym jest zachowanie niektórych autokratycznych przywódców państw europejskich, którzy podsycają lęki przed imigrantami w celu podkopywania fundamentów demokracji.
Przechodząc od skali makro do mikro: wiele miejsca w swoich książkach poświęca pan zagadnieniu przyszłości rynku pracy i konieczności adaptacji do zmian na nim. Ale czy można być na to gotowym? Czy możemy jakoś przygotować na to nasze dzieci?
Nikt nie wie, jak rynek pracy będzie wyglądać w roku 2050, stąd nikt nie wie, jakich umiejętności uczyć współczesną młodzież. Mało prawdopodobnym jest, że to, czego obecnie uczysz się w szkole będzie ci przydatne w wielu lat czterdziestu. Dlatego moja rada jest taka, by stawiać na rezyliencję i inteligencję emocjonalną.
Tradycyjnie życie dzieliło się na dwa etapy: naukę i pracę. Najpierw należało zbudować stabilną tożsamość oraz nabyć umiejętności potrzebne do radzenia sobie w świecie, aby następnie polegać na tych fundamentach, zarabiać na życie i współtworzyć społeczeństwo. W roku 2050 ten model odejdzie jednak w zapomnienie, a jedynym sposobem dla ludzi na pozostanie w grze będzie nieustanna nauka. Oraz umiejętność wymyślania siebie wciąż i wciąż na nowo.
Nie jesteśmy w stanie przewidzieć przyszłości. Czy jednak większość realistycznych alternatyw widzi Pan jako optymistyczne, czy raczej ludzkość nie wyciągnie nauki z Pana lekcji i albo popsujemy doszczętnie klimat, albo skończymy jako niewolnicy kasty nieśmiertelnych miliarderów?
Technologia nigdy nie jest deterministyczna. Co oznacza, że każda rewolucja na tym polu ma potencjał stworzenia wielu różnych społeczeństw. W XX wieku pociągi, elektryczność i radio umożliwiły powstanie dyktatur i faszystowskich reżimów, ale również liberalnych demokracji. W XXI wieku sztuczna inteligencja i bioinżynieria z pewnością zmienią świat, a efekty tych przemian mogą być bardzo odmienne. Jeżeli ktoś lęka się danego możliwego scenariusza, wciąż może spróbować przeciwdziałać jego realizacji.
Fot. https://www.ynharari.com/
Wywiad pierwotnie ukazał się w tygodniku „Polityka”.