Na samym początku ostrzegę – to nie jest książka dla każdego. Trzeba mieć sporą odporność psychiczną, aby ją przeczytać. Podziwiam Autorkę, bo wykonała tytaniczną pracę. Przede wszystkim przeanalizowała tysiące dokumentów, z których wiele było bardzo trudno zdobyć. Przeprowadziła setki rozmów z ludźmi o olbrzymiej wiedzy. Nie były to rozmowy łatwe, ponieważ cały czas trzeba było mieć na uwadze tajemnicę państwową, której naruszenie mogłoby obie strony narazić na odpowiedzialność karną. Jacobsen ma jednak duże doświadczenie, w 2011 r. wydała obszerną, bardzo szeroko komentowaną książkę o tajnej bazie wojsk USA, a mianowicie o tzw. Area 51. Ale wróćmy do „Wojny nuklearnej”. Zastrzegam – nie jest to powieść (post)apokaliptyczna, nie jest to też formalnie książka dokument. Można ją uznać za dokument fabularyzowany – opis tego, jak może wyglądać konflikt nuklearny rozpoczęty (w tym przypadku) atakiem nieobliczalnej Korei Północnej na kontynent amerykański. Autorka drobiazgowo opisuje start, przelot i trafienie w Waszyngton dużego (1 MT) ładunku jądrowego, przy czym rozkłada całość dosłownie na sekundy. Pokazuje w ten sposób, ile czasu na decyzje będzie miał prezydent USA i jakie czynności będzie trzeba wykonać. W wielu szczegółach są to działania hipotetyczne, ponieważ instrukcje dotyczące tych działań są ściśle tajne. Prezydent USA też ich nie zna, aż do momentu, w którym wizja nuklearnego piekła będzie musiała się ziścić. Wtedy będzie musiał podjąć decyzje ważące na losach całego świata. Co do jednego analitycy są pewni – tej wojny nikt nie wygra. Ziemia na tysiące lat zostanie praktycznie pustynią. Jeśli jacyś ludzie przetrwają pierwsze kilka dni, ich życie zmieni się w koszmar, bez żadnej nadziei na to, że coś się zmieni na lepsze. Podobnie, jak to było w znakomitej książce (oraz filmie, ale tym z 1959, nie remake’u) Nevile’a Shute’a „Ostatni brzeg”, półkula północna wymiera pierwsza, ale wyrok na południową też już zapadł, choć jest odroczony o kilka miesięcy. Przy okazji – zauważyliście, że cała broń atomowa jest właśnie na północy? Żadne państwo południa jej nie posiada, co oczywiście nie broni go przed dramatem. Muszę przyznać, że książka jest w jakimś sensie skonstruowana jak dramat Hitchcocka, i to dosłownie. Zaczyna się od drobiazgowego opisu wybuchu bomby jądrowej w Waszyngtonie, a potem napięcie tylko rośnie. Ostatnim akordem opisywanej wojny, jest coś, co często jest pomijane w opisach możliwej wojny jądrowej, a mianowicie EMP, czyli impuls elektromagnetyczny. Jest on emitowany przez bombę jądrową zdetonowaną na dużej wysokości. Nie wysyła on specjalnego promieniowania typowo jądrowego, ale fale elektromagnetyczne o szerokim spektrum. Efekt jest dobijający – następuje „usmażenie” praktycznie wszystkich sieci elektroenergetycznych, transformatorów oraz elektroniki – od sterowania pojazdów i wszelkich urządzeń medycznych przez urządzenia AGD po wszelkie nadajniki i odbiorniki radiowe, włączając w to oczywiście sieć komórkową oraz Internet. Koniec, reset, the end, nie ma już żadnej łączności, nie ma zasilania czegokolwiek. Nastąpił armagedon. Wracamy do średniowiecza. Co by się działo dalej, można się tylko domyślać. Na ile taki scenariusz jest prawdopodobny? Tego w książce nie przeczytamy, bo nikt rozsądny na takie pytanie nie odpowie. W książce kilkakrotnie cytowany jest Chruszczow, który w trakcie zimnej wojny mawiał: „Ci, którzy przeżyją, będą zazdrościć zmarłym”. Coś w tym faktycznie jest. Tak sobie pomyślałem, że mieszkam w odległości zaledwie 3 km od dowództwa V Korpusu Armii USA oraz 7 km od 31. Bazy Lotnictwa Taktycznego w Poznaniu-Krzesinach. Prawdopodobnie nie będę musiał nikomu zazdrościć.
Czy bycie futurologiem to trudne zajęcie? Wydawałoby się, że nie, przecież i tak wiadomo, że wszelkie przepowiednie są funta kłaków warte, więc można pisać z sufitu wszelkie banialuki, byle się tylko z lekka kupy trzymały, a ciemny lud i tak to kupi. Są jednak futorolodzy, którzy swoją pracę traktują poważnie. Ba, mają odwagę, żeby swoje przepowiednie sprzed lat zrewidować, skrytykować, rozliczyć. Taki jest Stanisław Lem. Bo, wbrew pozorom, pisanie powieści science fiction to nie jest to, co Lem lubił najbardziej. Był filozofem, futurologiem, myślicielem, a dopiero gdzieś pod koniec – powieściopisarzem.
„Okamgnienie” to próba milenijnego podsumowania stanu nauki w oparciu o rzetelną i możliwie aktualną wiedzę (rok 2000). Wiedzę obudowaną i rozszerzoną o filozofię nauki. Bo Lem był przede wszystkim filozofem nauki. Potrafił zauważyć perspektywy (albo ich brak) dotyczące wynalazku lub odkrycia i miał dar trafnego przewidywania dalszego ciągu. Myślę, tak na marginesie, że potrafiłby sensownie dokończyć „Przygody dobrego wojaka Szwejka”.
Do rzeczy
O czym jest książka? Po pierwsze często odwołuje się (i rozlicza się z tego, co tam napisał) do „Sumy technologicznej” (Summa technologiae) z 1964 roku. To monumentalne dzieło, napisane „lemowskim” językiem, pełnym neologizmów, było pierwszym, obszerniejszym podsumowaniem nauki i jej perspektyw z punktu widzenia początku lat 60. XX wieku. Lemowi, pozbawionemu dostępu do aktualnej literatury światowej, periodyków naukowych i kontaktów osobistych z globalnym naukowym światem, zupełnie to nie przeszkadzało (choć uwierało, wiadomo). Teraz (2000), po prawie 40 latach Lem podejmuje ten sam temat, ale już z perspektywy nowego tysiąclecia i swoich 80 lat.
„Okamgnienie” jest podsumowaniem i wizją tych dziedzin nauki i związanej z nimi technologii, którymi interesował się zawsze: astronautyki, robotyki, informatyki, sztucznej inteligencji, cywilizacji pozaziemskich, fizyki, nieśmiertelności, inteligencji (ludzkiej), ewolucjonizmu. W każdej z nich okazuje się zdumiewająco dobrze zorientowany i to nie tylko faktograficznie, ale też kontekstowo i filozoficznie. W każdym poruszanym temacie widzi perspektywy i zagrożenia, a także wprowadza swoje własne, oryginalne przemyślenia. Podobnie jak w „Summie” widać, że czuje ciasnotę terminologiczną i kiedy tylko może posługuje się swoimi słynnymi neologizmami. Rzadko są one zwykłą sztuką dla sztuki, udziwnieniami, przeważnie dokładniej precyzują myśl autora niż terminy obiegowe. Tak czy owak książki nie czyta się tak płynnie jak powieść, często trzeba się zastanowić “co autor miał na myśli” i na koniec głośno krzyknąć „Aha!”.
Książka sama w sobie jest bardzo zwięzła, więc bez sensu jest ją streszczać temat po temacie. Trzeba ją przeczytać, a mimo, że jest niewielkiego tonażu radziłbym przeznaczyć na nią kilka wieczorów.
Futurologia
Lem nigdy nie był optymistą, no może poza latami 50., kiedy pisał „Astronautów”. Już w „Powrocie z gwiazd”, klasycznej powieści science fiction, wyczuwa się gorycz niespełnienia i zawiedzione nadzieje. Takie podejście do przyszłości widać w „Okamgnieniu” jeszcze wyraźniej. Ostatni rozdział jest praktycznie potępieniem w czambuł poważnych (teoretycznie) periodyków światowych publikujących swoje przewidywania bliższej i dalszej przyszłości. Gorzki język, ironia i złośliwość biją z każdego lemowego zdania. O sztucznej inteligencji pisze „[..]zyskawszy wiedzę o tejże inteligencji sztucznej, stosowanej do suszenia jarzyn, a w szczególności cebuli, doszedłem do niezbitego przeświadczenia, że z rozszerzającego się – również kognitywistycznie – informacyjnego potopu nie ma ucieczki.”
O podróżach na Marsa pisze tak: „Urządzono wielką aukcję, na której ten, kto da więcej, zostanie wyłącznym i szczęśliwym posiadaczem marsjańskiego modułu, który przepadł i zatracił się niedaleko bieguna owej planety, przy podanym jednocześnie małymi literkami zastrzeżeniu, że ów moduł będzie wprawdzie jego własnością, ale niełatwo osiągalną, ponieważ świeżo upieczony właściciel musi się pofatygować po to urządzenie na Marsa.”
O rozwoju medycyny: „Nowotwory, których nieodwracalne wytrzebienie pisma fachowe i niefachowe ogłaszały już kilkanaście tysięcy razy, będą się, niestety, nadal miały doskonale.”
Nawet awaria teleskopu Hubble’a, szczytu techniki przełomu tysiącleci, nie zdążyła się przed lemową krytyką ustrzec.
Jednak nawet tu, w potoku kasandrycznych wizji, widać jego geniusz predykcyjny. Pisze o wysypie gadżetów elektronicznych, o telewizji przyszłości “Telewizję rychło będą wyświetlać tapety”, o wszechobecności i natarczywości reklam.
Przyszłość świata według Lema nie będzie wygodna, kolorowa i beztroska, w odróżnieniu od świata innego futurysty, którego książkę właśnie czytam, Raya Kurzweila „Nadchodzi osobliwość”. Wszakże audiatur et altera pars.
Z czego jest zbudowany Wszechświat? Wiadomo: z przestrzeni, materii i energii. Z czego jeszcze? Ano właśnie, z informacji. Harari wziął na warsztat cywilizację ludzką z punktu widzenia informacji jako przyczyny i skutku naszego rozwoju cywilizacyjnego. I oto, co powstało.
Naiwnie uważa się, że posiadanie informacji prowadzi do prawdy, a prawda to mądrość, sprawczość i władza. To tylko jedna ze ścieżek, wyidealizowana i niewiele mająca wspólnego z rzeczywistością. Gromadzenie coraz większych zasobów informacji wcale nie prowadzi w naturalny sposób do prawdy. Nie następuje cudowna przemiana jakościowa. Zapominamy, że informacja nieprawdziwa lub niekompletna to też informacja, a jej analiza może prowadzić do fałszywych wniosków. Optymistycznie przyjmujemy za oczywiste, że im więcej informacji posiadamy tym jesteśmy mądrzejsi. Nieprawda, posiadamy tylko więcej informacji, którą trzeba przetworzyć, przeanalizować i wyciągnąć właściwe wnioski. Trochę to przypomina manię zbieractwa. Oczywiście autor nie jest czarnowidzem, docenia rolę informacji w zdobywaniu wiedzy i mądrości oraz wykorzystaniu jej do poprawy jakości życia. Zauważa jednak zagrożenia związane ze społeczeństwem informacyjnym, cywilizacją postindustrialną. Szczególnie niepokoi się pogłębiającym się rozziewem między możliwościami technicznymi, którymi dysponujemy, a świadomością zagrożeń. Podobnie jak szybko rosnący źrebak nie zdaje sprawy ze swoich ciągle powiększających się rozmiarów; musi się parę razy przewrócić i nabić parę guzów zanim oswoi się z nowymi możliwościami.
Zadanie, które postawił przed sobą Harari jest zaiste herkulesowe. Jako pierwsza na warsztat idzie definicja informacji. No bo jakże tak, rozważać nieokreślone? Zawęża więc pojęcie informacji do takiej, która odegrała (albo może odegrać) jakąś rolę w historii. Odważny krok, ale niezbędny, żeby książka miała jakikolwiek sens i nie stała się pseudofilozoficznym bełkotem. Następnym krokiem jest uświadomienie nam, że informacja (w sensie powyższym) niekoniecznie musi być utożsamiana z prawdą. Zresztą, definicja prawdy jest jeszcze trudniejsza niż definicja informacji. Na potrzeby książki prawda jest czymś, co wiernie przedstawia rzeczywistość. No dobrze, ale co to takiego rzeczywistość? Musi być jedna, w dodatku uniwersalna. Załóżmy, że jest i idźmy (to znaczy: czytajmy) dalej.
W kolejnych rozdziałach autor stara się przypatrzyć informacji z różnych, czasem nieoczywistych, punktów widzenia, na przykład jako spoiwa społecznego, co tłumaczy znaczącą rolę astrologii i religii w naszym życiu. Wprowadza też, obok rzeczywistości subiektywnej, jak ból, przyjemność czy miłość, pojęcie rzeczywistości intersubiektywnej, której przejawem jest na przykład państwo, naród, marka, bitcoin. Jest to rzeczywistość subiektywna, ale istniejąca w wielu umysłach. Pojęcie to pojawia się w książce wielokrotnie, gdyż to właśnie ona jest motorem naszego cywilizacyjnego rozwoju.
Uważam za fascynujące, opisane w następnych rozdziałach, „opowieści biblijne”, gdzie autor, pozbawiony wszelkiego sentymentu do religii, obnaża mechanizmy socjologiczne i psychologiczne prowadzące do powstania potęgi religii (przez małe ‘er’, liczba mnoga) i ideologii, które są jedną z głównych motywacji decyzji rządzących światem.
Ale ten, kto uważa, że to koniec opowieści o informacji, jest w błędzie. Kolejnym ważnym tematem książki jest odwieczny dylemat: prawda czy porządek? Co jest lepsze, co bardziej sprawiedliwe, co jest skuteczniejsze? Odważna teza Autora, że nie należy utożsamiać demokracji z wyborami a prawdziwa, czysta demokracja jest niemożliwa, jest jedynie interludium do najważniejszego moim zdaniem tematu książki, czyli sztucznej inteligencji.
Problem ze sztuczną inteligencją
Trwa publiczna dyskusja nad zagrożeniami, jakie niesie szybki rozwój technologii informacyjnej zwanej „sztuczną inteligencją”. Temat jak najbardziej pasujący do tej książki. Nie będę omawiał wszystkich aspektów poruszanych przez Autora, celem tej recenzji jest między innymi zachęcenie do jej przeczytania. Skupię się na jednym aspekcie, tworzeniu informacji. Nie przetwarzaniu czy powielaniu, o tworzeniu. Dotychczas naturalnym pośrednikiem w sieci informacyjnej był człowiek. Ktoś coś komuś powiedział, ten opowiedział (z autorskimi zmianami i ubarwieniami) grupie słuchaczy, ci zaś rozpowszechnili informację dalej, w formie mówionej, pisanej albo drukowanej. Na tej zasadzie powstały opowieści plemienne, mity, religie. Zawsze jednak czynnikiem sprawczym był człowiek. Nawet klasyczne komputery nie miały zdolności twórczej, co jednak nie wykluczało coraz powszechniejszej komunikacji komputer-komputer. Jesteśmy coraz częściej zmuszani poddawać się decyzjom formułowanym i podejmowanym przez komputery, bez udziału czy nawet akceptacji człowieka. W niektórych obszarach działalności tylko komputery podejmują decyzje i są jedynymi aktorami tych teatrów, na przykład na giełdach finansowych opartych na coraz bardziej złożonych instrumentach finansowych. Jesteśmy jednak wciąż przekonani, że sytuacja jest pod naszą kontrolą. Mimo, że rośnie zdolność komputerów do coraz bardziej abstrakcyjnego myślenia i rozumienia coraz ogólniej sformułowanych zadań, jesteśmy pewni swego. Nawet kiedy widzimy wtórne, niezamierzone efekty naszego działania udajemy, że nic się nie stało. Historia mająca źródło w postach użytkownika „Q” na forum 4chan głoszących niestworzone historie spiskowe które, jako clickbajtowe, były szeroko propagowane przez algorytmy mediów społecznościowych, doprowadziły do powstania quasi-religijnego ruchu QAnon i całkiem realnych wydarzeń na Kapitolu.
Problem (albo jeden z problemów) polega na możliwości wydawania komputerowi coraz bardziej abstrakcyjnych, czyli de facto nieprecyzyjnych, poleceń bez wcześniejszego przemyślenia wszystkich konsekwencji, z właściwym zrozumieniem polecenia włącznie. Komputer (AI) nie dysponuje „ludzkim” kontekstem wydawanych poleceń. Wartościowanie kryteriów także może być inne dla człowieka, a inne dla AI. Dotyczy to też niejednoznacznych decyzji, wyborów, których trzeba dokonać. Znanym przykładem jest wciąż nieidealne radzenie samochodów autonomicznych w nagłej sytuacji kolizyjnej, gdzie nie można uniknąć ofiar, a problemem jest minimalizacja skutków. Albo decyzja o wyborze metody leczenia, gdzie wyborów może być wiele, mniej lub bardziej szkodliwymi substancjami, których działanie terapeutyczne też jest różne.
Problemem jest także kwestia odpowiedzialności (i kary) za decyzje podejmowane przez sztuczną inteligencję.
Na koniec chciałbym zwrócić uwagę na tak zwaną „autonomiczność wyboru”, którą tak szczyci się demokracja. Człowiek jest istotą ułomną, chwiejną i niezdecydowaną. Nie ma wyrobionego poglądu na każdy temat, zdaje się więc na opinie zewnętrzne. Od zarania demokracji istnieje agitacja wyborcza, a umiejętnie wykorzystywane możliwości techniczne pozwalają zmieniać poglądy wyborców i ich wybory. Faszyści wszak zdobyli władzę w sposób demokratyczny, bez łamania zasad wyborczych. Jednak współczesne możliwości mediów społecznościowych zwiększają możliwości manipulacji o rząd wielkości. Już tego doświadczamy.
O wielu aspektach informacji wykorzystywanej przez AI nie wspomniałem. Chociażby o zagrożeniu całkowitą utratą prywatności, totalnej inwigilacji i rzeczywistości interkomputerowej (niezrozumiałej dla nas i kierującej się nieznanym nam systemem wartości).
Książka po nieco, moim zdaniem, zbyt ogólnikowym wstępie wciąga i skłania do myślenia. Jeśli uważasz siebie za osobę niezależnie myślącą, musisz ją przeczytać. Warto.
Ryc. 1. Tak wygląda AI zdaniem AI. Zastosowałem prompt: „Narysuj siebie. Jak wyglądasz?”. Źródło: ChatGPT-4.
