Z czego jest zbudowany Wszechświat? Wiadomo: z przestrzeni, materii i energii. Z czego jeszcze? Ano właśnie, z informacji. Harari wziął na warsztat cywilizację ludzką z punktu widzenia informacji jako przyczyny i skutku naszego rozwoju cywilizacyjnego. I oto, co powstało. 

Naiwnie uważa się, że posiadanie informacji prowadzi do prawdy, a prawda to mądrość, sprawczość i władza. To tylko jedna ze ścieżek, wyidealizowana i niewiele mająca wspólnego z rzeczywistością. Gromadzenie coraz większych zasobów informacji wcale nie prowadzi w naturalny sposób do prawdy. Nie następuje cudowna przemiana jakościowa. Zapominamy, że informacja nieprawdziwa lub niekompletna to też informacja, a jej analiza może prowadzić do fałszywych wniosków. Optymistycznie przyjmujemy za oczywiste, że im więcej informacji posiadamy tym jesteśmy mądrzejsi. Nieprawda, posiadamy tylko więcej informacji, którą trzeba przetworzyć, przeanalizować i wyciągnąć właściwe wnioski. Trochę to przypomina manię zbieractwa. Oczywiście autor nie jest czarnowidzem, docenia rolę informacji w zdobywaniu wiedzy i mądrości oraz wykorzystaniu jej do poprawy jakości życia. Zauważa jednak zagrożenia związane ze społeczeństwem informacyjnym, cywilizacją postindustrialną. Szczególnie niepokoi się pogłębiającym się rozziewem między możliwościami technicznymi, którymi dysponujemy, a świadomością zagrożeń. Podobnie jak szybko rosnący źrebak nie zdaje sprawy ze swoich ciągle powiększających się rozmiarów; musi się parę razy przewrócić i nabić parę guzów zanim oswoi się z nowymi możliwościami. 

Zadanie, które postawił przed sobą Harari jest zaiste herkulesowe. Jako pierwsza na warsztat idzie definicja informacji. No bo jakże tak, rozważać nieokreślone? Zawęża więc pojęcie informacji do takiej, która odegrała (albo może odegrać) jakąś rolę w historii. Odważny krok, ale niezbędny, żeby książka miała jakikolwiek sens i nie stała się pseudofilozoficznym bełkotem. Następnym krokiem jest uświadomienie nam, że informacja (w sensie powyższym) niekoniecznie musi być utożsamiana z prawdą. Zresztą, definicja prawdy jest jeszcze trudniejsza niż definicja informacji. Na potrzeby książki prawda jest czymś, co wiernie przedstawia rzeczywistość. No dobrze, ale co to takiego rzeczywistość? Musi być jedna, w dodatku uniwersalna. Załóżmy, że jest i idźmy (to znaczy: czytajmy) dalej.

W kolejnych rozdziałach autor stara się przypatrzyć informacji z różnych, czasem nieoczywistych, punktów widzenia, na przykład jako spoiwa społecznego, co tłumaczy znaczącą rolę astrologii i religii w naszym życiu. Wprowadza też, obok rzeczywistości subiektywnej, jak ból, przyjemność czy miłość, pojęcie rzeczywistości intersubiektywnej, której przejawem jest na przykład państwo, naród, marka, bitcoin. Jest to rzeczywistość subiektywna, ale istniejąca w wielu umysłach. Pojęcie to pojawia się w książce wielokrotnie, gdyż to właśnie ona jest motorem naszego cywilizacyjnego rozwoju. 

Uważam za fascynujące, opisane w następnych rozdziałach, „opowieści biblijne”, gdzie autor, pozbawiony wszelkiego sentymentu do religii, obnaża mechanizmy socjologiczne i psychologiczne prowadzące do powstania potęgi religii (przez małe ‘er’, liczba mnoga) i ideologii, które są jedną z głównych motywacji decyzji rządzących światem. 

Ale ten, kto uważa, że to koniec opowieści o informacji, jest w błędzie. Kolejnym ważnym tematem książki jest odwieczny dylemat: prawda czy porządek? Co jest lepsze, co bardziej sprawiedliwe, co jest skuteczniejsze? Odważna teza Autora, że nie należy utożsamiać demokracji z wyborami a prawdziwa, czysta demokracja jest niemożliwa, jest jedynie interludium do najważniejszego moim zdaniem tematu książki, czyli sztucznej inteligencji.

Problem ze sztuczną inteligencją

Trwa publiczna dyskusja nad zagrożeniami, jakie niesie szybki rozwój technologii informacyjnej zwanej „sztuczną inteligencją”. Temat jak najbardziej pasujący do tej książki. Nie będę omawiał wszystkich aspektów poruszanych przez Autora, celem tej recenzji jest między innymi zachęcenie do jej przeczytania. Skupię się na jednym aspekcie, tworzeniu informacji. Nie przetwarzaniu czy powielaniu, o tworzeniu. Dotychczas naturalnym pośrednikiem w sieci informacyjnej był człowiek. Ktoś coś komuś powiedział, ten opowiedział (z autorskimi zmianami i ubarwieniami) grupie słuchaczy, ci zaś rozpowszechnili informację dalej, w formie mówionej, pisanej albo drukowanej. Na tej zasadzie powstały opowieści plemienne, mity, religie. Zawsze jednak czynnikiem sprawczym był człowiek. Nawet klasyczne komputery nie miały zdolności twórczej, co jednak nie wykluczało coraz powszechniejszej komunikacji komputer-komputer. Jesteśmy coraz częściej zmuszani poddawać się decyzjom formułowanym i podejmowanym przez komputery, bez udziału czy nawet akceptacji człowieka. W niektórych obszarach działalności tylko komputery podejmują decyzje i są jedynymi aktorami tych teatrów, na przykład na giełdach finansowych opartych na coraz bardziej złożonych instrumentach finansowych. Jesteśmy jednak wciąż przekonani, że sytuacja jest pod naszą kontrolą. Mimo, że rośnie zdolność komputerów do coraz bardziej abstrakcyjnego myślenia i rozumienia coraz ogólniej sformułowanych zadań, jesteśmy pewni swego. Nawet kiedy widzimy wtórne, niezamierzone efekty naszego działania udajemy, że nic się nie stało. Historia mająca źródło w postach użytkownika „Q” na forum 4chan głoszących niestworzone historie spiskowe które, jako clickbajtowe, były szeroko propagowane przez algorytmy mediów społecznościowych, doprowadziły do powstania quasi-religijnego ruchu QAnon i całkiem realnych wydarzeń na Kapitolu. 

Problem (albo jeden z problemów) polega na możliwości wydawania komputerowi coraz bardziej abstrakcyjnych, czyli de facto nieprecyzyjnych, poleceń bez wcześniejszego przemyślenia wszystkich konsekwencji, z właściwym zrozumieniem polecenia włącznie. Komputer (AI) nie dysponuje „ludzkim” kontekstem wydawanych poleceń. Wartościowanie kryteriów także może być inne dla człowieka, a inne dla AI. Dotyczy to też niejednoznacznych decyzji, wyborów, których trzeba dokonać. Znanym przykładem jest wciąż nieidealne radzenie samochodów autonomicznych w nagłej sytuacji kolizyjnej, gdzie nie można uniknąć ofiar, a problemem jest minimalizacja skutków. Albo decyzja o wyborze metody leczenia, gdzie wyborów może być wiele, mniej lub bardziej szkodliwymi substancjami, których działanie terapeutyczne też jest różne.

Problemem jest także kwestia odpowiedzialności (i kary) za decyzje podejmowane przez sztuczną inteligencję.

Na koniec chciałbym zwrócić uwagę na tak zwaną „autonomiczność wyboru”, którą tak szczyci się demokracja. Człowiek jest istotą ułomną, chwiejną i niezdecydowaną. Nie ma wyrobionego poglądu na każdy temat, zdaje się więc na opinie zewnętrzne. Od zarania demokracji istnieje agitacja wyborcza, a umiejętnie wykorzystywane możliwości techniczne pozwalają zmieniać poglądy wyborców i ich wybory. Faszyści wszak zdobyli władzę w sposób demokratyczny, bez łamania zasad wyborczych. Jednak współczesne możliwości mediów społecznościowych zwiększają możliwości manipulacji o rząd wielkości. Już tego doświadczamy.

O wielu aspektach informacji wykorzystywanej przez AI nie wspomniałem. Chociażby o zagrożeniu całkowitą utratą prywatności, totalnej inwigilacji i rzeczywistości interkomputerowej (niezrozumiałej dla nas i kierującej się nieznanym nam systemem wartości). 

Książka po nieco, moim zdaniem, zbyt ogólnikowym wstępie wciąga i skłania do myślenia. Jeśli uważasz siebie za osobę niezależnie myślącą, musisz ją przeczytać. Warto. 

^{Ryc. 1. Tak wygląda AI zdaniem AI. Zastosowałem prompt: „Narysuj siebie. Jak wyglądasz?”. Źródło: ChatGPT-4.}