Kavenna: Prawda jest głębsza niż matematyka

Żyjemy wewnątrz fikcji, która opiera się na założeniu, iż wszystkie nasze doświadczenia da się przetłumaczyć na ciąg cyfr – stwierdza Joanna Kavenna.

W opublikowanym na portalu IAI eseju „Truth is deeper than mathematics” (ang. Prawda jest głębsza niż matematyka) Joanna Kavenna – brytyjska pisarka i eseistka znana z krytycznego stosunku do technologii – podejmuje temat rosnącej dominacji danych w naszym obrazie świata.

Autorka ostrzega przed tym, co nazywa „cyberpitagoreizmem” – wiarą, iż rzeczywistość może być w całości ujęta w liczbach. „Matematyka jest potężnym narzędziem. Ale coraz częściej matematyka mylona jest z rzeczywistością” – czytamy.

WIĘŹ – łączymy w czasach chaosu

Więź.pl to pogłębiona publicystyka, oryginalne śledztwa dziennikarskie i nieoczywiste podcasty – wszystko za darmo! Tu znajdziesz lifestyle myślący, przestrzeń dialogu, personalistyczną wrażliwość i opcję na rzecz skrzywdzonych.

Czytam – WIĘŹ jestem. Czytam – więc wspieram

Kavenna zaczyna od pozornie banalnego przykładu aplikacji fitnessowej fabrycznie zainstalowanej na jej telefonie, którą nazywa MassivelyFit. Komunikaty, utrzymane w tonie cyfrowej uprzejmości, brzmią: „O, Mądra Istoto, twój dzisiejszy licznik kroków wynosi 210. Przebyty dystans: 0,15 km. Spalone kalorie: 3 z 220”. Mimo żartobliwego tonu aplikacja wprowadza sztywny system wartościowania. „10 000 kroków to dobrze, 5 000 to niezbyt dobrze, zero to źle”.

Problem pojawia się, gdy dane przestają być wsparciem, a stają się jedyną miarą rzeczywistości. Kavenna opisuje przykład osoby, która codziennie pływa o świcie, ale nie używa wodoodpornego urządzenia. Z punktu widzenia MassivelyFit pozostaje całkowicie bierna – co w skrajnych przypadkach może prowadzić do błędnych ocen sprawności fizycznej danej osoby, formułowanych przez ubezpieczycieli, pracodawców czy banki, które potencjalnie mogą mieć dostęp do tych danych. „Rzeczywistość jest ignorowana na rzecz algorytmicznej fikcji, którą uznaje się za obiektywny fakt”.

Problematyczność naszego zaufania danym i algorytmom autorka ilustruje dzięki dwóch paradoksów: pierwszy z nich to „mapa bez terytorium” – sytuacja, w której modele matematyczne zaczynają zastępować realne doświadczenie. Drugi to „słowo jako liczba”: przekształcanie nieuchwytnych ludzkich przeżyć w dane, które rzekomo mają charakter uniwersalny. Kavenna pisze: „Tysiące lub miliony tych utrwalonych odpowiedników nieokreślonych doświadczeń są destylowane do jednej wartości liczbowej. […] Ale czy moja dwugwiazdkowa książka oznacza to samo co twoja?”.

Autorka podkreśla, iż nie kwestionuje znaczenia matematyki – przeciwnie, w sprawach technicznych jest ona niezbędna: „Jeśli mam wejść na pokład samolotu, a z kokpitu wychodzi powieściopisarz i zapewnia, iż poprowadzi lot siłą wyobraźni, to czym prędzej zmieniam plany podróży”. Ale matematyka, używana do oceny jakości życia, prowadzi do zniekształceń. Jak zauważa Kavenna, „wszystko, czego nie da się uchwycić, uznaje się za bez znaczenia albo nierealne”.

W tekście pojawia się również opis działania dużych modeli językowych – takich jak ChatGPT – które opierają się na przewidywaniu kolejnych słów, nie mając świadomości treści. „Nie «myślą» w taki sposób, w jaki my «myślimy» w i przez język”. Kavenna przywołuje sytuację, gdy zapytała ChatGPT o nieistniejący wiersz Sylvii Plath. Model przedstawił jego fałszywe streszczenie, a potem wycofał się z tej wersji, twierdząc, iż była to „fabrykacja stworzona w dobrych intencjach”.

Autorka podsumowuje: „Model nie może «mieć zamiaru» wobec czegokolwiek, ani fabrykować czegokolwiek z dobrą lub złą intencją – bo nie ma intencji”.

W zakończeniu Kavenna przechodzi do języka. Pisze: „Słowa zmieniają znaczenie w czasie, a choćby w trakcie jednej rozmowy. Słowa łamią się, pękają pod ciężarem precyzji, nie chcą zostać na miejscu”. Próba ich ujęcia w sztywne ramy matematyczne prowadzi do „chaosu, w którym algorytmiczne niebo‑na‑ziemi zamienia prawdziwe życie w fikcje wewnątrz kolejnej fikcji, która udaje rzeczywistość”.

Tekst kończy sugestywny obraz pływaka, który każdego dnia zanurza się w wodzie – tej rzeczywistej, znajdującej się poza zasięgiem mapującego ją algorytmu. „Tymczasem aplikacja nawołuje z brzegu: «Pracujmy razem nad tym, by znów się poruszyć. Ruszajmy…». Ale pływak już odpłynął”.

Przeczytaj również: AI i zakochanie? To może się skończyć tragedią