Podejrzewam, że gdyby Eliza powstała trochę później, byłaby już inną grą. Ukazała się jednak w roku 2019, na trzy lata przed wprowadzeniem bezpłatnego dostępu do Chata GPT. Bliskie spotkanie z tym, co się potocznie nazywa sztuczną inteligencją, okazało się dla ludzkości testem, którego wyniki bywają zaskakujące.
Tytuł gry jest ukłonem w stronę eksperymentu sprzed ponad 60 lat, kiedy naukowcy z MIT skonstruowali czatbota o takim imieniu. Ściślej mówiąc, napisali niezbyt skomplikowany, ale na tyle zmyślny skrypt, że ich Eliza przekonująco udawała psychoterapeutę, choć w zamierzeniu miała podobno go parodiować.
Natomiast akcja gry toczy się współcześnie, gdy to samo imię nosi zaawansowany program wykorzystywany w doradztwie psychologicznym. Jedna z tworzących go programistek, Evelyn, wraca po trzech latach przerwy do pracy. Wtedy koledzy prowadzą ją do gigantycznej serwerowni, by zobaczyła, jak bardzo rozwinęło się „jej dziecko”.
Opowiedz mi o tym
Kiedyś Evelyn należała do zespołu pełnych pasji programistów o motywacjach altruistycznych. Pragnęli pomóc ludziom z problemami psychicznymi, skoro państwo tego nie robi, a komercyjna terapia jest droga. Stwórzmy program, który ich przynajmniej wysłucha – postanowili – niech mają się przed kim wygadać. Jednak firma Skandha, dla której pracowali, miała inne priorytety. W efekcie wypalona zawodowo Evelyn na kilka lat odcięła się od świata, a jej koleżanka odeszła z pracy. Losu ich przyjaciela możemy się tylko domyślać.
Przygląda się teraz, jak działa jej dawny projekt w praktyce. Z pozoru sesja terapeutyczna wygląda normalnie, czyli przypomina rozmowę dwojga ludzi. W rzeczywistości prowadzona jest przez AI, bo to Eliza monitoruje parametry życiowe pacjenta, formułuje pytania i odpowiedzi, poleca leki lub inne formy terapii. W świecie materialnym reprezentuje ją ludzki awatar, czyli pracownik firmy Skandha. Wyposażony/a jest w specjalne okulary z prompterem, z których ma odczytywać wyświetlany tekst. Tylko dokładnie i bez żadnych modyfikacji!
Skąd taki pomysł? Szef projektu uznał, że ludzie nie otworzą się przed komputerem, a w rozmowie z człowiekiem będą bardziej skłonni do zwierzeń. Dzięki doświadczeniom z ostatnich lat wiemy już, jak bardzo się mylił. Tysiące ludzi „przyjaźni się” z Chatem GPT i traktuje go jak powiernika, któremu zdradzają swoje sekrety. Nieważne, że czaty się zapisują, a jak wiadomo, „wszystko, co powiesz, może być kiedyś wykorzystane przeciwko tobie”. Jakaż to piękna ilustracja tzw. efektu Elizy, czyli naszej skłonności do przypisywania algorytmom cech ludzkich. Już 60 lat temu autor pierwszej ELizy był przerażony, jak łatwo ludzie ulegają iluzji, że komputer naprawdę z nimi rozmawia.
Ofiara własnego lenistwa
Nawet jeśli twórcy z Zachtronics nie przewidzieli takiego obrotu spraw, nie znaczy to wcale, że gra Eliza stała się anachroniczna. Wręcz przeciwnie. Sesję terapeutyczną w tak dziwacznej formie odczytuję jako metaforę przedstawiającą koszmar przyszłości. Ludzie siedzą naprzeciwko siebie, ale świadomie i dobrowolnie porozumiewają się za pomocą sztucznej inteligencji. Człowiek sprowadzony jest do roli czytacza tekstu generowanego przez AI. Gdy jeden z pacjentów błaga, by człowiek powiedział coś od siebie, ten czyta podpowiedź bota. Jako pośrednik (proxy) musi wykonywać instrukcje, taką ma pracę. W tej scenie widać uprzedmiotowienie i upokorzenie człowieka, i to na własną prośbę.
To jedno z dwóch głównych niebezpieczeństw związanych ze sztuczną inteligencją. Obydwa wynikają wyłącznie ze słabości człowieka: jako użytkownika AI albo jej twórcy. Użytkowników gubi lenistwo, naiwność i krótkowzroczność. Nie mam tylko na myśli uczniów i studentów stosujących metodę „kopiuj-wklej” zamiast używać własnego mózgu. Dotyczy to wszelkich entuzjastów, którzy bezrefleksyjnie zlecają zadania botom i agentom, uzależniając się od nich. A twórcy? Wystarczy śledzić wydarzenia w branży oraz postępowanie jej gwiazd, by nabrać wątpliwości co do intencji i celów.
Quo vadis AI
W to właśnie środowisko wprowadza nas gra Eliza, stamtąd też wywodzą się jej autorzy, między innymi Matthew Seiji Burns, który napisał scenariusz. Główna bohaterka była dawniej entuzjastyczną idealistką, a po okresie wypalenia zawodowego wraca jako refleksyjna sceptyczka. Gdy spotyka młodszych, podobnych do dawnej siebie zapaleńców, wciąż niepozbawionych skrupułów i wątpliwości, już wie, jakie dylematy i kompromisy wkrótce ich czekają.
Ode mnie zależy wybór jej kwestii dialogowych, co niekiedy ma wpływ na przebieg wydarzeń. Po przejściu całości można to sprawdzić, bo wygodny interfejs pozwala powtórzyć poszczególne rozdziały i sceny. Najwyraźniej widać naszą sprawczość w finale, gdy Evelyn decyduje o swych dalszych losach, wybierając jedną z pięciu ścieżek życiowych. Wśród dostępnych opcji jest także współpraca z silnymi indywidualnościami o mocnej pozycji w branży. Jednych opanowały obsesje (jak osobliwość technologiczna), inni kierują się egoistycznym dążeniem do spełnienia swoich ambicji lub rozwiązania własnych problemów.
Jako gra narracyjna, nazywana też powieścią wizualną, Eliza przemawia głównie tekstem i pod tym względem nie zawodzi. Napisana jest ciekawie i znakomicie zinterpretowana przez aktorów, z kojącym głosem Aily Kei jako Evelyn na czele. Treść jest satysfakcjonująca intelektualnie, a tematyka powinna zainteresować tych, którzy nie tylko śledzą nowinki związane z AI, ale widzą ją w szerszym kontekście. Mam na myśli obserwowanie zachowań użytkowników, ich motywacji oraz zachodzących zmian stylu życia. Nie da się też uciec od uniwersalnych pytań filozoficznych, w rodzaju Quo vadis AI lub Dokąd zmierzasz, człowieku.
Chatbot albo wampir
Gdy ukazała się przed siedmiu laty, Eliza mogła być jeszcze odbierana jako futurystyczna fantazja lub dystopia. Błyskawiczne upowszechnienie dużych modeli językowych zapoczątkowało rewolucję, która zmieniła kontekst diametralnie. Życie gwałtownie przyspieszyło i prześcignęło futurologów. Czatboty są wszędzie, dostępne dla każdego, w tym dzieci, a ich działalności nikt nie kontroluje. W odróżnieniu od ludzkich terapeutów nie mają superwizorów.
Co mi przypomina, jak na mój odbiór tej gry nałożyło się doświadczenie z innej. W trakcie sesji z pacjentami bezwiednie rozpoznawałam ich zniekształcenia poznawcze, komentując je w myślach. „Nie katastrofizuj, dziewczyno”, „ależ on generalizuje”, „typowe myślenie dychotomiczne”, „jaki piękny przykład personalizacji” itp. W rozgrywce Elizy wykorzystywałam wiedzę zdobytą w grze Vampire Therapist. Gdybym musiała wybierać, chyba jednak wolałabym terapeutę wampira niż bota.
