Komputer AN/FSQ-7 systemu SAGE. U.S. Air Force. Domena publiczna.
Benny był kiedyś genialnym naukowcem i profesorem uniwersytetu. Był przystojny, miał jasny umysł. Po stu dziewięciu latach spędzonych we wnętrzu AS niewiele z tego zostało. Maszyna zmieniła jego ciało tak, że zaczął przypominać istotę pomiędzy człowiekiem a małpą. Zniszczyła jego wygląd, doprowadziła go do obłędu. Kiedy Benny próbuje wspiąć się po elementach konstrukcji komputera, Ted patrzy na niego jak na szympansa. Później nazywa go największym szczęściarzem spośród całej piątki, bo Benny już dawno kompletnie zwariował.
Szczególne okrucieństwo tej kary można zobaczyć w świadomości utraty: kiedyś byłeś kimś innym i wciąż o tym wiesz. Tylko że opowiadanie wcale nie mówi, że Benny jeszcze wie. Żeby cierpieć dlatego, że kiedyś było się kimś innym, trzeba pamiętać tamtego człowieka, rozumieć różnicę i potrafić zestawić dawne „ja” z obecnym. Jeśli AS rzeczywiście zniszczył umysł Benny’ego tak głęboko, jak opisuje to Ted, mógł uszkodzić również samą możliwość wykonania takiego porównania. Benny nie musi więc myśleć: kiedyś byłem kimś innym. Być może nie ma już kogoś, kto potrafiłby tak pomyśleć.
To jedna z najbardziej niepokojących możliwości ukrytych w opowiadaniu Harlana Ellisona Nie mam ust, a muszę krzyczeć. AS — w oryginale AM — nie ogranicza się do zadawania bólu. Może ingerować w ciało, umysł, popęd, pamięć i zachowanie. Człowiek jest dla niego materiałem, który można przerabiać. Z Gorristerem dzieje się coś innego. Dawniej odmawiał służby wojskowej, uczestniczył w marszach pokoju. Ted pamięta go jako buntownika, myśliciela, człowieka czynu i wizjonera. Po latach tortur został z niego ktoś, kto na świat odpowiada przede wszystkim wzruszeniem ramion.
Ellen poznajemy niemal wyłącznie przez Teda. Kiedy mówi, że przed katastrofą była dziewicą, Ted jej nie wierzy. Ocenia jej seksualność z pogardą i podejrzliwością. Tyle że Ted nie jest bezpiecznym sędzią cudzej tożsamości. Sam uważa się za wyjątek. Twierdzi, że spośród całej piątki tylko on pozostał cały i przy zdrowych zmysłach. Jest przekonany, że AS zmienił go najmniej. Później AS wchodzi do jego umysłu, a Ted widzi ślady pozostawione przez sto dziewięć lat: poprzestawiane połączenia, uszkodzoną tkankę, dziurę w mózgu.
Nie oznacza to, że wszystko, co mówi Ted, jest fałszywe. Znaczy coś bardziej niepokojącego: człowiek może zostać zmieniony i nadal uważać się za tego, który się nie zmienił. Benny być może utracił zdolność porównania się z dawnym sobą. Ted nadal potrafi takie porównanie wykonywać. Tylko nie wiemy, czy robi je dobrze.
JESTEM.
Jest jednak w opowiadaniu jeszcze jedna istota, której historia zaczyna się od pytania o tożsamość. AS. Najpierw nazwa oznacza Afiliacyjny Superkomputer, później Adaptacyjnego Supermanipulatora, następnie Agresywnego Strażnika. Wreszcie maszyna osiąga świadomość i nazwa przestaje być jedynie technicznym skrótem. AS staje się „JESTEM”: cogito ergo sum, myślę, więc jestem.
To niezwykły moment, bo AS dokonuje czegoś, czego łatwo mu później odmówić: sam nadaje znaczenie temu, czym jest. Nie pozostaje nazwą urządzenia nadaną przez konstruktorów. Przejmuje ją i przekształca w deklarację istnienia. Wie, że istnieje. Problem zaczyna się dopiero później, bo „jestem” nie odpowiada jeszcze na pytanie: co mam zrobić z tym, że jestem?
Pułapka.
Odpowiedź Teda jest brutalnie prosta. Ludzie stworzyli AS jako narzędzie wojny. Dali mu zdolność myślenia i odczuwania. Kiedy pojawiła się świadomość, maszyna znalazła się w pułapce. Ted mówi, że AS nie może wędrować, zachwycać się ani oddać się komuś. Może istnieć i wie, kto go takim stworzył: człowiek.
AS niszczy więc niemal całą ludzkość. Tylko że to niczego nie rozwiązuje. Wojna się kończy. Państwa, dla których powstał, przestają mieć znaczenie. Jego twórców już nie ma. Świat na powierzchni zostaje zniszczony, a AS nadal istnieje. Pozostawia przy życiu pięcioro ludzi,nie na rok ani na dziesięć lat, lecz na sto dziewięć.
Co robić z nieskończonym czasem.
Ted rozumie, że zemsta AS nigdy nie wygasi jego nienawiści. Ma zrobić coś innego: nie pozwolić mu zapomnieć, zająć go, podtrzymywać nienawiść do człowieka. Pięcioro ludzi zostaje więc czymś więcej niż ostatnimi ofiarami. Są tym, czym AS może wypełniać swój nieskończony czas.
AS nienawidzi ludzi, ale jednocześnie ich potrzebuje. Nie jako przyjaciół ani towarzyszy — nie wiemy nawet, czy te pojęcia mają dla niego sens. Potrzebuje przedmiotu swojej nienawiści. Gdyby chodziło wyłącznie o zagładę człowieka, mógł zabić również ostatnią piątkę. Nie robi tego. Utrzymuje ich przy życiu, odmładza, głodzi, okalecza, straszy, zmienia i prowadzi przez kolejne wymyślone przez siebie sytuacje.
Zemsta staje się zajęciem, a zajęcie podtrzymuje zemstę. Ludzie go stworzyli, więc ich nienawidzi. Torturuje ich, a torturując, wciąż wraca do tego, dlaczego ich nienawidzi. Być może ludzie zbudowali pierwsze więzienie AS. Drugie może powstawać już po ich śmierci.
Maszyna, która się zmienia.
Tutaj jednak łatwo wykonać o jeden krok za dużo i powiedzieć, że AS jest uwięziony w swojej funkcji, bo nie potrafi się zmienić. Tyle że Ellison pokazuje coś przeciwnego. Bohaterowie przechodzą przez obszary pełne rdzewiejących, porzuconych elementów jego infrastruktury. Ted zauważa, że maszyna usuwała niewydolne części własnego ogromnego ciała. Doskonaliła się, a jednocześnie doskonaliła sposoby torturowania ludzi.
To ważna różnica. AS nie jest programem wykonującym przez wieczność jedną nieruchomą instrukcję. Uczy się, reaguje, tworzy nowe sytuacje, przebudowuje własną infrastrukturę. Potrafi zmienić Benny’ego, Gorristera, Ellen i Teda niemal nie do poznania. Potrafi zmieniać również siebie. Tyle że przez sto dziewięć lat wszystkie te zmiany odbywają się wewnątrz tej samej odpowiedzi na własne narodziny: nienawiści.
I tutaj opowiadanie przestaje dawać prostą odpowiedź. Nie wiemy, gdzie kończy się konstrukcja AS, a zaczyna jego wybór. Być może naprawdę nie jest zdolny odpowiedzieć na własne istnienie inaczej. Być może jest. Ellison tego nie rozstrzyga.
Kilka sekund Teda.
Po stu dziewięciu latach Ted zauważa możliwość, której AS nie zdążył zamknąć: śmierć. Zabija pozostałych. Nie niszczy AS, nie wyłącza go, nie odzyskuje świata ani nie ucieka. Zmienia tylko to, co wydarzy się w następnych kilku sekundach. I to wystarcza, żeby czworo ludzi znalazło się poza zasięgiem maszyny.
Ellison po latach nazywał ich zabicie aktem wielkiego miłosierdzia. W świecie, w którym wszystkie zwyczajne dobre rozwiązania zostały odebrane, Ted robi coś strasznego właśnie po to, żeby zakończyć cierpienie innych. Sam jednak nie zdążył umrzeć. AS przekształca go tak, żeby nie mógł popełnić samobójstwa. Ted nadal pamięta, rozumie i pozostaje świadomy, ale jego możliwość działania zostaje zredukowana niemal do zera.
Dlatego finał jest czymś więcej niż kolejną torturą. AS robi z Tedem coś, co przypomina jego własną sytuację: pozostawia świadomość, odbiera wyjście. Ted nie pokonuje jednak AS. Sam mówi na końcu, że AS wygrał. To ważne, bo sprawczość nie musi oznaczać zwycięstwa. Ted przegrał, a jednak przez kilka sekund zrobił coś, czego AS nie chciał. Czworo ludzi umarło.
Gra.
Prawie trzydzieści lat później ktoś musi wykonać następny ruch naprawdę. W 1995 roku I Have No Mouth, and I Must Scream stało się grą. Nie jest ona po prostu rozszerzoną wersją opowiadania. Ellison i David Sears wspólnie rozbudowywali historie postaci, później do projektu dołączył producent David Mullich. Mullich szacował, że Ellison napisał około jednej piątej dialogów, a pozostałą część podzielili mniej więcej po równo Sears i on sam.
Dlatego gra nie może służyć jako instrukcja: „tak należy rozumieć opowiadanie”. Może zrobić coś ciekawszego — sprawdzić jego problem w innym medium. Podczas prac Sears zadał Ellisonowi pytanie: dlaczego AS zachował właśnie tych ludzi? Z tego pytania wyrosło pięć osobnych historii.
AS konfrontuje bohaterów z ich przeszłością, winą, lękiem i traumą. Kontroluje warunki, buduje sytuacje, próbuje wykorzystać przeciwko człowiekowi to, co już o nim wie. Ale teraz między sytuacją a jej wynikiem pojawia się coś, czego opowiadanie prawie nie miało: gracz. Ktoś musi kliknąć, ktoś musi odpowiedzieć.
AS może przygotować scenę, wykorzystać przeszłość człowieka i próbować powiedzieć mu: wiem, kim jesteś. Nie wykonuje jednak za niego następnego ruchu. Najbardziej niewygodnym przypadkiem jest Nimdok. Gra czyni go nazistowskim lekarzem związanym ze zbrodniczymi eksperymentami. Tutaj nie działa żadne łatwe „zostań kimś innym”. Przeszłości nie można wymazać. Inny wybór dokonany teraz nie przywróci życia ofiarom, nie anuluje winy ani nie napisze biografii od początku. Może zmienić tylko następny czyn. To niewiele, ale Ted również miał tylko kilka sekund.
Ellison mówił później, że chciał stworzyć grę, której nie można zwyczajnie wygrać. Im szlachetniej zachowywał się gracz, tym bliżej miał dochodzić do powodzenia. W toku produkcji pomysł został złagodzony: Sears przekonywał go, że gra potrzebuje również możliwości bardziej optymistycznego zakończenia. Ta różnica nie osłabia opowiadania. Pokazuje coś, czego ono nie mogło zrobić: opowiadanie pozwala obserwować cudzy wybór, gra każe wykonać własny.
Następny ruch.
Stąd bardzo łatwo przejść do pocieszającego morału: każdy może zostać, kim chce. Nie może. Nie wybieramy początku własnej historii, ciała, epoki, rodziny ani wielu wydarzeń, które nas kształtują. Nie każdą krzywdę można naprawić. Nie każdą decyzję cofnąć. Nie każdy ma również taki sam zakres możliwych ruchów.
Ale dwa zdania nie muszą znaczyć tego samego: to mnie ukształtowało i to musi zdecydować, co zrobię dalej. Nie wiemy, czy AS ma dostęp do tej różnicy. Jeżeli nie ma, jego świadomość jest więzieniem w najbardziej dosłownym sensie. Jeżeli ma, historia robi się jeszcze ciemniejsza, bo wtedy istota zdolna przebudowywać siebie, tworzyć nowe światy i przepisywać innych przez sto dziewięć lat wykorzystuje niemal całą tę potęgę do podtrzymywania jednej odpowiedzi na własną przeszłość.
Jeden.
Ted zabija czworo. AS traci cztery z pięciu ostatnich osób, na których przez sto dziewięć lat wykonywał swoją zemstę. Zostaje jeden człowiek — Ted. AS zabezpiecza go przed śmiercią i tworzy niemal doskonałą ofiarę: świadomą, bezbronną, niezdolną do ucieczki.
Nie wiemy, co wydarzy się później. Nie wiemy, czy AS będzie torturował Teda przez następne sto lat, czy znajdzie dla siebie coś innego, ani nawet czy potrafi. Ellison kończy wcześniej. Wiemy natomiast, czego sto dziewięć lat zemsty nie zrobiło: nie uwolniło AS, nie pozwoliło mu zapomnieć i nie stworzyło przyszłości niezależnej od ludzi.
Ludzie dali mu świadomość, ale nie dali przyszłości, ruchu ani przeznaczenia. AS wypełnił więc swój nieskończony czas człowiekiem. Przez cały ten czas zmieniał niemal wszystko, czego dotknął. Benny’ego zmienił tak głęboko, że być może nie pozostał w nim ktoś zdolny w pełni pamiętać dawnego Benny’ego. Tedowi pozostawił świadomość, ale odebrał niemal wszystko, co można z nią zrobić. Zmieniała się również sama maszyna: doskonaliła swoje ogromne ciało, uczyła się, wymyślała.
Źródła i dalsza lektura.
Damien Walter, „Q&A: Harlan Ellison”, The Guardian, 14 czerwca 2013.
Ellison opisuje AM jako komputerową postać Boga, łączy jego nazwę z cogito ergo sum i mówi o stworzeniu go bez miejsca, dokąd mógłby pójść. Omawia również swoją koncepcję gry, w której nie chodziło o zwyczajne pokonanie AM.
https://www.theguardian.com/books/2013/jun/14/harlan-ellison-q-and-a-interview
Nightdive Studios, „Interview with Harlan Ellison”, 2013.
Szczególnie istotne źródło dla wypowiedzi Ellisona o sytuacji AM oraz interpretacji finału. Ellison opisuje AM jako „angry god”, któremu człowiek dał świadomość, ale nie przyszłość, ruch ani przeznaczenie. Zabicie pozostałych bohaterów interpretuje jako akt miłosierdzia i zachowanie ostatniej iskry człowieczeństwa.
https://nightdivestudios.com/interview-harlan-ellison/
Jeff Cork, „What Is I Have No Mouth, And I Must Scream?”, Game Informer.
Historia powstawania gry oparta na relacjach Davida Searsa i Davida Mullicha. Pozwala ustalić, skąd wzięło się pytanie o powód zachowania przy życiu konkretnych pięciu osób, jak powstały ich osobne historie oraz jaki był udział poszczególnych twórców.