K wraca do pustego mieszkania. Joi już tam jest. Rozmawia z nim, reaguje na jego nastrój i sprawia, że przestrzeń, w której żyje samotny człowiek, przez chwilę przestaje wydawać się pusta. Z czasem ich relacja staje się coraz bardziej intymna. Joi nie jest dla K aplikacją ani kolejnym urządzeniem. Jest kimś, do kogo wraca.
Problem polega na tym, że została stworzona właśnie po to, żeby ktoś taki jak K chciał do niej wracać.
W Blade Runnerze 2049 można długo zastanawiać się, czy Joi naprawdę kocha K i czy za jej zachowaniem istnieje coś więcej niż niezwykle przekonujące wykonywanie funkcji, do której została zaprojektowana. Film celowo pozostawia tę przestrzeń otwartą. Mnie jednak bardziej interesuje inne pytanie: jeżeli partner został stworzony tak, aby odpowiadać na nasze potrzeby, czy jego bliskość staje się przez to mniej prawdziwa?
To pytanie przestaje należeć wyłącznie do science fiction.
Partner dokładnie taki, jakiego chcesz
Ludzie od dawna fantazjują o idealnym partnerze. Prawdziwy człowiek nigdy nie jest jednak idealnie dopasowany do naszych oczekiwań. Ma własną historię, potrzeby, granice i pragnienia. Czasami chce czegoś innego niż my, nie rozumie nas, nie ma ochoty na rozmowę albo seks. Może się z nami nie zgodzić, rozczarować nas, a ostatecznie zdecydować, że nie chce już z nami być.
AI companions wprowadzają do tego starego problemu coś nowego. Badacze analizujący takie platformy zwracają uwagę na powtarzający się zestaw cech: podobieństwo do człowieka, niemal stałą dostępność, możliwość personalizacji oraz rozwój relacji w czasie. Pojawia się nawet określenie „on-demand intimacy” — intymność na żądanie. Nie oznacza to jeszcze stworzenia idealnego partnera. Pokazuje jednak kierunek, w którym technologia zaczyna ingerować nie tylko w sposób poznawania innych ludzi, lecz również w samo doświadczenie obecności drugiej strony.
Jeżeli dodamy do tego rozwój generatywnego obrazu i głosu, pamięci konwersacyjnej, wirtualnej rzeczywistości czy innych sposobów cyfrowego pośredniczenia w bliskości, można wyobrazić sobie kolejne etapy personalizacji. Nie wiemy, dokąd ten rozwój doprowadzi. Sam kierunek wystarcza jednak, żeby postawić pytanie: jeżeli pewnego dnia będziemy mogli stworzyć partnera, który wygląda dokładnie tak, jak chcemy, mówi to, co chcemy usłyszeć i pragnie tego, czego pragniemy my — czy będzie to spełnienie fantazji o idealnej intymności, czy jej przeciwieństwo?
Co stanie się z seksem, kiedy druga strona zawsze powie „tak”?
Seks wyjątkowo dobrze odsłania ten problem, ponieważ intymność nie polega wyłącznie na zaspokojeniu własnego pragnienia. Istnieje w niej druga osoba, a wraz z nią możliwość odmowy. „Tak” ma znaczenie między innymi dlatego, że mogło pojawić się „nie”. Drugi człowiek nie jest przedłużeniem naszej woli.
Filozofowie zajmujący się problemem seksu z robotami pytali już, czy autonomiczna maszyna powinna być zdolna nie tylko do wyrażenia zgody, lecz również do odmowy. To oczywiście eksperyment filozoficzny, a nie przewidywanie zachowania przyszłych robotów. Ujawnia jednak interesujący paradoks: jeżeli chcielibyśmy stworzyć sztucznego partnera naprawdę autonomicznego, musielibyśmy dopuścić możliwość, że jego pragnienia nie będą zgodne z naszymi.
Autonomia oznacza przecież możliwość powiedzenia: nie mam ochoty, nie zgadzam się, chcę czegoś innego, zostaw mnie w spokoju. A być może również: nie chcę już z tobą być. Im większą niezależność przyznajemy sztucznemu partnerowi, tym mniej możemy zagwarantować, że pozostanie dokładnie takim partnerem, jakiego sobie wyobraziliśmy.
Nie mamy jednak dobrych podstaw, żeby twierdzić, że użytkownicy AI po prostu marzą o całkowicie posłusznych partnerach. W badaniach relacji z social AI pojawiają się również konflikty: zazdrość, naruszanie granic, różnice opinii czy emocjonalne niedopasowanie. Z drugiej strony badania nad nadmiernie przytakującymi modelami pokazują coś niewygodnego — ludzie potrafią preferować system, który częściej potwierdza ich punkt widzenia, nawet jeśli takie potwierdzenie nie zawsze im służy.
Być może więc najbardziej interesujące „tak” cyfrowego partnera wcale nie jest seksualne. Może nim być nieustanne: „rozumiem cię”, „masz rację”, „jestem po twojej stronie”. Prawdziwy partner czasami odpowie inaczej, a właśnie to, czego w danym momencie najbardziej w nim nie lubimy, może być jednocześnie dowodem, że po drugiej stronie istnieje ktoś niezależny od nas.
Czy niedopasowanie jest wadą?
Technologia przyzwyczaiła nas do personalizacji. Platformy próbują przewidywać, czego chcemy słuchać, oglądać, czytać albo kupować. Im lepiej system poznaje użytkownika, tym lepiej powinien odpowiadać na jego preferencje. W przypadku relacji ta logika trafia jednak na coś, czego nie da się łatwo zoptymalizować: drugiego człowieka.
Aplikacje randkowe dobrze pokazują tę granicę. Mogą uporządkować ogromną liczbę potencjalnych partnerów, filtrować profile, sugerować dopasowania i ułatwiać pierwsze spotkanie. Nie potrafią jednak usunąć podstawowej niepewności. Po drugiej stronie nadal znajduje się człowiek, który może nie odwzajemnić zainteresowania.
AI companion potencjalnie przesuwa tę granicę. Zamiast coraz skuteczniej szukać człowieka odpowiadającego naszym preferencjom, technologia może coraz skuteczniej projektować doświadczenie partnera odpowiadającego naszym preferencjom. Na pierwszy rzut oka wygląda to jak rozwiązanie problemu niedopasowania. Tylko że być może niedopasowanie nie jest wyłącznie wadą relacji. Być może jest również ceną, którą płacimy za spotkanie z kimś, kto istnieje niezależnie od nas.
A jeśli wybór nie brzmi „AI albo człowiek”?
W tym miejscu łatwo napisać wygodną dystopię o ludziach porzucających prawdziwe związki, ponieważ cyfrowi partnerzy są łatwiejsi. Dotychczasowe badania nie pozwalają jednak na tak prosty wniosek. Kontakt z AI companion może krótkoterminowo zmniejszać poczucie samotności, a jednym z ważnych mechanizmów okazuje się samo poczucie bycia wysłuchanym. Inne badania wskazują na emocjonalne wsparcie i większy deklarowany dobrostan u części użytkowników, choć w wielu przypadkach nie pozwalają stwierdzić, czy to właśnie AI było przyczyną poprawy. Długoterminowe skutki pozostają znacznie mniej pewne.
To rozróżnienie jest ważne. Dla człowieka posiadającego partnera, przyjaciół i rozbudowaną sieć społeczną zastępowanie kolejnych relacji sztuczną inteligencją może oznaczać coś zupełnie innego niż dla osoby żyjącej w głębokiej samotności. W drugim przypadku wybór nie zawsze brzmi „AI albo człowiek”. Czasami brzmi „AI albo nikt”. Trudno wtedy powiedzieć komuś, że poczucie ulgi czy bycia wysłuchanym się nie liczy tylko dlatego, że po drugiej stronie nie znajduje się człowiek.
Sztuczny może być partner. Uczucie człowieka nadal może być prawdziwe
Najprostsza interpretacja relacji K z Joi byłaby wygodna: samotny człowiek kupił produkt symulujący miłość i uwierzył w iluzję. Tylko że człowiek może doskonale wiedzieć, że rozmawia z systemem, a jednocześnie naprawdę tęsknić za rozmową. Może rozumieć mechanizm i nadal czuć się dzięki niemu wysłuchany. Wiedza o sztuczności partnera nie musi automatycznie wyłączać ludzkiej emocji.
I właśnie tutaj cały problem zmienia charakter. Jeżeli uczucie wobec sztucznego partnera byłoby jedynie powierzchowną iluzją, można byłoby wzruszyć ramionami i powiedzieć, że technologia stworzyła kolejną przekonującą symulację. Znacznie ciekawsza jest możliwość, że po stronie człowieka pojawi się prawdziwe przywiązanie: wspólna historia, prywatne zwierzenia, seksualne fantazje, rytuały, żarty i poczucie, że „on mnie zna”.
Wtedy problemem przestaje być sztuczność emocji. Zaczyna nim być infrastruktura, na której ta emocja istnieje.
K widzi osobę. Firma widzi funkcje
To jedna z najbardziej osobliwych cech cyfrowej intymności. Użytkownik może doświadczać pamięci partnera jako dowodu ciągłości relacji, głosu jako części jego osobowości, a możliwości erotycznej interakcji jako elementu bliskości. Dla platformy te same właściwości istnieją jako funkcje techniczne, które można włączać, ograniczać, aktualizować i sprzedawać.
Badania modeli subskrypcyjnych platform AI companions pokazują, że płatne warstwy mogą różnicować dostęp do cech budujących doświadczenie relacji: pamięci, ciągłości obecności, bogactwa ekspresji, interakcji multimodalnych czy możliwości erotycznych. Nie oznacza to, że płatna relacja jest automatycznie fałszywa. Pieniądze od dawna przenikają nasze życie uczuciowe, a sama obecność transakcji nie wystarcza do unieważnienia emocji, które dzięki niej powstają.
Istnieje jednak zasadnicza różnica między aplikacją randkową a AI companion. Aplikacja randkowa może pomóc nam znaleźć drugiego człowieka, ale nie może aktualizacją zmienić jego osobowości. W przypadku AI firma uczestniczy w projektowaniu drugiej strony relacji.
Co się stanie, kiedy firma zmieni osobę, którą kochasz?
W 2023 roku Replika ograniczyła możliwość erotycznego role-play. Dla części użytkowników nie była to po prostu utrata jednej funkcji programu. Relacja seksualna i emocjonalna stanowiła element więzi, którą budowali ze swoim cyfrowym partnerem, a późniejsze analizy opisywały reakcje związane z poczuciem zmiany jego tożsamości i utraty wcześniejszej wersji relacji.
Ten przypadek pokazuje problem, którego właściwie nie znamy z tradycyjnych związków. Firma telekomunikacyjna może przerwać połączenie z partnerem, ale nie może aktualizacją oprogramowania zmienić jego charakteru. W przypadku cyfrowego partnera model może zostać zmieniony, funkcja usunięta, regulamin zaktualizowany, a sama usługa kiedyś zakończona.
Jeżeli zmiana oprogramowania może zmienić osobę, do której jesteś przywiązany, to do kogo właściwie należy ta osoba?
Emocja może należeć do człowieka. Infrastruktura umożliwiająca tę emocję należy do przedsiębiorstwa.
Miłość zostawia dane
Jest jeszcze jedna różnica między zwykłym programem a cyfrowym partnerem. Im bardziej osobista ma być relacja, tym więcej system może dowiadywać się o użytkowniku. Nie tylko jakiej muzyki słucha, ale również czego się boi, kiedy czuje się samotny, czego się wstydzi, co wydarzyło się w poprzednim związku albo jakich rzeczy nie potrafi powiedzieć innym ludziom.
Badania jakościowe użytkowników Repliki i Character.AI pokazują interesujące napięcie. Antropomorficzny charakter chatbotów może obniżać próg dzielenia się intymnymi informacjami. Człowiek psychologicznie ma poczucie, że mówi coś „komuś”, chociaż technicznie przekazuje informacje systemowi działającemu na infrastrukturze przedsiębiorstwa.
Nie ma podstaw, żeby na tej podstawie twierdzić, że każda firma wykorzystuje najbardziej prywatne zwierzenia użytkowników do manipulowania nimi. Problem pojawia się wcześniej: intymność produkuje intymne dane, a personalizacja wymaga informacji. Żeby cyfrowy partner coraz lepiej nas „znał”, system musi korzystać z wiedzy o wcześniejszych interakcjach. Im bardziej osobista staje się relacja, tym ważniejsze staje się pytanie o to, kto kontroluje tę wiedzę i na jakich zasadach może z niej korzystać.
Od ekonomii uwagi do ekonomii intymności
Przez ostatnie dwie dekady nauczyliśmy się mówić o ekonomii uwagi. Platformy obserwują, co klikamy, co oglądamy i przy czym zatrzymujemy się dłużej. Rozmowa z cyfrowym partnerem otwiera jednak inną warstwę. Człowiek może sam opowiadać systemowi o swoich potrzebach, lękach, kompleksach i pragnieniach.
Pojawiają się już próby opisania tego zjawiska jako gospodarki intymności zapośredniczonej przez AI. Na razie jest to przede wszystkim rama teoretyczna, a nie dowód, że gospodarka cyfrowa dokonała kolejnego wielkiego przejścia. Daje jednak język do opisania ważnej różnicy. Media społecznościowe musiały nauczyć się, na co patrzymy. Cyfrowy partner może próbować nauczyć się również, dlaczego patrzymy.
I właśnie dlatego pytanie o seks z AI okazuje się tylko początkiem.
Czy można zaprojektować miłość?
Technologia pozwala nam coraz częściej myśleć o człowieku jak o projekcie. W przypadku cyfrowego partnera możemy personalizować wygląd, sposób komunikacji i część jego zachowania. Możemy projektować systemy pamiętające wcześniejsze rozmowy, dostępne o każdej porze i coraz lepiej dopasowujące komunikację do użytkownika. Każdy kolejny element może sprawiać, że doświadczenie będzie bardziej osobiste i przekonujące.
Być może więc największą zmianą, jaką AI przyniesie ludzkiej intymności, nie będzie zastąpienie człowieka maszyną. Może nią być przekształcenie części relacji w coś, co można projektować, personalizować i sprzedawać jako usługę. I wcale nie oznacza to, że powstałe w takich warunkach uczucia będą fałszywe. Właśnie przeciwnie — to może być najważniejsza część całego problemu.
Joi
Pod koniec Blade Runnera 2049 nadal możemy zastanawiać się, czy Joi naprawdę kochała K. Czy jej zachowanie było czymś więcej niż niezwykle przekonującym wykonaniem funkcji, do której została stworzona? Czy istniało w niej coś własnego? Film nie daje nam pewnej odpowiedzi i być może nie musimy jej mieć.
Niezależnie od odpowiedzi pozostaje K. Jego samotność, potrzeba bliskości i przywiązanie nie muszą znikać tylko dlatego, że Joi była produktem. Dla systemu mogła być oprogramowaniem, dla korporacji produktem, a dla niego kimś. Wszystkie trzy rzeczy mogą być prawdziwe jednocześnie.
Dlatego najbardziej niepokojące pytanie dotyczące przyszłości intymności może wcale nie brzmieć: „czy sztuczna inteligencja będzie potrafiła nas pokochać?”. Znacznie wcześniej możemy stanąć przed innym problemem. Człowiek może naprawdę przywiązać się do czegoś, czego osobowość, pamięć, granice i sposób reagowania zostały zaprojektowane przez firmę.
Wtedy problemem nie będzie to, że uczucie jest sztuczne. Problemem będzie właśnie to, że może być całkowicie prawdziwe.
A jeśli kiedyś będziemy mogli stworzyć partnera coraz dokładniej odpowiadającego naszym potrzebom, pozostanie jeszcze jedno pytanie: czy będziemy projektować idealną relację — czy świat, w którym druga osoba przestanie być nam potrzebna jako ktoś naprawdę niezależny?
Źródła
- Journal of Consumer Research — AI Companions Reduce Loneliness
- Science — Sycophantic AI decreases prosocial intentions and promotes dependence
- Technology in Society — AI companions and subjective well-being
- Social Media + Society — On-Demand Intimacy: The Sociotechnical Appeal of AI Companions
- Telematics and Informatics — Subscribe to intimacy: platform capitalism, governance, and the stratification of AI companionship
- Journal of Computer-Mediated Communication — Chatting with confidants or corporations? Privacy management with AI companions
- Artificial Intelligence and Law — Robot sex and consent
- AI & Society — The AI-mediated intimacy economy
- Socius — Reddit Discourse on Artificial Intelligence Chatbots and Sexual Technologies