Technologia rzadko odbiera człowiekowi kontrolę jednym ruchem. Częściej zmienia warunki, w których podejmuje decyzje: określa procedury, podsuwa kategorie, tworzy kryteria oceny albo wpływa na to, jakie informacje w ogóle stają się widoczne.
Ta ścieżka prowadzi przez cztery różne sytuacje, w których granica między decyzją człowieka a działaniem systemu przebiega w innym miejscu. Zaczyna się od najbardziej bezpośredniego przypadku — przejęcia kontroli nad człowiekiem — a kończy na czymś znacznie mniej widocznym: możliwości wpływania na punkty odniesienia, dzięki którym człowiek ocenia rzeczywistość.
1. RoboCop — kiedy człowiek staje się własnością
W RoboCopie problem jest jeszcze brutalnie czytelny: korporacja nie tylko wykorzystuje technologię, ale przejmuje człowieka wraz z jego ciałem, pracą i zdolnością działania. Murphy nadal istnieje, lecz jego autonomia zostaje podporządkowana regułom zapisanym przez organizację.
To najbardziej bezpośredni punkt wyjścia do pytania, które w kolejnych tekstach staje się coraz mniej oczywiste: ile kontroli trzeba odebrać człowiekowi, zanim przestaniemy mówić o jego własnej decyzji?
Czytaj: RoboCop – analiza. Czy korporacja może posiadać człowieka?
2. Blade Runner — kiedy człowiek staje się wykonawcą procedury
Deckard nie jest własnością korporacji w taki sposób jak Murphy. Ma ciało, pamięć i pozornie większą swobodę działania. Jednocześnie wykonuje zadanie w świecie, który wcześniej określił, kogo można uznać za człowieka, a kogo „wycofać”.
Władza nie musi więc posiadać człowieka, żeby wpływać na jego działanie. Wystarczy, że stworzy procedurę, język i kategorie, w ramach których podejmowana jest decyzja.
Czytaj: Blade Runner – analiza. Co właściwie czyni człowieka człowiekiem?
3. Człowiek naciska ostatni przycisk — ale gdzie naprawdę zapada decyzja?
Tutaj granica staje się mniej widoczna. Człowiek nadal może formalnie zatwierdzać decyzję, ale wcześniej system wybiera informacje, tworzy kategorie, porządkuje możliwości i podpowiada wynik.
Odpowiedzialność pozostaje przypisana człowiekowi, choć część procesu prowadzącego do decyzji została rozłożona pomiędzy ludzi, procedury i technologię.
Pytanie przestaje więc brzmieć tylko: „kto nacisnął przycisk?”. Ważniejsze staje się to, kto ukształtował warunki, w których ten przycisk został naciśnięty.
Czytaj: Człowiek naciska ostatni przycisk. Ale kto naprawdę podjął decyzję?
4. Rok 1984 — kiedy system zmienia punkt odniesienia
U Orwella problem sięga jeszcze głębiej. Władza nie ogranicza się do wydawania poleceń ani organizowania decyzji. Próbuje wpływać na to, jakie informacje mogą zostać zachowane, z czym można porównać oficjalną wersję wydarzeń i według jakich kryteriów człowiek rozpoznaje rzeczywistość.
Autonomia zależy więc nie tylko od możliwości podjęcia decyzji, ale również od dostępu do niezależnych punktów odniesienia, które pozwalają tę decyzję zakwestionować.
Czytaj: Rok 1984 Orwella: czego naprawdę powinniśmy się bać?
Od własności do punktu odniesienia
Te cztery historie pokazują różne miejsca, w których relacja człowieka z systemem może stać się problematyczna. Nie prowadzą jednak do prostego wniosku, że każdy system odbiera człowiekowi wolność. Systemy, procedury i modele są potrzebne, żeby organizować złożony świat.
Ciekawie robi się wtedy, gdy coraz trudniej rozpoznać, która część decyzji rzeczywiście należy do człowieka, według czyich kryteriów została podjęta i czy nadal istnieje możliwość zakwestionowania tych kryteriów.
RoboCop pokazuje własność. Blade Runner — procedurę. Współczesne systemy decyzyjne komplikują pytanie o sprawczość i odpowiedzialność. Rok 1984 przesuwa je jeszcze dalej: ku warunkom, które pozwalają człowiekowi w ogóle ocenić system z zewnątrz.
Te cztery teksty nie dają jednej odpowiedzi na pytanie o autonomię. Pokazują raczej cztery miejsca, w których warto zacząć jej szukać.