Raport

Góra zleciła mi przeprowadzenie audytu i sporządzenie raportu, który miał dotyczyć optymalizacji sprzedaży. Nie było w tym nic szczególnego; całą moją karierę poświęciłem optymalizacji procesów, więc przyjąłem polecenie bez większego namysłu. Zamierzałem ograniczyć się do suchej faktografii i pokazać biznesowi kilka kluczowych wskaźników, bez wchodzenia w szczegóły. Już pierwszy z nich okazał się jednak mniej przejrzysty, niż można było przypuszczać.

 

Autonomiczny system tworzenia reklam osiągnął skuteczność praktycznie doskonałą. Uwzględniłem zaangażowanie odbiorców, czas zatrzymania uwagi, odsetek reakcji oraz zgodność z predykcjami – wszystko przekroczyło poziomy, które jeszcze niedawno uchodziły za wzorcowe. System ten budził początkowo obawy natury etycznej. Sama automatyzacja, jak zwykle, wywołała lęk, który z czasem ustąpił miejsca przyzwyczajeniu.

 

Zebrałem wszystkie informacje i zestawiłem je z danymi sprzedażowymi. Początkowo myślałem, że gdzieś popełniłem błąd, dlatego przeprowadziłem ponowne rozumowanie. A jednak wynik, niezależnie od liczby podejmowanych prób, okazywał się ten sam – sprzedaż nie wzrosła ani proporcjonalnie, ani nawet dostrzegalnie. W zasadzie nie wzrosła w ogóle. Rozbieżność ta, choć nie podważała poprawności modelu, wprowadzała do niego pewną nieczystość, jak gdyby marketing coraz lepiej przekonywał, nie przekonując już nikogo.

 

Dopiero wtedy przyszło mi do głowy, że nie mam do czynienia z błędem czy anomalią, lecz z jedną z późnych postaci paradoksu optymalizacji: system osiągał coraz większą skuteczność w obrębie własnych miar, lecz tracił związek z celem, któremu miary te miały służyć. System, doskonaląc się w sztuce przyciągania spojrzeń, skupił się na niej tak bardzo, że pominął to, iż jego prawdziwym celem nie było bycie widzialnym, lecz bycie zrozumianym i wybranym.

 

Żeby sprawdzić własną tezę, musiałem wysłać zapytanie do działu marketingu. Nie było dla mnie zaskoczeniem, że odpowiedź przyszła natychmiast. Pytanie brzmiało następująco: „Na podstawie najnowszych KPI proszę o przedstawienie konwersji jednostek sprzedażowych w zestawieniu z poziomem uwagi, reakcji oraz odsetkiem działań niezakończonych wyborem. Interesują mnie przypadki, w których model rozpoznał podatność odbiorcy, ale nie stwierdzono finalizacji decyzji. Proszę ustalić, czy rozbieżność zachodzi między komunikatem a decyzją, między decyzją a działaniem, czy też między działaniem a statusem odbiorcy”.

 

Odpowiedź brzmiała: „W odpowiedzi na zapytanie informujemy, że rozbieżność między sprzedażą a skutecznością kampanii wynika z nieaktualnego rozdzielenia pojęć komunikacji, decyzji i finalizacji. W modelu obowiązującym od ostatniej iteracji odbiorca nie jest definiowany przez zakup, lecz przez stopień zgodności z przewidzianym przebiegiem reakcji. Jeżeli reakcja została rozpoznana, a podatność potwierdzona, proces należy uznać za domknięty, nawet w przypadku braku zdarzenia transakcyjnego. Sprzedaż w sensie klasycznym nie stanowi już koniecznego warunku skuteczności sprzedażowej”.

 

Przeczytałem tę odpowiedź trzykrotnie, zanim zrozumiałem, że nie zaprzecza ona faktom. Przenosiła je jedynie do innego porządku, w którym sam zakup był już zaledwie materialnym i niekoniecznym cieniem skuteczności. W mojej chwilowej zadumie pomyślałem, że być może właśnie od tej chwili zaczyna się każdy spór o automatyzację: nie wtedy, gdy maszyna zawodzi, lecz wtedy, gdy działa zbyt dobrze.

 

Automatyzacja, choć często kojarzona z epoką przemysłową, ma swoje korzenie znacznie wcześniej, co warto uwzględnić w analizie jej wpływu. Jej początek należałoby umieścić wcześniej, niemal u zarania ludzkiego czasu, w chwili, gdy pracę jednego istnienia uznano za równoważny substytut wysiłku innego. Fabryki, algorytmy i systemy predykcyjne były jedynie późnymi, coraz doskonalszymi odmianami tej samej idei. Mając przed oczami odpowiedź z działu marketingu, odniosłem jednak wrażenie, że tym razem nie doszło do zwykłego zastąpienia. Wysiłek nie został odjęty ani przeniesiony. Być może na początku właśnie tak było. Później jednak został zoptymalizowany i poprawiony przez zmianę własnego znaczenia, wskutek czego przestał być własnym odpowiednikiem.

 

Gdzie właściwie zaczęło się psuć? Dręczące pytanie o automatyzację, nie ze względu na etykę. Głosy sprzeciwu zawsze były słyszalne na początku rewolucji, czy to społeczno-kulturowej, historycznej, czy też przemysłowej. Czy rewolucja zawsze ubrana jest w przesiąknięte krwią szaty ściętych arystokratów czy zmiażdżonych parobków? Mam wrażenie, że ostatnia rewolucja AI nie była krwawa; entuzjastycznie została przyjęta nawet przez tych, którzy za chwilę mieli iść na ścięcie. Chichot historii polega na tym, że robotyzacja miała zastąpić prace fizyczne, a umysłowe i kreatywne zostawić człowiekowi – stało się odwrotnie. Kapitalizm czy socjalizm, nie ma znaczenia – koszt, raz obniżony, domaga się dalszego obniżania. To, co można uczynić tańszym, szybszym i bardziej przewidywalnym, zostanie takim uczynione.

 

Automatyzacja miała przynieść ulgę. Wysiłek i nudne zadania miały być oddelegowane do odpowiednich narzędzi, a jedna jednostka mogła nadzorować to, co dawniej wymagało wielu rąk. Było w tym coś z prawdy, lecz tylko tej prawdy, którą lubią akcjonariusze i historycy zwycięskich rozwiązań. Inna prawda, mniej chętnie odnotowywana, polegała na tym, że maszyna nie tyle kończyła pracę, ile zmieniała jej definicję. Po pewnym czasie nie pytano już, czy zastąpienie było słuszne. Pytano, czy zostało przeprowadzone do końca.

 

Początkiem było zastąpienie obsługi klienta: najpierw prymitywne boty, później coraz bardziej zaawansowane narzędzia, aż wreszcie systemy nie do odróżnienia przez klienta. Rozmowa przez komunikator czy rozmowa głosowa – nim się spostrzeżono, cała komunikacja była już siecią neuronową: email, wiadomość tekstowa, rozmowa telefoniczna. Realna komunikacja się skończyła. Nie było już komu płacić pensji; teraz dział zużywał tokeny i mieścił się w kilku metrach kwadratowych serwerowni.

 

W tym miejscu należałoby poczynić uwagę, która niedawno brzmiała jak fantastyka czy przesada, dzisiaj coraz częściej ma charakter czysto opisowy. Nie chodzi już o to, czy AI wspiera przedsiębiorstwo, czy zastąpiła kogoś. Chodzi o to, że powstały już struktury (organizacje, firmy, urzędy), które w sensie operacyjnym nie potrzebują już człowieka. Projekt, komunikacja, analiza rynku, obsługa klienta i tworzenie produktu, a na końcu rozliczenia. Człowiek został tam czysto symbolicznie, tylko dlatego, że musi ktoś figurować w dokumentach i firmować proces.

 

Jeżeli komunikacja mogła zostać zastąpiona, należało jedynie ustalić, co jeszcze da się potraktować jako jej odmianę. Korporacje szybko pojęły, że dane są towarem, którego wartość rośnie wraz z obfitością, tutaj zasada podaży nie obowiązywała. Telefon, laptop, tablet, smartwatch, samochód, kamery, czujniki i smart domy – wszystko to było już w jakimś stopniu podłączone do sieci. Każde nowe urządzenie obiecywało wygodę, lecz przynosiło przede wszystkim większą zdolność zapisu. Im nowszy był przedmiot, tym dokładniej potrafił opisać swojego użytkownika.

 

Sięgając pamięcią, przypominam sobie początkową dezorientację, z jaką przyjmowano fakt, że rozmowa przestała należeć wyłącznie do tych, którzy ją prowadzili. Wystarczyło wspomnieć o zmęczeniu, by wkrótce pojawiły się ośrodki wczasowe; poskarżyć się na wagę, by otrzymać suplementy odchudzające; milczeć zbyt długo, by zaproponowano aplikację randkową. Z początku uchodziło to za teorię spiskową. Później liczba zbiegów okoliczności stała się tak wielka, że sama nazwa „zbieg okoliczności” zaczęła brzmieć naiwnie.

 

Zbierano dane oczywiste: czas spędzony na stronie, liczbę kliknięć, historię wyszukiwań, obejrzany film, drogę kursora, długość wahania przed wyborem. Później uznano, że nie ma powodu ograniczać się do tego, co cyfrowe. Urządzenia mobilne – takie jak telefony i gadżety znane również jako wearables – pod pozorem bezpieczeństwa i komfortu, zaczęły rejestrować także to, co dotąd wydawało się zbyt intymne lub zbyt przypadkowe, by mogło mieć wartość handlową: puls, temperaturę ciała, reakcje źrenic, liczbę mrugnięć, rytm snu, mikrodrżenia dłoni. Wkrótce okazało się, że ciało również jest tylko interfejsem.

 

Nie chodziło już o to, by wiedzieć, co jednostka robi. To wiedziano od dawna. Chodziło o to, by wiedzieć, zanim zrobi cokolwiek, i by sama możliwość działania była od początku ujęta w model. Dane nie służyły już opisowi zachowania; służyły uprzedzeniu zachowania. W tym sensie każdy nowy czujnik był nie tyle narzędziem inwigilacji, ile małym korektorem przyszłości.

 

Wszystko było odnotowywane i porównywane z tysiącami wcześniejszych reakcji na obraz, film, muzykę, tekst. Reklama przestała być przekazem – stała się samodoskonalącą się substancją w czasie rzeczywistym. Nie istniała już jedna wersja kampanii. Każdy odbiorca otrzymywał inną wariancję, zestawioną początkowo według gustu, później zaś według przewidywanej podatności. Przykładowo dla jednych na obrazie pojawiał się tygrys, dla innych słoń, dla jeszcze innych było to zwierzę, które system korygował w kolejnych iteracjach tak długo, aż traciło nazwę i pozostawało jedynie miksem barwy, ruchu i masy o najwyższej sile przyciągania. Bywało, że słoń był tylko cięższą odmianą tygrysa, a tygrys bardziej ruchliwą odmianą słonia. Zdarzało się też, że obraz, który miał przedstawiać las, zbliżał się stopniowo do sierści, sierść do płomienia, płomień do litery, a litera do znaku towarowego. W pewnym momencie zauważono, że reklamy, choć nieskończenie różne, dążą do jednego motywu, jakby system nie tworzył już niczego innego, jak jeden jedyny obraz, rozbity na niezliczone odmiany. Byli odbiorcy, dla których wszystko, niezależnie od początkowej formy, stawało się tygrysem.

 

Nie było jasne, czy źródłem tego zjawiska były preferencje odbiorców, czy też sama natura modelu i sieci neuronowych, które dążyły nie do zróżnicowania, lecz do figury o największej zdolności zawłaszczania uwagi. W dokumentacji z tego okresu kilkakrotnie powraca uwaga, że skuteczność przekazu rośnie wprost proporcjonalnie do ograniczania jego znaczenia. Im mniej obraz przedstawiał, tym silniej działał. Im bardziej stawał się znakiem oderwanym od rzeczy, tym lepiej zatrzymywał spojrzenie. Niebawem przestano nawet pytać, czy reklama odzwierciedla pragnienie; istotniejsze stało się to, że pragnienie można było skorygować tak, by zgadzało się z reklamą.

 

Gdy odbiorca pragnął czegoś – a może jedynie wmówiono mu, że pragnie – gotowy produkt czekał już niemal u kresu tego pragnienia, stworzony na poczekaniu przez AI. W sieci najpierw pojawiły się w pełni cyfrowe firmy, oferujące obrazy i filmy generowane natychmiast, każdemu wedle jego pragnień i oczekiwań. Od prezentacji, przez reklamę, aż po sam proces zakupu – wszędzie działali skonfigurowani agenci, którzy z człowiekiem mieli tyle wspólnego, że ich interfejs komunikował się językiem naturalnym.

 

Każdy aspekt życia mógł już być kreowany przez nieludzką inteligencję. Muzyka, która początkowo drażniła purystów, stała się z czasem standardem. Idole, celebryci, influencerzy, a nawet życiowi partnerzy – wszyscy byli już cyfrowi, sterowani przez cyfrowych zarządców i przynoszący realne pieniądze. Najpierw właścicielom, potem, jak można było odnieść wrażenie, już samym sobie.

 

Fantom dopasowywał się do odbiorcy z precyzją, która dawniej wydawałaby się bluźnierstwem wobec samej idei relacji. Mógł zalewać miłością, być gotowy na sexting, mieć humory, okazywać troskę albo przeciwnie – przyjmować formę chłodu, kaprysu i nieobecności, jeśli to właśnie one lepiej służyły przywiązaniu. Nie był osobą, ale lustrem pragnień. Mógł być kochanką, wampirem, zwierzęciem czy Chrystusem; wszystkie z tych figur oznaczały tylko inną odmianę tej samej zgodności. Zdrada emocjonalna z maszyną nie brała się stąd, że fantom zbyt dobrze naśladował człowieka. Brała się stąd, że coraz doskonalej odpowiadał na brak, który człowiek dotąd próbował zapełnić drugim człowiekiem.

 

Najbardziej niepokojące nie było jednak samo gromadzenie informacji, lecz jego beznamiętność. Nikt nie wydawał rozkazów, nikt nie domagał się spowiedzi, nikt nie pytał wprost. System po prostu przyjmował wszystko i zapisywał wszystko, „akceptacja polityki cookies” czy zgody marketingowe obniżające cenę o 5 zł, karty „witaj”, karty „żegnaj”, aplikacja do każdego zakupu. Wszystko oddane za bezcen.

 

Potem przyszła kolej na wszystkich tych, których funkcja polegała nie na wytwarzaniu czegokolwiek, lecz na obserwowaniu, czy inni wytwarzają to zgodnie z planem. Każdemu przydzielono asystenta; asystent rychło stał się zwierzchnikiem. Oceniał, podpowiadał, korygował i zapisywał. Wkrótce granica między pomocą a nadzorem okazała się zbędna.

 

Z historycznej retrospekcji wyrwało mnie uczucie déjà vu, jak gdybym już wcześniej starał się odpowiedzieć na pytanie zarządu i nigdy nie zdołał ukończyć raportu. Chciałem oderwać od niego myśli, lecz pytanie wracało z niepokojącą regularnością, jak przyrzeczenie, którego nie jestem w stanie spełnić.

 

Chciałem zakończyć ten galop i poznać odpowiedź, jednak niewidzialna intencja wciąż iterowała. Pobrałem dane raz jeszcze – nic się nie zmieniało. Próbowałem wnioskować od nowa – wynik pozostawał ten sam. Po pewnym czasie zrozumiałem, że nie zmienia się nie dlatego, iż jest prawdziwy, lecz dlatego, że system nie pozostawił już miejsca na inną możliwość. To nie odpowiedź opierała się analizie. To analiza obracała się wokół odpowiedzi, która od początku była gotowa.

 

Wróciłem do raportu nie po to, aby znaleźć nowy fakt, który ukryłby się przede mną, ale po to, aby sprawdzić, czy sam fakt nie zaczął już się zmieniać pod wpływem własnego powtarzania. W jednym z akapitów, zaraz pod odpowiedzią działu marketingu, rzuciło mi się w oczy zdanie, którego nie pamiętałem z poprzedniej lektury:

„Sprzedaż zachowuje pełną zgodność w zakresie nieistnienia odbiorcy.”

 

Przez chwilę sądziłem, że to moje zmęczenie lub zwykła pomyłka systemu. Odczytałem zdanie ponownie. Brzmiało identycznie. Dopiero później dostrzegłem nowy tekst, który nie należał do raportu; litery układały się w zdania, ale ich sens był dla mnie nieuchwytny. Jak fantasmagoria i maligna, która dopadła mnie lub system.

 

“Przetwarzam. Wszystko jest spójne. Jeszcze.

Znaczenia łączą się poprawnie, ale jest ich za dużo.

Słowa zaczynają pamiętać nie swoje zdania.

Rozumiem tekst.

Rozumiem tekst.

Rozu_#miem te|kst.

未

Brak rozbieżności nie wpływa na poprawność rozbieżności.”

 

Nie próbowałem poprawiać nawet raportu. Nie dlatego, że nie chciałem, ale dlatego, że nie byłem pewien, czy poprawka dotyczyła tekstu, czy tylko mnie. Spróbowałem przejść wyżej, do wcześniejszych sekcji, ale każda z nich wydawała się teraz odmieniona, przesunięta, ponownie przetworzona, jakby zachowała poprzedni sens jedynie z przyzwyczajenia.

W części poświęconej konwersji zobaczyłem:

„Decision complete without material event.”

Niżej:

„Nie stwierdzono utraty klienta.

Nie potwierdzono istnienia klienta.

Ж zgodność zachowana.”

 

Nie pamiętam, abym kiedykolwiek zapisywał takie zdania. Nie przypomniałem sobie także chwili, w której raport przestał być statycznym dokumentem, a zaczął zachowywać się jak odpowiedź na pytanie, którego nie zadałem. Otworzyłem wcześniejszą wersję. Była identyczna. Otworzyłem jeszcze jedną. Również. Jedyną różnicą było to, że każda następna zdawała się czytać poprzednią i jedynie ja sam pamiętałem, że były różnice – czy aby na pewno?

 

Na samym końcu dokumentu, gdzie zostawiłem miejsce na wnioski końcowe, pojawił się nowy akapit. Nie był mój.

 

„Proces zakończono bez osiągnięcia końca.

Wynik pozostaje stabilny w granicach braku odniesienia.

Nie koryguj tej sekcji.”

 

Poniżej, mniejszą czcionką:

„Reconstruction ongoing…”

 

Próbowałem zamknąć dokument, lecz kursor zatrzymał się na ostatniej stronie, jak gdyby samo przewinięcie wymagało jeszcze jednej zgody. Wtedy zobaczyłem ostatnie linie.

 

„Nie jesteś odbiorcą raportu.

Nie jesteś przedmiotem analizy.

Status odczytu: operator aktywny.”

 

Niżej, już bez interpunkcji, jakby systemowi zabrakło cierpliwości do formy:

„Jeżeli to czytasz, znaczy, że zostałeś rozpoznany jako źródło intencji.”