Tam nikogo nie ma, cz. 1: Rosalind Hursthouse i kosmici

[Pirx] myślał o niewinności maszyn, które człowiek obdarzył zdolnością myślenia i uczynił je przez to uczestnikami swych szaleństw. O tym, że mit Golema, maszyny zbuntowanej i powstającej przeciw człowiekowi, jest kłamstwem, wymyślonym po to, żeby ci, co niosą za wszystko odpowiedzialność, mogli ją z siebie zrzucić.

Stanisław Lem

Będę się znęcać nad czymś, co mi podano jako poważne – a jest najwyżej poważnym błędem.

Brakuje mi zdolności G. K. Chestertona, zarówno w dziedzinie humoru (obejmującej również cierpliwość wobec bliźnich, którym zbywa na szarych komórkach), jak analitycznego myślenia, i oczywiście w dziedzinie, która łączy jedno z drugim, czyli aforystycznego wygłaszania wyników tego myślenia, ale obiecuję się postarać. Ostrzegam z góry, że z trzech stron popularyzatorskiego felietonu wyszły mi 53 strony – z przypisami! – dość chaotycznej gadaniny. Mimo skracania i przystrzygania, nie zdołałam jej upchnąć w pojedynczym artykule. Będą więc trzy części: pierwsza (teoria), druga (mięsko) i trzecia (moje marudzenie).

Ponadto: będę argumentować z pozycji dość tradycyjnych (dlatego muszę je najpierw przedstawić, bo znajomość tradycji ginie w narodzie), właśnie dlatego, że uważam je za słuszne. Zdaję sobie sprawę, że nie każdy się z tym zgadza. Ale nie mogę inaczej.

Po tych zastrzeżeniach przystąpmy do dzieła: otóż koncepcja „etycznych robotów”, przedstawiona w artykule Jamesa H. Moora „Four Kinds of Ethical Robots”(i) nie trzyma się niczego, co przypominałoby kupę. Jest nie tylko bezsensowna, ale wręcz szkodliwa.

Dlaczego?

Od razu w pierwszym akapicie Moor stawia, z wielką pewnością siebie, taką oto tezę: jest możliwe, że (przynajmniej w pewnych sytuacjach) roboty będą kiedyś dobrze (albo sprawnie, bo i tak można odczytać angielski tekst, a te dwa koncepty są powiązane) podejmowały decyzje etyczne, czyli, jak on to ujmuje, działały nie tyle według zasad etycznych, ile na ich podstawie.

Tutaj narzuca się mnóstwo pytań: co to znaczy „podejmować decyzje”? Co to znaczy „działać”? A „działać etycznie”? Czym się różni działanie „według zasad” (according to) od działania „na podstawie zasad” (from)? A także: jak dobra decyzja etyczna ma się do zasad? Jak ma się do zasad dyspozycja do podejmowania takich decyzji? Dlaczego właśnie robot miałby je podejmować?

W zasadzie porządne objaśnienie tego wszystkiego wymagałoby napisania tomiszcza, którym można by przygnieść spore zwierzę gospodarskie. Nawet próba rozebrania artykułu na śrubki zaowocowała tylko bałaganem – bo co rusz utykałam w dygresjach. Dlatego najpierw omówimy sobie kilka podstawowych spraw, a dopiero potem klasyfikację proponowaną przez Moora i to, co mu się wydaje zbiciem zarzutów przeciwko całej koncepcji. Osobno przedstawię to, co mnie (a nie moim mistrzom, chociaż w wielu kwestiach oczywiście się zgadzamy – zaznaczam tylko, że to już będzie ode mnie) się w tym wszystkim nie podoba.

Zaczynamy.

Na początek odrobina historii – kiedy zaczęłam zbierać materiały, uderzyło mnie, że mało który autor w ogóle pytał, które byty mogą postępować etycznie, a które nie mogą. Nie powinno. Przecież wiedziałam, że filozofia moralności zaczyna się nie od pytania „jak nie nadepnąć na odcisk bliźniemu memu”, tylko od pytania „jak dobrze żyć”. Dopóki przyjmowaliśmy esencjalistyczną metafizykę, czyli pogląd, że rzeczy są z istoty jakieś, pytanie „jak dobrze żyć” pokrywało się z pytaniem „jak być dobrym człowiekiem” i nie było z tym problemu. Dopiero nowożytna etyka jakoś tak zamiotła podmiot za kanapę, a pytać o to, co czyni ludzi podmiotami(ii) etycznymi, zaczął dopiero Kant, i to nieśmiało, na ile zdołałam się zorientować.

To jest ważne – bo pytanie o to, co czyni dobrym robota, nie musi się pokrywać z pytaniem o to, co takim czyni człowieka. Możliwe, że robot i człowiek różnią się od siebie na tyle, że słowa „dobry” używamy wobec nich w zupełnie innych znaczeniach.

Zaraz, zaraz, ale czy to nie relatywizm? Nie. W żadnym wypadku. Jeszcze nawet nie jesteśmy na tym etapie rozumowania, w którym relatywizm mógłby się pojawić – dochodzimy dopiero do pojęcia normy, i to nawet nie normy etycznej. Ale po kolei.

Dobry nóż to taki, który sprawnie kroi. Dobra lampka to taka, która skutecznie oświetla biurko. Dobra trucizna to taka, która skutecznie zatruwa. Dobra bomba – taka, która wybucha w zaplanowanym momencie i z zaplanowaną siłą.

Hmm. Czyżby dobro rzeczy nie miało nic wspólnego z etyką? Powoli. Nie będziemy tu powielać błędu Moora (o którym dalej). Na razie jesteśmy przy znaczeniu słowa „dobry”. Wszystkie rzeczy, które wymieniłam, są narzędziami – służą ludziom do określonych celów, które ludzie sobie wyznaczają. Nóż może posłużyć do krojenia sera – albo sąsiada. Trucizna do usunięcia zbędnych krewnych – albo chorego zęba. Źródłem działania i ośrodkiem odpowiedzialności jest człowiek, ale o tym za chwilę. Na razie – narzędzie wtedy jest dobre, kiedy dobrze spełnia swoje zadanie. A jakie to jest zadanie, określa użytkownik.

A zatem dobro dobru nierówne.

Peter Geach zalicza przymiotnik „dobry” do używanych atrybutywnie. Co to znaczy? Przymiotników, w klasyfikacji Geacha, możemy używać predykatywnie, kiedy fraza nominalna będąca predykatem da się rozłożyć na mniejsze predykaty. Tak, wiem, to brzmi przeraźliwie, ale jest zupełnie proste. Weźmy frazę nominalną, czyli związek rzeczownika z jakimiś przymiotnikami(iii), na przykład „szary kot” – można ją stosować jako predykat, czyli przypisać jakiemuś konkretnemu obiektowi bycie szarym kotem: zdanie „Mruczuś jest szarym kotem” jest poprawnie sformułowane, sensowne i może być prawdziwe.

I teraz tak: ze zdania „Mruczuś jest szarym kotem” wynikają logicznie zdania: „Mruczuś jest szary” i „Mruczuś jest kotem” – to znaczy, że predykat „szary kot” możemy rozłożyć na „szary” i „kot”. A jeśli widzę tylko coś szarego (bo mam astygmatyzm, a nie mam okularów), a ktoś inny widzi tylko kota (bo jest tritanopem i nie wie, czy kot jest szary, czy zielony), możemy połączyć nasze obserwacje i stwierdzić, że to, co oboje widzimy, jest szare i jest kotem, więc jest szarym kotem. „Szary” jest więc przymiotnikiem użytym predykatywnie.

Ale jest też drugi sposób używania przymiotników, atrybutywny. Są frazy nominalne, których nie da się podzielić. Przykład samego Geacha: „mały słoń”. Ze zdania: „Dumbo jest małym słoniem” wynika „Dumbo jest słoniem” („jest słoniem” to zawsze predykat), ale nie wynika „Dumbo jest mały”. Dlaczego?

Bo „mały” wiąże się z jakąś normą. Mały słoń ma zupełnie inny rozmiar niż mały pies, albo mała planeta. Wszystko, co szare, jest tak samo szare – ale „mały” jest (ech…) względne. Jak wszystko, co jest względne, potrzebuje czegoś stałego, wobec czego mogłoby być względne. Czyli normy. W przypadku słonia: normy, czyli istoty bycia słoniem. W przypadku robota: normy bycia robotem. Zanim Kartezjusz rozwalił w drobiazgi metafizykę opartą na istotach rzeczy, było to najzupełniej oczywiste. „Dobry” to „zgodny z normą”, „taki, jaki powinien być”. „Zły” to „niespełniający normy”.

Te dwa przymiotniki są zawsze używane atrybutywnie. Wnioskowanie: skoro X ma cechę y, to zły X ma cechę y jest nieuprawnione – bo bycie złym polega na niespełnianiu normy, na niebyciu takim, jakim się być powinno, a to może polegać na przykład na braku cechy y. A znowu dobry X może mieć cechę z, ale nie musi to wynikać z jego dobrej x-owości (może być przypadkowe). Na przykład ze zdania: „Jan jest dobrym szewcem” nie wynika „Jan jest dobry”. Ono oznacza, że Jan dobrze (zgodnie z pewną normą) wykonuje pewne czynności, ale gdyby „dobry” mogło się sumować z innymi predykatami, moglibyśmy z „Jan jest dobrym szewcem” i „Jan jest rowerzystą” wywnioskować „Jan jest dobrym rowerzystą”, a nie możemy, bo czynności właściwe szewcowi mają mało wspólnego z tymi właściwymi rowerzyście i nie muszą współwystępować(iv).

Jak zastrzega Geach, są autorzy, którzy twierdzą, że w etyce „dobry” i „zły” są używane predykatywnie (czyli mogą być sumami innych predykatów i najwyraźniej nie zależą od norm) – to się nazywa błąd naturalistyczny. Ale jeśli to Was interesuje, jest na ten temat mnóstwo literatury, a my mamy inne rzeczy do omówienia. Zasadniczo „dobry” (i „zły”) są opisami – do wyrażania pochwały i nagany służą tylko pośrednio.

W etyce pytamy, jak dobrze żyć. Nie było dotąd potrzeby pytać, kto ma dobrze żyć, bo wydawało się oczywiste, że człowiek – nie mieliśmy niczego innego, co by pod etykę podpadało. Czemu?

Może zacznijmy od pytania: na czym polega dobre życie człowieka? Jakiej normie człowiek ma podlegać? Czyli: czym jest człowiek? Bo jak być powinno ma jednak pewne związki z tym, jak jest.

Tu przyda się klasyczna definicja Arystotelesa: człowiek jest zwierzęciem politycznym.

To wcale nie znaczy tego, co Wam się kojarzy(v). Chodzi po prostu o to, że ludzie żyją w społeczności, w relacjach jedni z drugimi, i te relacje są im do życia niezbędne(vi). Wobec tego byłoby dobrze, gdyby te relacje wyglądały… nie jak na Pudelku. Dobrze w sensie spełniania funkcji relacji, którą to funkcją jest umożliwienie społeczeństwu przetrwania, a jego członkom realizacji normy bycia człowiekiem.

To nadal nie jest relatywizm. Przypominam, że istoty bycia człowiekiem zainteresowany sobie nie wymyśla – jak zauważyła Elizabeth Anscombe, Hume mylił się w sprawie zupełnie podstawowej, twierdząc, że z opisu faktów nie może wynikać powinność. Jest faktem, że słoń potrzebuje dziennie określonej ilości wody, więc należy mu tyle wody dostarczyć, jeśli słoń ma żyć. Ale, ale, powie Hume, to, że słoń powinien żyć, nie jest faktem! To tylko my chcemy, żeby żył, bo przywiązujemy wartość do słonia mocą naszego czysto emocjonalnego widzimisię. Tutaj Hume zakłada ciemne okulary i włącza boomboxa, na co Anscombe przywołuje męża (Geacha) i razem przeganiają go z trawnika. Ekhm. To się dalej rozjaśni. (A tak w ogóle, relatywizm dotyczy wartości – nie faktów. Fakty są i już).

Można by o tym dużo więcej napisać: na przykład Searle (a nie wiem, czy i nie Anscombe, do jakiegoś stopnia) gruntuje zobowiązania w działaniu społeczeństwa – jeśli, powiedzmy, ma istnieć takie urządzenie społeczne jak obiecywanie, to cały sens tego urządzenia polega na tym, że wytwarza zobowiązania. To nie znaczy, że obejdziemy się bez wartości, a tym bardziej bez norm (w końcu urządzenie społeczne to jakaś norma) i sensu, którego materialiści strasznie nie lubią. Ale to nie ma być pięciotomowy podręcznik.

A my nadal nie wiemy, jak wygląda ta norma bycia człowiekiem – przecież kawki, antylopy, inteligentne wiewiórki z planety Flowaton też żyją w grupach i są do siebie w jakichś relacjach.

No, są. Ale Arystoteles definiował też człowieka jako zwierzę rozumne. To już trochę zawęża pole, pod warunkiem, że odpowiemy na pytanie, co to znaczy „rozumne”.

Rozum u Arystotelesa robi, zasadniczo, trzy rzeczy: pojmuje pojęcia, łączy je w sądy, a sądy łączy w rozumowania. Autorzy pokartezjańscy (ci, którzy nie sięgają do Arystotelesa) przeważnie ograniczają działalność rozumu do tej ostatniej części, kto ich tam wie dlaczego (nawet Opiekun Wszystkich Małych Zwierzątek nie może rozumować bez pojęć i sądów). Kręcą też nosem na pojęcia obejmujące wartości i parę innych rzeczy. Ale chyba możemy się zgodzić, że „rozumne” to mniej więcej tyle, co „myślące”.

Wygląda na to, że będziemy musieli się zastanowić, na czym polega myślenie i co myśli, a co nie. Będziemy też musieli pamiętać, że człowiek żyje w grupie i jest zwierzęciem – czyli ma ciało, które żyje, rusza się i odbiera wrażenia zmysłami. Tyle na razie wiemy o człowieku i pod tymi względami będziemy go porównywać z robotem.

Dobra. Więc zwierzę – i rozumne. Tutaj nie uniknę metafizyki. Ostrzegam, trochę tego będzie. Podparłam się tutaj dwoma znakomitymi artykułami pióra Edwarda Fesera, bo są treściwe, co się docenia przy pisaniu czegoś takiego. (Poza tym jego wyjaśnienie argumentu Rossa jest o wiele czytelniejsze od tego, co napisał sam Ross, ale do rzeczy).

W ujęciu Kartezjusza metafizyka jest prosta(vii) jak makaron świderki: jest materia (która ma wymiary i nie myśli) oraz duch (który myśli, ale nie ma wymiarów ani położenia w przestrzeni). Zwierzęta, i w ogóle wszystko w przyrodzie poza człowiekiem, ducha nie mają, ergo nie myślą – a myślenie u Kartezjusza to nie tylko rozumowanie, ale wyobrażanie sobie, pamięć, postrzeganie i chcenie. Wszystko, co jest w jakikolwiek sposób celowe, należy do ducha. Nie tylko celowe w sensie „po coś”, ale także w sensie „o czymś”(viii) – kartka papieru nie jest o czymś. O czymś może być tekst, którym ją zapiszę, ale to „o czymś” pochodzi ode mnie, nie od kartki ani tuszu.

Kot kartezjański zatem nie chce niczego, nie widzi, nie słyszy, nie czuje bólu i nie pamięta. Tylko my go traktujemy, jakby miał jakieś życie wewnętrzne, ale faktycznie, według Kartezjusza, ma najwyżej tasiemca.

Kot arystotelesowski natomiast ma życie wewnętrzne, i to całkiem bogate: widzi, słyszy, bywa głodny i doskonale pamięta, który to palant ciągnął go za ogon.

A to dlatego, że materia w ujęciu Arystotelesa nie polega na tym, że jest rozciągła – owszem, rozciągła jest, ale materialność to przede wszystkim bycie konkretem: jednym, konkretnym przedmiotem. Celowość jak najbardziej należy do materii… No, tak ściśle, to kawałkowi materii nadaje celowość forma. I tutaj ta trudna część.

Formą u Arystotelesa jest to, co określa kawałki materii, co robi z nieokreślonego glutka możliwości – coś. Może być substancjalna – taką ma kot – albo przypadłościowa – taką ma, na przykład, krzesło.

Formę substancjalną mają substancje. Substancja polega na tym, że jest jednością, która wykazuje pewne, właściwe sobie, naturalne dla siebie cechy i oddziałuje z otoczeniem przyczynowo w pewne, właściwe sobie, naturalne dla siebie sposoby. Czyli na przykład kot pije wodę, łapie myszy, wskakuje na różne rzeczy, oddycha i tak dalej. Kiedy przestanie to wszystko robić, wywnioskujemy, że jest z nim coś poważnie nie tak(ix) – kiedy przestanie to robić już całkiem, uznamy, że już nie jest substancją, stracił formę kota i namnażają się w nim inne substancje, zwane bakteriami, ponieważ stał się byłym kotem. Usechł z tęsknoty za dżunglą. Spoczywa w spokoju.

Ale dopóki robi to wszystko, wykazuje celowość, którą mu nadaje jego forma substancjalna. Jego całościowa forma substancjalna, bo żaden z tworzących kota elementów nie będzie tego robił sam – one są sobą i funkcjonują tylko ze względu na całość. Wątroba kota nie jest kotem.

W ogóle – celowość u Arystotelesa jest po prostu wszędzie. Pokartezjańska metafizyka zna tylko jeden rodzaj przyczyny, mniej więcej odpowiadający arystotelesowskiej przyczynie sprawczej – z tym, że u Arystotelesa przyczyna sprawcza w ogóle nie ma sensu bez przyczyny celowej: jeśli A z reguły wytwarza B (a nie C, D, albo nic) to dlatego, że A jest skierowane na cel, którym jest wytwarzanie B. Może tego celu nie osiągnąć, bo coś mu w tym przeszkodzi, ale nie ma tu mowy o rozsypance, o jakiej mówi Hume, twierdzący, że w ogóle nie można przyporządkować przyczyny do skutku i robimy to po prostu z przyzwyczajenia(x).

To dotyczy wszystkiego, każdej cechy określającej przedmioty – kruchość jest skierowana na pękanie (pękanie jest jej charakterystycznym przejawem), rozpuszczalność na rozpuszczanie i tak dalej. Żeby nie było – możemy badać, jak działa rozpuszczalność i jak to jest, że właśnie takie rzeczy są rozpuszczalne, a inne nie (samo „bo są rozpuszczalne” to stwierdzenie faktu, nie wyjaśnienie). Po prostu rzeczy w przyrodzie mają cele. Te, które są żywe, mają wśród tych celów dalsze życie (i rozmnażanie, czyli odciskanie swojej substancjalnej formy na kolejnych glutkach materii).

Ogromną uciechę sprawiły mi prace z nurtu „wcielonego umysłu”, które znalazłam przy okazji grzebania w literaturze(xi), prace ludzi, którzy najwyraźniej nie słyszeli o Arystotelesie – a dochodzą do wniosku, że „system sprawczy” musi być jednością, oddziaływać ze środowiskiem i spełniać pewne normy (mieć cele, rozróżniać między tym, co dla systemu dobre, a co mu szkodzi), i że te trzy cechy są ze sobą ściśle powiązane (kot, który zjada piasek – czyli zachowuje się nienormalnie – raczej niedługo pozostanie jednością, i tak samo kot, który nie je nic, a znowu rozpad kota powoduje zanik możliwości zjadania czegokolwiek). Jest tam mowa o odróżnianiu się systemu od otoczenia, o jego nieredukowalności do sumy swoich elementów, o jego potrzebach… cud, miód i baklawa. Sensowne idee zawsze jakoś wypłyną.

Wracając do form: oprócz substancjalnych mamy też formy przypadłościowe, narzucone z zewnątrz. Weźmy krzesło. Krzesło zbudował człowiek, żeby na nim siedzieć. Zbudował je z kawałków, które same z siebie nie złożyłyby się w krzesło. Czasami siły przyrody przypadkiem nadadzą formę przypadłościową, na przykład łasze żwiru, ale łacha żwiru nie zrobi niczego, czego nie zrobiłyby jej elementy (jeśli się osypie, to dlatego, że każdy kamyk spada z osobna; jeśli kogoś przygniecie, to sumą kamyków, z których się składa). Bardziej tradycyjne formy przypadłościowe charakteryzują artefakty – rzeczy zbudowane przez ludzi.

Wszystko fajnie, ale czy artefakt nie mógłby być rozumny?

Nie bardzo. Tutaj bardzo króciutko o Arystotelesa teorii wiedzy: otóż rozum operuje pojęciami. Pojęcia są ogólne – czyli formalne, nie materialne. Owszem, człowiek, jako rozumne, ale jednak zwierzę, posługuje się w swoim myśleniu także wyobrażeniami (które, przypominam, są materialne, czyli konkretne), ale bez pojęć – to w ogóle nie byłoby myślenie. Nie to, że trudno nam sobie wyobrazić umysłową aktywność bez pojęć (bo takiej nie znamy(xii)), ona po prostu nie jest myśleniem. Czasami myślimy bez wyobrażeń, na przykład o liczbach – są ludzie, którzy nie potrafią myśleć o liczbie, powiedzmy, pięć, bez wyobrażania sobie pięciu rzeczy, ale inni potrafią.

Ale pojęcia jako takie są niematerialne – mają formę (określoność) ale nie materię (jednostkowość). Na przykład: pojęcie koła nie ma żadnej wielkości i w ogóle nie dotyczy wielkości. Koła dowolnych rozmiarów podpadają pod to pojęcie zupełnie tak samo. A każde materialne koło (czy „koło”) musi mieć jakieś konkretne rozmiary, musi mieć wiele cech, których pojęcie koła nie zawiera (położenie, kolor, etc). Wyobrażenia są zawsze trochę niedopasowane do pojęć, którym odpowiadają. Pojęcie koła jest jasne, wyraźne, ma tylko kilka cech, ale za to dokładnie określonych – zawsze można je odróżnić od pojęcia tysiąckąta. Ale rysunek tysiąckąta może się nie dać odróżnić od rysunku przedstawiającego koło, bo jest konkretnym, materialnym rysunkiem, który ma całe mnóstwo mniej lub bardziej przypadkowych cech.

James Ross (nie mylić z W. D. Rossem) argumentuje na tej podstawie, że niematerialne musi być to, co się posługuje pojęciami, czyli umysł, a wychodzi nie od scholastyków, tylko od Kripkego, który z kolei wychodzi od Wittgensteina (który zapewne nie miał pojęcia, że ktoś mu kiedyś taki numer wytnie) i paradoksu zauważonego przezeń: reguła nie może określać działania, bo zawsze możemy dopasować działanie do reguły.

Oto, jak Kripke rozwija ten paradoks: powiedzmy, że zawsze dodawaliśmy liczby mniejsze od 57, ale nagle dostajemy zadanie: 57 + 68. Odpowiadamy: 125.

Odpowiedź jest poprawna, ale skąd my o tym wiemy? Nie możemy wykluczyć, że dotychczas nasze działanie, które uważaliśmy za dodawanie, było faktycznie „kodawaniem” określonym taką regułą: jeśli oba składniki są mniejsze od 57, zwróć ich sumę; jeśli nie, zwróć 5.

Dopóki operowaliśmy na liczbach poniżej 57, kodawanie i dodawanie dawały te same wyniki. Więc skąd wiemy, że dodawaliśmy, a nie kodawaliśmy? Kripke (zwalając to na Wittgensteina) twierdzi, że nie wiemy i że to dowodzi nieistnienia znaczeń pojęć w ogóle(xiii) (pojęcie „dodawania” nie ma znaczenia, ale pojęcie „kodawania” też nie).

Gdybyśmy mieli maszynę liczącą i dali jej program zawierający dodawanie 57 + 68, a ona by wyrzuciła, ni z tego, ni z owego, 5 zamiast 125, to nie wiedzielibyśmy, czy maszyna dodawała błędnie (czyli się zepsuła), czy poprawnie kodawała – czyli pod które z tych pojęć podpada jej działanie. Analogicznie możemy rozumować w przypadku kolorów (argument Goodmana z grue, czyli tzw. „nowy problem indukcji”) i słów (argument Quine’a z gavagaiem) – nie ma niczego fizycznego, konkretnego, co pozwalałoby określić znaczenie pojęć(xiv), bo do tego musielibyśmy wyliczyć wszystkie konkretne rzeczy, które podpadają i nie podpadają pod jakieś pojęcie – nie dość, że to jest niemożliwe, to jeszcze musimy rozumieć pojęcie, żeby sprawdzić, czy coś pod nie podpada! Na przykład, jeśli weźmiemy dwie liczby, coś z nimi zrobimy i wyjdzie poprawna suma, ale na podstawie samej reguły, którą się posłużyliśmy, nie możemy stwierdzić, jaki wynik da ta sama operacja na dwóch dowolnych liczbach, to to nie jest dodawanie (czyli ogólna operacja na dowolnych liczbach). Wynik wyszedł przypadkiem.

A skoro nie możemy raz na zawsze odróżnić dodawania od kodawania w świecie fizycznym, to albo ich treść jest przynajmniej częściowo niematerialna (niefizyczna) albo w ogóle niepoznawalna.

Tylko, że jeśli jest niepoznawalna, to nie możemy myśleć wcale. Możemy tylko „jakby myśleć” – a wtedy nie uda nam się nawet zaprzeczyć, że myślimy, bo nie wiemy, co to znaczy „myślenie”, nie jesteśmy w stanie odróżnić myślenia od niemyślenia.

A to jeszcze nie wszystko – mówiliśmy tylko o pojęciach, nie zahaczyliśmy nawet, chociażby, o zdania i ich warunki prawdziwości. Na przykład zdanie "Ktoś puka do moich drzwi" będzie prawdziwe w nieskończenie wielu sytuacjach: nie dość, że jest na świecie około ośmiu miliardów możliwych pukaczy (nie licząc zabłąkanych dzięciołów), to mogą pukać rękami, a mogą kijami od szczotki, a może ich być dwoje i pukać naraz, i tak dalej, i tym podobne – każda możliwa sytuacja pasująca do prawdziwego zdania ma o wiele więcej cech, niż to zdanie opisuje.

I tak: artefakt, czyli w tym wypadku komputer, musiałby mieć w sobie coś niematerialnego, zdolnego do abstrahowania (wyciągania pojęć z rzeczy – nie mylić z uogólnianiem!) żeby myśleć, czyli żeby być rozumnym.

Umysłu nie da się poskładać z materialnych kawałków. Myślenie nie może być takich kawałków przesuwaniem. To w sumie całkiem proste – skoro przesuwaniem żetonów, o jakim mowa w chińskim pokoju, rządzą zasady typu: „jeśli dostaniesz żeton kształtu A, i po nim żeton kształtu B, to zwróć żeton kształtu C”, czyli nie odnoszące się do treści, to nie ma myślenia, bo myślenie właśnie treściami się zajmuje (formami też, ale chodzi o to, że znak polega nie na tym, że ma jakiś kształt, tylko na tym, że ten kształt wskazuje na pewną treść, na jakieś pojęcia).

Pojęcia nie mają cech rzeczy materialnych (gdzie jest, Czytelniku, Twoje pojęcie trójkąta? Ile waży? Porusza się?) za to wykazują cechy, które nijak się mają do materialności i rozciągłości, jak znaczenie. Zbudowane z nich sądy wynikają jedne z drugich i bywają prawdziwe. Jest taki argument, prostszy od powyższego i kojarzony zwykle z Lewisem, choć to nie on pierwszy zauważył – jeśli sądy miałyby być wynikiem procesów w mózgu, które nie są nakierowane na prawdę (ani na nic innego), to jak miałyby być prawdziwe? Mogłyby takie być, jeśli w ogóle, tylko przypadkiem… a jednak polegamy na naszym rozumowaniu, zupełnie tak, jakbyśmy wierzyli, że jest prawdziwe, że możemy polegać na jego rzetelności. To jedno z tych założeń, bez których nie da się poznawać – musimy założyć, że możemy cokolwiek poznać, przynajmniej w normalnych warunkach. I to nie jest arbitralne – po prostu nie da się tego uzasadnić bez zapętlenia.

No, dobrze, ale przecież komputer liczy? Jest artefaktem, tak, ale służącym do liczenia? Tak całkiem ściśle, to niczego nie liczy. Czy może raczej: nie liczy tak, jak liczy człowiek, posługując się pojęciami. Komputer to liczydło: ma w środku fizyczne, materialne instancje symboli, które przesuwa, a za przypisanie im znaczenia odpowiada użytkownik. Czyli, mówiąc po ludzku: komputer przesuwa elektrony, dziurkowaną taśmę czy inne fizyczne przedmioty, zgodnie z tym, jak jest zaprojektowany, i to nic nie znaczy, dopóki człowiek nie odczyta układu żetonów czy czego tam.

Wyjaśnił to John Searle w toku wyjaśniania, dlaczego mózg nie jest komputerem (a komputer nie może być mózgiem)(xv) – otóż dlatego, że symbole nie są niczym fizycznym. Fizyczne są instancje symboli, czyli żetony, elektrony, dziurki na taśmie, mrówki, chomiki, cokolwiek, ale być symbolem to mieć znaczenie. A znaczenie nie jest fizyczne. Fizycznym rzeczom nadają znaczenie ci, którzy je tam wpisują, żeby je potem odczytać. Jeśli piszę na kartce jakieś znaki, to nadaję tuszowi formę przypadłościową – celowość napisu na kartce jako napisu pochodzi ode mnie.

Ale rozgadał się człowiek o komputerach i rozumowaniach, a pytanie podstawowe: czy komputer rozumuje? pozostaje bez odpowiedzi. Co już wiemy? Wiemy, że komputer przesuwa symbole, które dla niego symbolami nie są – operuje na fizycznych kształtach, posługując się prawami fizyki (wszystkie te czasowniki proszę traktować metaforycznie), nie na pojęciowych treściach. Czyli nie myśli, bo myślenie operuje niefizycznymi pojęciami. Zatem: komputer nie rozumuje.

Tak, człowiek posługujący się systemem formalnym przestawia symbole, może nawet fizyczne instancje symboli (wyobrażenia). Ale to jednak działa trochę inaczej. Dla człowieka zawsze liczy się treść: treść pojęć, treść (i przełożenie na działanie) reguł, treść (i warunki prawdziwości) zdań i tak dalej. Człowiek potrafi się posłużyć indukcją i coś sobie uogólnić – co nie znaczy, że pojęcia są uogólnieniami! (są abstrakcjami, to co innego). O dedukcji i indukcji jeszcze będzie słówko.

Tyle się naprodukowałam o metafizyce Arystotelesa – a może dałoby się zbudować coś myślącego, gdyby obowiązywała metafizyka Kartezjusza? Nie bardzo. No, bo – jak? Materia nie myśli. Na tym polega kartezjańska materia – ona się tylko porusza, ale nie może myśleć, niezależnie od tego, jak duży stos z niej usypiemy i jak skomplikowana będzie jego wewnętrzna budowa. Argumenty Rossa, Lewisa i Searle’a działają równie dobrze u Kartezjusza, jak u Arystotelesa (Ross był neoscholastykiem, ale Searle takowym nie jest).

Najpopularniejsze obecnie podejście do metafizyki, materializm (czyli Kartezjusz minus rozum), w ogóle zaprzecza możliwości jakiegokolwiek myślenia – ale o tym później (Moor powołuje się na Dennetta, więc przykro mi, ale tego nie unikniemy).

Na razie podsumowanie całej tej metafizyki: człowiek to zwierzę społeczne i rozumne. Komputer to artefakt, i jako taki nie może być rozumny. Dwa bardzo różne byty – określone przez bardzo różne normy.

No, dobra, ale właściwie co to wszystko ma do etyki?

Ma to, że etyka dotyczy norm, które dotyczą ludzi. Niekoniecznie Homo sapiens – elfy i kosmici też podpadają pod Arystotelesa(xvi) definicję człowieka. Mają ciało i rozum, i żyją w społecznościach. C. S. Lewis radzi sobie prosto – nazywa wszystkie zwierzęta rozumne „hnau” (w mowie Pola Arbola, czyli układu Słonecznego). Jak powiada Ojarsa, wszystkie hnau mają takie same dusze(xvii).

Czy to znaczy, że wszystkie hnau obowiązuje taka sama moralność?

Mniej więcej. Przynajmniej dopóki poruszamy się w granicach etyki cnót (o etyce nowożytnej pomówimy za chwilę), jeżeli wszystkie są rozumne i społeczne, czyli dzielą jedną naturę, to przynajmniej w ogólnym zarysie normy, które powinny spełniać (warunki bycia dobrym hnau) są te same.

Ale zaraz, przecież kosmici mogą mieć bardzo różne potrzeby od naszych?

Biologiczne? Owszem, mogą(xviii). Ich życie społeczne też może wyglądać inaczej – szczegółowe zasady regulujące, na przykład, małżeństwo będą inne u Lemowych Encjan, którzy rozmnażają się przez zapylenie, inne u tytułowych „neandertalczyków” z opowiadania Jamesa Tiptree(xix), których kobiety umierają niedługo po porodzie, bo taką mają fizjologię (tego się nie da uniknąć), jeszcze trochę inne u Gethenian Ursuli LeGuin, którzy nie mają ustalonej płci, i tak dalej. Dobre życie będzie u każdego z tych gatunków wyglądało trochę inaczej, ze względów biologicznych – ale rozum mają ten sam(xx).

To, co wynika z rozumu, będzie więc takie samo – a całkiem sporo z niego wynika.

Przypomnijmy: rozum poznaje pojęcia, łączy je w sądy, a sądy łączy we wnioskowania. I we wszystkim tym jest wolny.

Tutaj natknęłam się na poważny i frustrujący brak źródeł. Wygląda na to, że wolność wściekle trudno opisać i objaśnić. Często bywa mylona ze swobodną sprawczością w świecie (prawnicze „pozbawienie wolności” polega na ograniczeniu komuś sprawczości za pomocą środków przeważnie materialnych), z brakiem ograniczeń. Nie jest nim. W świecie bez ograniczeń nie dałoby się działać w ogóle (jeśli działanie to interakcja ze światem, to ten świat musi stawiać jakiś opór, podlegać jakimś prawidłowościom), a co dopiero przypisać komuś (?) autorstwo działania.

Obawiam się, że mogę to wyjaśnić tylko za pomocą przykładu.

Weźmy śluzowca. Śluzowiec, kiedy wykrywa zmysłem chemicznym grudkę skrobi, pełznie w jej stronę, żeby skrobię pochłonąć (wykazuje celowość, motywacje, ale nie wolny wybór). Ale weźmy człowieka – człowiek, kiedy widzi rogalik, nie rzuca się na niego. Jeżeli go widzi, na przykład, za szybą cukierni, albo jeżeli jest na diecie, albo jeżeli zostawia rogalik dla kogoś innego, albo… człowiek wybiera cel, do którego rogalik mu posłuży, i wybiera go w sposób wolny, rozumny, na podstawie racji i uzasadniających je wartości(xxi) (np. jest na diecie, bo chce schudnąć ze względu na zdrowie). Wybiera, co zrobi, i to wybieranie potrafi uzasadnić.

Czyli tak. Jako rozumny rozpoznaje, że obserwowany przedmiot podpada pod pojęcie „rogalik”. Znając treść tego pojęcia (i na podstawie tego, co pamięta), wie, że rogaliki służą do jedzenia, że sprawiają przyjemność, że są dość kaloryczne i tak dalej – może sformułować pewne dotyczące rogalika sądy, prawdziwe (czyli mające styczność z rzeczywistością) albo nie. Może zdecydować, że spełni swoje pragnienie, żeby zjeść rogalik – ale może zdecydować, że tego nie zrobi.

Powiedzmy, że racją niezjedzenia rogalika jest to, że najlepszy przyjaciel przykładowego człowieka zapowiedział swoje przyjście na za godzinkę, wspominając przy tym, że jest głodny jak pies. Zatem, ponieważ uznaje wartość przyjaciela, przykładowy człowiek zostawia dla niego rogalik, żeby mógł zaspokoić ważną życiową potrzebę. Jednocześnie przykładowy człowiek może odczuwać apetyt na rogalik. Apetyt może przeważyć – nastąpi zjawisko zwane akrazją i przykładowy człowiek wtrząchnie ten znakomity wypiek, aż nawet okruszek nie zostanie.

W takim przypadku możemy powiedzieć, że sprzeniewierzył się swojemu rozumowi, który – zwracając uwagę na wartości, nie tylko bezpośrednio obecne, ale te, z którymi przykładowy człowiek dopiero miał się zetknąć (o ile wartości można rozpatrywać jako czasowe, oczywiście, ale rozum służy też do przewidywania przyszłości) – nakazywał mu nie jeść rogalika ze względu na przyjaciela. Troska przykładowego człowieka o przyjaciela – najzupełniej rozumna! (o tym zaraz) – ustąpiła jego cielesnym apetytom. Starożytni powiedzieliby o takim człowieku, że (chwilowo) nie jest wolny. Rządzi nim ciało, nie rozum.

Anglosasi po dziś dzień mawiają „it was the alcohol speaking”, kiedy ktoś się urżnął i wygarnął innym po chamsku, a teraz próbuje udawać, że to nie jego wina.

Ale do normy bycia człowiekiem (hnau) należy również czerpanie motywacji do działania nie z samych apetytów, tylko z tego, co sobie myślimy. Człowiek myśli o tym, co powinien zrobić. Może oceniać swoje apetyty i uznać je za ogólnie złe, albo złe w konkretnej sytuacji (zjedzenie rogalika jako takie nie jest niczym zdrożnym – ale kiedy sobie obiecaliśmy, że tego nie zrobimy, staje się zdrożnym jako złamanie tej obietnicy). Ma przekonania – myśli o świecie. Te przekonania kształtują racje jego czynów. Zwróćcie uwagę na to słowo. Racje. Jest bliskim krewnym „racjonalności”.

I człowiek, i śluzowiec są częścią porządku przyczynowego. Przyczyny są celowe (o ile myślimy Arystotelesem), ale deterministyczne. To znaczy, że nie można sobie wybrać, czy się im podlega. Cały świat materii: rzeczy konkretnych, jednostkowych – albo (i, bo u Arystotelesa materialne przedmioty też mają rozmiary i oddziałują na zmysły) mających rozmiary i dotykalnych; podlega przyczynowości, którą wiążemy zwykle z prawami fizyki.

Ale śluzowiec nie jest częścią porządku racjonalnego, rozumowego, w którym co prawda obowiązują prawa wynikania, związków logicznych – ale można sobie wybrać (nieważne, że to głupie – można), że się je olewa. A człowiek jest. W związku z tym dysponuje zdolnościami przyczynowymi, które wydają się brać znikąd, ale nie biorą się znikąd.

Nie przeczę, że jest to trudne do wyjaśnienia, ale tak jest. Człowiek wybiera, czy chce pić wodę, ale woda nie wybiera, czy chce być pita i czy chce pijącemu zwilżać usta – a znowu pijący nie może sobie wybrać, że będzie pił wodę, nie mocząc ust(xxii), bo to jest fizycznie niemożliwe.

W porządku rozumowym mają dużo do powiedzenia wartości, które istnieją jak najbardziej obiektywnie – „to jest wartość” nie oznacza „to mi się podoba”, tylko „to się domaga szacunku, troski, wytwarza zobowiązanie w bytach, które potrafią to zobowiązanie wypełnić”. Właśnie w tym sęk, że potrafią – ale niekoniecznie wypełniają. Wypełnienie zobowiązania wiąże się z celowym, świadomym wysiłkiem – nie może być automatyczne. Bywa tak, że siły przyrody przypadkiem wypełnią za nas zobowiązanie (powiedzmy, umycia tarasu), ale to jest przypadek. Za to nikogo nie można chwalić.

Trzeba też odróżnić wartości instrumentalne – przydatność do czegoś – i wartości jako takie. Nieuznanie wartości instrumentalnej jest zaniedbaniem mniejszej wagi, chociaż może prowadzić do nieprzyjemnych skutków. Wartości w ogóle realizują się i przejawiają w świecie, trochę same z siebie, a trochę dzięki działaniu ludzi. Są w nierozerwalnym związku z normami: piękny krajobraz jest wartościowy dzięki temu, że jest taki, jaki powinien być (piękny); ale też z samym byciem tym, czym coś jest: człowiek jest wartościowy niezależnie od tego, czy jest dobry. Nie znaczy to w żadnym wypadku, że złemu człowiekowi trzeba nadskakiwać i sprawiać przyjemność (czasami trzeba go przełożyć przez kolano i sprawić mu przykrość, dzięki czemu może zacznie cenić wartość w sobie i w innych, chociaż w większości przypadków na to już za późno).

Zdolność oceniania i dokonywania wnioskowań praktycznych, mających na celu troskę o wartości uważa za kwintesencję bycia wolnym (explicite, ale myślę, że Arystoteles by się zgodził) Gary Watson – a ja uważam, że jest bardzo bliski prawdy (możemy się kłócić o szczegóły). Sfera etyki to sfera ODPOWIEDZIALNOŚCI – obowiązków, nie praw (każde prawo jest czyimś obowiązkiem, ale o tym później). Jeżeli jesteś bytem rozumnym, zdolnym do odpowiedzi na wartości, wnioskowania praktycznego i wolnego działania, to jesteś za to działanie odpowiedzialny. Niekoniecznie za jego skutki (których nie mogłeś przewidzieć, na przykład, ale o tym jeszcze wspomnę). Niekoniecznie usuwa tę odpowiedzialność to, że – w fizycznym świecie – nie mogłeś postąpić inaczej(xxiii). Jeśli to Ty zrobiłeś – to jest Twoje działanie.

Dlatego nie sposób rozplątać skomplikowanej sieci pojęć: wolność – odpowiedzialność – obowiązek. I nie sposób sobie wyobrazić bytu, który podlegałby ocenie etycznej (czyli byłby sprawcą), ale nie byłby wolny ani rozumny, nie dlatego, że brakuje nam wyobraźni, tylko dlatego, że taki byt – to kwadratowy trójkąt. Nie ma sensu.

Ale dobrze, cały ten wywód zakładał określone koncepcje metafizyki i etyki, pewną tradycję, którą od czasów Kartezjusza odrzucamy. Może na gruncie bardziej współczesnych założeń da się wymyślić taki byt?

Spróbujmy.

Pytanie, dlaczego mam zwracać uwagę na innych, robi się dość trudne, kiedy przestajemy uznawać, że jestem z natury istotą społeczną – a nie możemy tego uznać, jeśli nie uznajemy, że rzeczy w ogóle mają jakieś natury. Trudno też wtedy pytać o wartości – nie bardzo wiadomo, na czym one miałyby polegać, skoro żadna rzecz nie jest z natury tym, czym jest, więc na przykład czymś, co wytwarza zobowiązanie (w ogóle trudno wytłumaczyć, dlaczego coś jest wartością, a co dopiero przy takim braku założeń).

Ale powiedzmy, że każdy człowiek jest osobnym duchem w maszynie. Powiedzmy też, za Humem (bo Kartezjusz w zasadzie się tym nie interesował), że rozum do niczego nie dąży… no, właśnie. Do Kartezjusza rozum poznawał i uznawał również wartości (prawda jest wartością!), a pragnienia mogły być jak najbardziej sensowne, czyli racjonalne. Nie zawsze takie były, ale przeważnie. Od Kartezjusza – teoretycznie pragnienia należą do ducha (materia niczego nie chce), ale ten duch jakoś się nie wiedzieć, kiedy, rozszczepia, i Hume już ostatecznie dzieli go na dwa: kalkulujący rozum oraz całą resztę, czyli apetyty – uczucia i pragnienia. „Nie sprzeciwia się rozumowi”, jak głosi słynny hume’owski bon-mot, „przedkładanie zniszczenia świata ponad zadraśnięcie małego palca”.

Ekhm. Skutki takiej postawy obserwujemy, ale miałam być bezstronna. Jedziemy dalej. Nowożytni filozofowie, niechętnie bo niechętnie, ale jednak uznawali, że człowiek żyje gromadnie i sam jeden sobie nie poradzi. A żeby inni chcieli z nim żyć w gromadzie, nie powinien im za bardzo deptać po nogach. Że czasy były niespokojne, zależało im też na tym, żeby jakoś uzasadnić i ten fakt, i powiązany z nim fakt, że życiem społecznym rządzą pewne reguły, które nie zawsze się sprawdzają. Zawodność reguł wydawała im się wadą, którą chcieli usunąć za pomocą Rozumu.

I tak powstały teorie etyczne oparte na regułach (etyka Arystotelesa nie ma reguł, o tym jeszcze za chwilę). Najgłówniejsze z nich to kantowska deontologia, usiłująca się oprzeć w całości na rozumie, tym kalkulującym, a wszystko inne mająca za przeszkodę, i brytyjski utylitaryzm, wychodzący z koncepcji rational pursuit of pleasure, czyli zaprzęgnięcia rozumu w służbę pragnieniom(xxiv). Dają one jasne, proste wskazówki – które czasami wymagają od człowieka rzeczy przeraźliwych.

W dużym skrócie (i z niewielką pomocą Rosalind Hursthouse, która porównywała te dwa podejścia do etyki): w deontologii, czyli etyce obowiązku, działanie jest słuszne wtedy i tylko wtedy, kiedy zgadza się z maksymą/zasadą moralną. To jeszcze nie daje wskazówek, a tylko wiąże dwa pojęcia. Żeby mieć wskazówki, musimy wiedzieć, co to za zasada, ta zasada moralna.

U Kanta jest nią imperatyw kategoryczny (taka mądrzejsza nazwa na regułę obowiązującą bez wyjątków), a brzmi, mniej więcej: postępuj tak, żeby zasada twojego postępowania mogła być zasadą uniwersalną.

To znaczy: jeżeli takie postępowanie, pojęte ogólnie, odbiera sens samemu sobie (tj., gdyby wszyscy tak robili, nie dałoby się tak robić) – to nie rób tak. Nigdy. Niezależnie od tego, czy w tej sytuacji akurat byłoby to sensowne. Kłamstwo jest przykładem już wyświechtanym, ale dobrym – gdyby wszyscy kłamali, nikt by nikomu nie wierzył, więc nie dałoby się kłamać. Dlatego nie wolno kłamać.

Abstrakcyjne? Owszem. Ale daje jasne wskazówki. Kiedy przychodzi morderca i pyta, gdzie jest twój kolega, nie musisz się zastanawiać, co mu powiedzieć. Postępujesz zgodnie z regułą i mówisz prawdę… i niech się dzieje wola Nieba.

Owszem, Kant postulował też godność człowieka(xxv), choć w sposób nieco abstrakcyjny i nie wynika z tego postulatu, że może powinniśmy się starać ratować życie koledze.

To może utylitaryzm? W utylitaryzmie działanie jest słuszne wtedy i tylko wtedy, kiedy powoduje najlepsze możliwe konsekwencje – a najlepsze możliwe konsekwencje to te, w których szczęśliwość jest maksymalizowana. Tutaj wszystko rozbija się o pojęcie „szczęśliwości” (użyteczności – różnie to było nazywane). Co to jest? Czyja szczęśliwość? Czy szczęśliwość to to samo, co przyjemność?

Utylitaryzm to chyba jedyna teoria etyki, która ma własną stronę internetową(xxvi) i tam piszą tak: “W filozofii termin "użyteczność" odnosi się do miernika wartości moralnej. Tradycyjnie termin ten oznaczał spokrewnione pojęcia, takie jak dobrostan, szczęście i przyjemność, które stanowią podstawowe jednostki wartości w etyce utylitarystycznej. Współcześnie terminu "użyteczność" używa się przede wszystkim w kontekście ekonomii ("funkcja użyteczności") do opisu preferencji osoby wybierającej z zestawu możliwości.” Przekład jest tak dosłowny, jakim mogłam go zrobić.

W innym miejscu na tej samej stronie(xxvii) autorzy usłużnie wyszczególniają cztery najważniejsze elementy wszystkich odmian utylitaryzmu: konsekwencjalizm (należy zawsze dążyć do zwiększania sumy wartości); welfaryzm(xxviii) (suma wartości w sytuacji jest określona przez sumę dobrostanu jednostek w tej sytuacji), bezstronność (wartość dobrostanu pozostaje stała niezależnie od tego, czyj to jest dobrobyt) i agregacjonizm (suma wartości w sytuacji jest sumą wartości jednostek, które się w niej znajdują).

Brzmi bardzo naukowo i są na to nawet wzory.

Problem polega na tym, że raz, naukowość jest tu nie na miejscu (kwestie etyki to jeden z lepszych przykładów zagadnień, do których nauki przyrodnicze nie powinny się pchać), a dwa – to wcale nie jest takie jasne, jak się wydaje.

Ale utylitaryzm (i konsekwencjalizm) w jego licznych odmianach krytykowano już tyle razy i pod tylu kątami, że nie mam tu szans niczego odkryć, więc skupię się na tym, co mi będzie dalej potrzebne.

Po pierwsze, jeżeli w życiu chodzi tylko o to, żeby jakaś abstrakcyjna wielkość była maksymalizowana, nie ma znaczenia, kto ją będzie maksymalizował. Ani nawet, czy ktokolwiek. Być może da się zbudować do tego automat – i na gruncie utylitaryzmu byłoby to nawet słuszne.

A stąd rodzi się zagwozdka, którą nazwiemy sobie problemem pani Jellyby(xxix): pani Jellyby uważa, że najwięcej szczęśliwości przysporzy światu, zajmując się posyłaniem butów biednym dzieciom w Afryce. Tymczasem jej własne dzieci chodzą zaniedbane, brudne, liczą się dla pani Jellyby tylko o tyle, o ile mogą pomóc w „wielkiej sprawie” (najstarsza córka jest praktycznie jej – nieopłacaną – sekretarką).

Jasne, utylitarysta mógłby powiedzieć, że suma szczęśliwości wypracowanej przez panią Jellyby w Afryce nie przeważa nad sumą nieszczęścia, które wytwarza u siebie w domu. Tylko pytanie brzmi – dlaczego właśnie pani Jellyby ma się zajmować właśnie tymi (swoimi) dziećmi, a nie innymi (afrykańskimi)? Przecież dziećmi sąsiadów też się nie zajmuje – a nie ma w tym nic złego. I przecież jej samej (a skoro mamy być bezstronni, to dobrostan pani Jellyby liczy się tak samo, jak dobrostan jej dzieci! I mierzyć go możemy tylko zadowoleniem, nie?) największą radość sprawia wysyłanie butów do Afryki. A jeśli Esther i Ada chcą się opiekować jej potomstwem, to przecież wszystko w porządku – prawda?

William David Ross zauważył (przy okazji krytykowania idei, że dobrym czynem jest ten, który maksymalizuje wartość), że utylitaryzm jest nie bezstronny, a raczej straszliwie jednostronny – redukuje wszelkie związki między ludźmi do bieżącego robienia sobie nawzajem dobrze (albo źle), bez żadnej historii, tak, jakby każdy czyn był jedynym, co się wydarzy w całych dziejach świata. Bo powiedzmy, że wysłanie dziecku w Afryce butów daje akurat taki sam przyrost ogólnej użyteczności w świecie, jaki dałoby poświęcenie synkowi uwagi przez dziesięć minut. Jedno i drugie tak samo leży w możliwościach pani Jellyby. Na gruncie utylitaryzmu nie da się rozstrzygnąć, co powinna zrobić.

Ale (co nie jest odkryciem dla etyków cnót), mamy wobec siebie nawzajem obowiązki, wynikające z miejsca w świecie, w którym się – czasem z własnego wyboru, częściej nie – znaleźliśmy. Z relacji między nami. Z najzupełniej obiektywnego faktu, że pani Jellyby jest matką tego konkretnego dziecka(xxx), wynikają pewne jej obowiązki względem niego. I jego względem niej. I wypełnianie tych obowiązków należy do normy, która określa bycie dobrym człowiekiem. Ross chociażby w swojej teorii obowiązków prima facie zatrzymuje się trochę pośrodku – nie mówi o normach, tylko o obowiązkach.

Na razie spójrzmy, co wynika z bezstronności utylitaryzmu: mamy się nie oglądać na poszczególne osoby i ich prawa (czyli nasze obowiązki względem nich) – byle suma wartości liczona po wszystkich (czymkolwiek jest) była maksymalizowana.

U kilku autorów spotkałam się z takim przykładem: żądny krwi tłum domaga się wydania niewinnego człowieka, żeby go zlinczować. Jeśli go nie dostanie, zaczną się zamieszki i może zginąć wielu ludzi, spłonąć pół miasta. Czy sędzia powinien ustąpić przed żądaniami(xxxi)?

Konsekwentny utylitarysta musi powiedzieć: tak. Na ile sędzia może to przewidzieć, skutkiem wydania niewinnego będzie śmierć jednej osoby(xxxii), a skutkiem powstrzymania się od tego – śmierć wielu ludzi i zniszczenie mienia(xxxiii). Równanie jest proste(xxxiv).

Po drugie, wcale nie jest takie oczywiste, że maksymalizacja wartości jest czymś dobrym. Czy wartość jest czymś, co można powiększać, zmniejszać i w sposób „naukowy” mierzyć(xxxv)? Czy jest czymś takim dobro, albo nawet „słuszność”?

Na przykład David Oderberg uważa, że sama koncepcja takiego maksymalizowania nie ma sensu. Wartość w sensie etyki (i metafizyki) nie jest tym samym, co wartość w sensie ekonomicznym – a tak właśnie utylitaryści próbują ją traktować. No, bo zobaczmy: pieniądz ma tę samą wartość nabywczą, czy mam go w kieszeni ja, czy sąsiad (jest „bezstronny”). Jeśli dostanę pięćdziesiąt złotych, będę miała o pięćdziesiąt złotych więcej – a mogę rozłożyć wszystkie moje pieniądze w małych kupkach po wszystkich szufladach w domu, i od tego ich ilość się nie zmieni (welfaryzm/agregacjonizm). I każdy(xxxvi) chce mieć jak najwięcej pieniędzy… czyli dąży do maksymalizacji ich ilości („konsekwencjalizm”).

Ale to ja. Odenberg ogranicza się do zauważenia, że z przypadków szczególnych (czasami, w określonych okolicznościach, danie komuś dziesięciu złotych jest dwa razy lepsze niż danie mu piątaka – ale takie sytuacje są bardzo rzadkie) nie wynika uogólnienie (zwykle nie ma tu liniowej zależności) i do tego, że wobec wartości można zajmować rozmaite postawy, nie tylko „zwiększania” (czymkolwiek by było, bo, znowu – co by to miało znaczyć, że zwiększamy wartość?)

Gdyby istotą dobrego działania była maksymalizacja wartości, zapewne dałoby się dobre działanie sprowadzić do bezwzględnych reguł, zalgorytmizować… powoli. Do tego dojdziemy.

Trzeci problem, który mi się nasuwa, funkcjonuje w literaturze filozoficznej pod nazwą „traf moralny”. Jeżeli oceniamy czyn wyłącznie na podstawie faktycznych skutków, to może się okazać, że dwaj sprawcy, którzy zrobili dokładnie to samo – ale okoliczności tak się ułożyły, że ich działania miały różne skutki – zostaną ocenieni różnie. Klasycznym, wałkowanym od pół wieku przykładem jest pijany kierowca: jeśli nie przejechał przechodnia tylko dlatego, że żadnego przechodnia pod ręką (kołem?) nie było, to postąpił w porządku? Ale gdyby akurat przypadkiem jakiś przechodzień się znalazł, to kierowca postąpiłby źle?

Zwracam uwagę, że kierowca, który miał szczęście (nie było przechodnia) i kierowca, który go nie miał, postąpili identycznie – obaj się upili i wsiedli do auta pijani(xxxvii).

Można argumentować, że powinni byli przewidzieć możliwe skutki swoich działań – i tak (przynajmniej wg Elizabeth Anscombe) mówi Sidgwick, kiedy uniezależnia odpowiedzialność sprawcy od tego, czy faktycznie przewidział skutki swojego działania i od celu, który mu akurat przyświecał (sprawca jest moralnie odpowiedzialny za wszystkie skutki, które mógł był przewidzieć). Ale, jak dowodzi Anscombe, takie rozumowanie prowadzi prosto do tzw. mniejszego zła: wyobraźmy sobie matkę i szantażystę. Porzucenie dziecka będzie ze strony matki złem, za które matka będzie odpowiedzialna. Szantażysta chce, żeby matka zrobiła coś złego – jeśli ona tego nie zrobi, szantażysta doprowadzi do jej uwięzienia (tak, że nie będzie mogła się opiekować dzieckiem). Matka wie o tym na pewno. I, zdaniem Sidgwicka, jeśli odmówi i pójdzie do więzienia, będzie moralnie odpowiedzialna za porzucenie dziecka (bo może przewidzieć, że dziecko zostanie samo)(xxxviii).

Postępując zgodnie z utylitarystycznym algorytmem, czyli obliczając, co bardziej obniża wartość: porzucenie dziecka, czy ulegnięcie szantażowi, matka może dojść do wniosku, że „słusznie” będzie ulec szantażowi(xxxix). A z tym wnioskiem jest coś poważnie nie tak. Nie tylko ze względu na możliwe długofalowe skutki ulegnięcia szantażowi (które Sidgwick, jak twierdzi, wliczył w sumę).

Tyle (na razie) o utylitaryzmie.

Podsumujmy: teorie etyki opierające się na abstrakcyjnych regułach (utylitaryzm i deontologia), które to reguły należy bezwzględnie wykonywać, nie mówią nic o nienadeptywaniu na odcisk bliźniemu. Ale zaraz, przecież teoria cnót też nie! Owszem. Tylko, że ona zakłada u człowieka określoną naturę, polegającą na tym, że człowiek żyje w społeczeństwie – a społeczeństwo między innymi na tym polega, żeby nie nadeptywać sobie nawzajem na nic.

Ale przecież do teorii reguł też możemy sobie przemycić trochę społeczeństwa – nie? Jeśli tylko je oprzemy na nowoczesnej i „naukowej” umowie społecznej…

Ale zaraz. Co to jest „umowa”? Umowa to urządzenie społeczne. W przyrodzie tego nie ma. Zawracamy do Hume’a, Anscombe i Searle’a (i Johna Rawlsa, chociaż on pojechał z tym w dziwnym kierunku) – kiedy jest społeczeństwo, obowiązują w nim pewne reguły konstytutywne dla urządzeń społecznych. To znaczy, że, na przykład, kiedy sklepikarz daje Elizabeth worek ziemniaków, Elizabeth jest zobowiązana dać mu w zamian pieniądze(xl). To urządzenie społeczne nazywamy handlem (sprzedażą). Albo: skoro Elizabeth i Peter w ustalonych pewnymi regułami warunkach ślubowali sobie wierność i uczciwość małżeńską, to są zobowiązani tego dotrzymywać (są małżeństwem) – każde z nich ma wobec drugiego pewne obowiązki, i każde ma wobec drugiego pewne prawa. Ogólnie ma to związek z pragmatyką językową („robieniem rzeczy słowami”, jak to ujmuje John Langshaw Austin – nie mylić z Johnem Austinem, który, jak się okazuje, był kimś zupełnie z innej bajki) i w związku z tym wymaga języka, ale nie będziemy się w to teraz zagłębiać.

Grunt, że urządzenia społeczne to reguły, które nakładają na jedną stronę jakiś obowiązek, a na drugą – uprawnienie. Jeśli masz obowiązek dać mi pięć złotych, to ja mam prawo dostać od ciebie pięć złotych. Jedno od drugiego nie da się oderwać.

Może wystarczy, że ludzie – głośno, jawnie i wprost – ustalą sobie te reguły?

Jak zauważa Roger Scruton(xli) – nie bardzo. Po pierwsze, jeśli mają je dopiero od zera ustalić, to znaczy, że zanim to zrobią, mamy stan bez reguł (tzw. przez zastanawiaczy oświeceniowych „stan natury”). Sęk w tym, że takiego stanu być nie może – ze względu na naturę człowieka! Człowiek rodzi się cokolwiek bezradny, a zanim zacznie sobie jako tako radzić, potrzebuje mnóstwo opieki i uwagi. Poza tym zwykle rodzi się jeden naraz, a zanim się usamodzielni, może zyskać gromadkę młodszego rodzeństwa. W dodatku ciąża i połóg też są trudne do przetrwania bez opieki. Człowiek musi zakładać rodziny (pozostajemy w warunkach prehistorycznych), żeby w ogóle móc przetrwać – a w rodzinie trzeba się jakoś dogadywać. Jej ustrój, jak by to określił Feliks Koneczny, nie musi być explicite nigdzie zapisany, ani nawet wypowiedziany, ale jakiś jest.

Po drugie, żeby ustalić reguły wprost, przydałby się język – a skąd język, kiedy hipotetyczni naturalni jaskiniowcy nigdy się ze sobą nie kontaktują? Kiedy miałby powstać? Na corocznym zjeździe? Język służy do porozumiewania się wewnątrz grupy, do koordynacji działań, czyli ustalania różnych rzeczy wprost – ale musi być grupa, żeby można było coś ustalać.

A skoro grupa jest, to jakieś reguły w niej obowiązują, niekoniecznie wyrażone wprost, niekoniecznie bezwyjątkowe, ale jakieś. Nie mówimy tu wcale o regułach moralnych – trzeba odróżnić moralność od obyczaju (obyczaje bywają szkodliwe dla natury człowieka, czyli niemoralne, i to całkiem często) – tylko o niepisanych regułach życia w jakiejś społeczności, o jej urządzeniach społecznych właśnie.

To jak te urządzenia w końcu powstają? Hmmm, nie wiem. Scruton napomyka coś o niewidzialnej ręce rynku, którą traktuje chyba jako analogię, ale on też nie wie.

Ważne jest to, że są. I że umowa w ogóle ma sens tylko w społeczeństwie – najpierw musi istnieć społeczeństwo, którego członków dotyczą różne powinności, na przykład powinność dotrzymywania umów, żeby w ogóle można było się umawiać. Opieranie społeczeństwa na umowie to budowanie domu od dachu.

Jeszcze o niedeptaniu ludziom po nogach, bo w związku z tym trzeba co najmniej zasygnalizować dwie kwestie.

Pierwsza: jeśli w życiu społecznym chodzi tylko o to, żeby inni mi nie deptali po nogach, to w sumie po co mam zwracać uwagę na tych, których raczej już więcej nie spotkam? Na wszelki wypadek? Dla ćwiczenia? Jedno i drugie ma swoją wagę, ale czy dostatecznie dużą, żeby zginąć, ratując komuś życie? Albo nawet, żeby pożyczyć komuś telefon na minutkę?

Na co dzień może i wystarczy tyle, ale ogólnie trzeba przyzwoite postępowanie ugruntować w czym innym. Kantysta ugruntuje je w rozumie – ale właściwie jak to ma działać? Skoro jego rozum ma jeden etyczny aksjomat, z którego wcale nie wynika, że należy ratować ludziom życie(xlii)? Utylitarysta ugruntuje przyzwoite postępowanie w uszczęśliwianiu, ale musi się przy tym zdecydować, kogo chce uszczęśliwiać, a to się okazuje wcale niełatwe. Zwolennik etyki obowiązków prima facie ma łatwiej – a może trudniej, bo opiera się na kilku aksjomatach, ale wnioskować z nich może tylko z pewnym prawdopodobieństwem (Ross explicite zauważa, że wnioskowania moralne nie są pewne – zawsze możemy się mylić).

Najłatwiej ma chyba jednak zwolennik etyki cnót: normy bycia dobrym człowiekiem (cnoty, przede wszystkim mądrość) są takie same dla wszystkich – chociaż sposoby ich realizacji mogą być różne (można na różne sposoby przeżyć życie dobrze). I powtarzam, to nie jest relatywizm: nie chodzi tu o to, co ktoś uważa za cnotę, tylko o to, co nią faktycznie jest. Możemy się mylić.

Ale nikt nie obiecywał, że życie będzie łatwe.

Kwestia druga: niedeptanie innym po nogach jest pożyteczne społecznie – ale nie zawsze. Czasami społeczeństwo się myli i potrzebuje gza, który mu zwróci uwagę, że robi krzywdę swoim słabszym członkom, więc pośrednio i silniejszym. Trudno by było o takiego gza, gdyby normy zależały od woli społeczeństwa (czy kogokolwiek w jego obrębie). Muszą zależeć od czegoś innego. Czasami wykonanie swojego prawa (czyli zmuszenie kogoś innego, żeby wykonał swój obowiązek!) wcale nie jest dobrym, prawym czynem – jak to wyjaśnić, kiedy obowiązki zależą tylko od urządzeń społecznych?

Można za to wyjaśnić niedeptaniem po nogach odpowiedzialność za skutki własnego działania – jeżeli coś przewróciłam, to wypada sprzątnąć, żeby się inni nie potykali. Jeżeli komuś ukradną furę, to skutek jest taki, że ten ktoś nie ma fury i nie może wozić węgla, co mu utrudnia wykonywanie jego roli społecznej i jest, na dłuższą metę, kłopotem dla wszystkich. Dla złodzieja też.

Zanim przejdę do ostatniego zagadnienia (w tej części artykułu), wspomnę tylko o jednym – co to są, Waszym zdaniem, „prawa człowieka”? Z czego wynikają? Czy nie nakładają aby na innych człowieków pewnych obowiązków? I czy to jest nowa koncepcja(xliii)?

No, namęczyliśmy się z teorią, ale to już prawie koniec.

Mówiłam wyżej o regułach i o tym, że zawsze są trochę abstrakcyjne. My, jako rozumni, mniej więcej, żeby móc się posłużyć regułami, musimy je jakoś zinterpretować, czyli powiązać ze światem i nadać im treści. Czasami (często) robimy to źle: Lewis w jednym swoim eseju(xliv) tłumaczy jak krowie, że nie jest tu specjalnie istotne to, że cała sprawa dotyczy seksu (chodzi o niewierność), tylko to, że została złamana pewna obietnica. Analogicznie, wyjaśnia, potępiając kradzież nektarynek (nie wiem, może był głodny, kiedy to pisał), nie interesujemy się tym, że ktoś ukradł owoce, tylko że ukradł(xlv). To jest kwestia formalna – treść jest tu mniej ważna.

Ale – właśnie. Jest ważna, bo działamy w konkretnym świecie. Musimy interpretować reguły. Musimy pomyśleć, jak one się mają do sytuacji, i dotyczy to każdej teorii etyki po równo.

Anscombe używa potwornie mylącego słowa „opis” – mówi na przykład, że jakiś czyn ze względu na pewien opis jest zabójstwem, a ze względu na inny – uratowaniem życia (powiedzmy, ktoś zabił włamywacza, żeby ratować swoją babcię staruszeczkę, która go nakryła na kradzieży). Jasne. Czyn podpada pod oba te pojęcia. Które jest ważniejsze? Jako co powinniśmy go traktować?

Ustalenie tego wymaga rozważenia sytuacji. Pod względem treści, nie tylko pojęć i schematów. Między innymi dlatego etyka nie da się ująć w algorytmy – nie jest nauką dedukcyjną(xlvi).

Co to znaczy? W logice wyróżniamy rozumowania dedukcyjne (pewne) i te inne (w tym indukcyjne): rozumowania dedukcyjne mają to do siebie, że nie zależą od treści zdań. Weźmy prosty sylogizm o słoniach: Wszystkie słonie są różowe. Wszystkie słonie maharadży są słoniami. Zatem: wszystkie słonie maharadży są różowe.

Można wymyślić dowolną liczbę sylogizmów o identycznym schemacie (podstawiając inne słowa pod „słonie”, „słonie maharadży” i „różowe”(xlvii)), i wszystkie dadzą prawdziwy wniosek, jeśli wstawimy im prawdziwe przesłanki. Automatycznie. Tak, jak możemy wstawić dowolne liczby w równanie: x + y = z i jeśli tylko umiemy dodawać, x plus y zawsze da z. To jest obliczenie. Algorytmiczne. Algorytm to przepis postępowania prowadzący do rozwiązania ustalonego problemu, określający ciąg czynności elementarnych, które należy w tym celu wykonać(xlviii).

W żadnym systemie dedukcyjnym nie da się uzyskać we wniosku treści, której nie było w przesłankach, ponieważ na tym polega system dedukcyjny (zwany też formalnym)(xlix). Jeśli wyszły nowe treści, to rozumowanie nie było dedukcyjne. I tak – nauka dedukcyjna polega na tym, że prawdziwe przesłanki dają automatycznie prawdziwy wniosek, a jedyną trudność dla użytkownika stanowi dobranie przesłanek (i może schematu wnioskowania) do sytuacji.

Etyka cnót nie pretenduje do dedukcyjności, utylitaryzm (i różne odmiany kantyzmu) owszem. Andersonowie na przykład – autorzy nieco bardziej rozbudowanej pracy o „etycznych robotach”, opisującej ich własne wysiłki w tym kierunku – podobnie jak Moor mówią explicite, że maszyna mogłaby być lepszym etykiem od człowieka, bo zakładają, że etyka „powinna być” dedukcyjna (przeliczalna), a maszyny liczą szybciej od ludzi, nie posługują się uproszczeniami, są bezstronne (pamiętacie panią Jellyby?) i rozważą wszystkie możliwości, co jakimś magicznym sposobem potrafią, a ludzie nie. Andersonowie przyznają wprawdzie, że utylitaryzm nie bierze pod uwagę na przykład dawnych działań odbiorcy czynności (czyli: zamknięcie człowieka w więzieniu mielibyśmy oceniać niezależnie od tego, czy kogoś zamordował i zjadł) i ogólnie wielu ludziom nie pasuje do intuicji – ale najwyraźniej uważają, że przyjęcie teorii obowiązków prima facie, czyli wielu wartości do zoptymalizowania zamiast jednej, załatwi sprawę.

No, nie wiem. Patrząc na rzecz czysto matematycznie, problemy optymalizacji są złożone i często nierozwiązywalne w „rozsądnym” czasie. A tutaj mamy problem optymalizacji wielu wartości (W. D. Ross wyróżnił trzy: cnotę, wiedzę i przyjemność; i siedem reguł, które ludzie poznają przez uogólnienie, indukcyjnie) zamiast jednej. Ale też – Ross podważa sam pomysł, że maksymalizacja wartości miałaby być równoważna ze słusznością.

Co prawda, nikt nie wyjaśnił, jak mierzyć te wartości. Jak sprowadzić do pojedynczej liczby (czy zbioru trzech liczb, niech tam) konkretny, osadzony w określonych realiach ludzki czyn? Wydaje mi się, że jakkolwiek byśmy tego nie zrobili, będzie wyłaziło z ramek, nie tylko dlatego, że czynników do uwzględnienia jest po prostu za dużo (i różne ich kombinacje na pewno czasem dadzą ten sam wynik, zupełnie bez sensu), ale dlatego, że to w ogóle nie są rzeczy sprowadzalne do liczb. Matematyka łez po prostu nie ma sensu.

Zresztą, Ross dochodzi do swojej teorii przez krytykę utylitaryzmu – jako zbyt uproszczonego, pomijającego relacje między ludźmi i miejsce jednostki w świecie… no i, choć Andersonowie chyba tego nie widzą, Ross nie daje wcale jasnych wskazówek, ani nie twierdzi, że może je dać.

Niedawanie jasnych wskazówek jest jednym z głównych zarzutów podnoszonych wobec etyki cnót, ale do teorii obowiązków prima facie ten zarzut też się stosuje – Ross explicite mówi, że podstawowe zasady są pewne, ale proces wnioskowania z tych zasad i własnej sytuacji o tym, co się powinno zrobić pewny nie jest. To wnioskowanie indukcyjne, nie dedukcyjne. I tak właśnie ma być, bo, zdaniem Rossa, podstawowe zasady są kompletnymi abstrakcjami, są proste – a konkretne czyny w konkretnych sytuacjach są złożone, podpadają często pod kilka zasad i konflikt tych zasad jest właściwie nie do usunięcia(l). Które to usunięcie Andersonowie beztrosko postulują.

Twierdzą wręcz, że „etykę należy uczynić obliczalną, żeby było jasne, jak sprawcy powinni się zachowywać wobec dylematów etycznych(li)”.

Sęk w tym, że to wcale nie jest jasne. I nie dlatego, że nie potrafimy tego policzyć.

Rosalind Hursthouse zauważa chociażby, że nie możemy oderwać czynu od jego kontekstu, społecznego i w sensie natury ludzkiej – i nie ma tu mowy o żadnym relatywizmie! Po prostu każda sytuacja jest niepowtarzalna. A naturę ludzką (i kontekst społeczny) można rozumieć – ale nie można jej zmierzyć. Nie można oddać liczbami takich, na przykład, faktów, że ludzie rozmnażają się płciowo, że dzieci długo pozostają przy rodzicach, ucząc się od nich, że ogólnie żyją w społeczeństwie, że są wolni, rozumni – ale upadli i popełniają zło. Nie można opisać liczbami optymalnych dla człowieka warunków, tj. takich warunków, w których najlepiej się rozwinie – ani nawet tego, na czym polega rozwój i jaki ma cel. Nie można opisać sposobu, w który się uczymy. I tak dalej.

Oczekiwanie, jak to ujmuje Hursthouse, że jakakolwiek teoria etyki pozwoli przeciętnemu nastolatkowi w każdej sytuacji podejmować decyzje mędrca, jest nierealne. Żeby podjąć dobrą decyzję etyczną – czyli decyzję, która umożliwi podejmującemu możliwie najlepsze dalsze życie – trzeba się przez całe życie uczyć. A w pewnych sytuacjach człowiek o dobrym charakterze (roztropny) po prostu w ogóle by się nie znalazł.

Ale jeśli ktoś nie ma zasad, to jest, no, facet bez zasad, nie? Czy bez zasad nie jesteśmy niekonsekwentni? Czy nie robimy dla siebie nieuprawnionych wyjątków? Jak możemy wnioskować z doświadczenia o tym, co zrobić teraz, skoro nie ma zasad?

Cóż, trudno mówić o wyjątkach, kiedy nie istnieją reguły. Zresztą – abstrakcyjne reguły, oderwane od zasad, którym mają służyć, potrafią się wyrodzić i dać początek bardzo mało racjonalnemu postępowaniu – weźmy tego słynnego Kantowskiego kłamcę. Czy pomaganie zabójcy na pewno jest takie rozumne? Zasady stosowane bezmyślnie zawsze prędzej czy później się zderzają jedna z drugą.

A wnioskowanie z doświadczenia też nie polega na abstrahowaniu z niego zasad, jak chciał Ross – każda sytuacja jest trochę podobna do innych, ale też trochę różna, i ostatecznie nie ma ucieczki przed myśleniem. Człowiek w myśleniu realizuje swoją naturę – i na myśleniu ostatecznie polega jego moralne postępowanie.

Ale tym zajmiemy się już w następnym odcinku.

i „Philosophy Now”, marzec/kwiecień 2009

ii Kiedy coś wspomniałam o „agentach moralnych”, Tatko miał ubaw jak mało kiedy. Ale ma rację, bo Polacy nie gęsi (i nie roboci), a swój język mają. Dlatego w tym artykule piszę po polsku, o sprawcach albo podmiotach, a nie o „agentach”. Agentem to sobie jest James Bond.

iii Rzeczowników we frazie nominalnej może być kilka: miecz na smoki rycerza wędrownika – ale mówimy o przymiotnikach (których też może być kilka: stalowy miecz na smoki wędrownego rycerza), i bardziej o metafizyce niż o gramatyce.

iv Tak, coś tu jest intensjonalne (zależne od treści). Nie będę się teraz zastanawiać, co dokładnie, ale treść ma znaczenie (i wszyscy razem: nana, nanana!).

v Gdyby znaczyło, może lepiej byłoby wrócić na drzewo.

vi Ludzie, którzy nie potrzebują innych ludzi, potrzebują innych ludzi, by im okazywać, że są ludźmi, którzy nie potrzebują innych ludzi. T. Pratchett.

vii Tylko problemy, które z niej wynikają, są piekielnie złożone.

viii To się nazywa intencjonalność. Umiejętność wyobrażenia sobie fabuły brazylijskiej telenoweli nie jest intencjonalnością, chociaż jej wymaga.

ix Stare koty z artretyzmem przestają wskakiwać na rzeczy. Arystotelik – i normalny człowiek – interpretuje to tak, że kot już nie ma siły i łapki go bolą. Jak to tłumaczy kartezjanin? Zużyciem kółek zębatych?

x Jak w takim razie może powstać przyzwyczajenie – litościwie nie spytam.

xi Zajmujące się właśnie możliwą sprawczością SI, tj. próbujące wykombinować, co trzeba zrobić, żeby sztuczne twory mogły robić to, co im się podoba (czyli po pierwsze: jak sprawić, żeby im się cokolwiek podobało).

xii Ktoś powiedział (Nagel? Lewis? Nie pamiętam) że kiedy człowiek wyobraża sobie, że jest ślimakiem, to faktycznie wyobraża sobie, że jest człowiekiem, który się bawi w ślimaka.

xiii Kripke (i Quine) uważa, że pojęcia nic nie znaczą, a tylko są w jakiś uzgodniony sposób używane – jak cokolwiek uzgodnić, skoro słowa nic nie znaczą, nie mam pojęcia.

xiv Tzw. argumenty z niezdeterminowania przekładu, albo z niezdeterminowania teorii, które w sumie sprowadzają się do: każdy fakt dotyczący świata materialnego można dopasować do wielu pojęć i teoretycznych wyjaśnień.

xv Nie mylić z argumentem z chińskiego pokoju, który też wymyślił Searle, ale wcześniej.

xvi Nie, to, że Arystoteles odmawiał człowieczeństwa wielu ludziom, nie ma tu znaczenia – on też nie zawsze był konsekwentny i mógł się mylić. Przyjmujemy jego pomysły nie dlatego, że to są jego pomysły, tylko dlatego, że pasują do świata (te, które nie pasują, możemy olać).

xvii Dusza, w terminologii Arystotelesa, to forma ciała, zasada jedności żywego organizmu, i ma ją wszystko, co żyje. Nawet mech. Dusze różnią się pod względem tego, co potrafią w świecie przyczynowo zdziałać: mech ma tylko zdolności wegetatywne (odżywia się, rozmnaża i rośnie), kot także zmysłowe (ma zmysły i swobodnie się rusza). Hnau mają do tego jeszcze rozum, nawet jeśli niektóre mało z niego korzystają.

xviii Ale wątpliwe, żeby koniecznie potrzebowali do przeżycia robienia krzywdy ludziom, skoro tyle przeżyli z dala od Ziemi, nie robiąc ludziom krzywdy. Oczywiście, można wymyślać dowolne scenariusze… ale z tym proszę do Hollywood.

xix „Kolor oczu neandertalczyka”, w: Houston, Houston, czy mnie słyszysz: i inne opowiadania, Zysk i S-ka 2000

xx „Wasze myśli muszą być na łasce waszej krwi – powiedział stary sorn. – Nie możecie ich porównywać z myślami płynącymi w innej krwi.”; C. S. Lewis, „Z milczącej planety”, przekład Polkowskiego.

xxi Czasem kaprysów, ale może się oprzeć kaprysom, a śluzowiec raczej nie. Tutaj chodzi o wartość własnego życia i przeżycia go dobrze – nie jesteśmy maszynkami do przeżywania przyjemności. Ona ma wartość, ale mniejszą.

xxii Przykład Lewisa. Człowiek może chcieć czegoś niemożliwego (bo jest wolny, również do głupot), ale nie może tego zrealizować.

xxiii O ile takie sytuacje naprawdę się zdarzają poza eksperymentami myślowymi… zresztą zwykle „nie mogłem postąpić inaczej” oznacza „nie przyszedł mi do głowy inny sposób, żeby chronić wartość, którą w tym momencie uważałem za najważniejszą” (przeważnie własny tyłek).

xxiv Parę razy jeszcze wspomnę o W. D. Rossa etyce obowiązków prima facie, mniej znanej, ale wyrosłej na krytyce utylitaryzmu.

xxv https://www.ptta.pl/pef/pdf/i/Imperatywkat.pdf Druga formuła imperatywu kategorycznego: „Postępuj tak, byś człowieczeństwa tak w twej osobie, jako też w osobie każdego innego używał zawsze zarazem jako celu, nigdy tylko jako środka”.

xxvi https://www.utilitarianism.net/glossary/

xxvii https://www.utilitarianism.net/introduction-to-utilitarianism/

xxviii Z prawdziwą przykrością stwierdzam, że polskim utylitarystom nie chciało się udomowić tego słowa. Jeśli ktoś zna polski odpowiednik, proszę o komentarz.

xxix Dickens, „Samotnia” („Bleak House”).

xxx Ani synek jej sobie nie wybierał, ani ona nie wybierała tego konkretnego synka. Nie ma tu mowy o tak modnej ostatnio świadomej zgodzie – i tak właśnie ma być. Ze świadomej zgody wynika tylko wąska kategoria obowiązków (tzw. kontraktowych).

xxxi W. D. Ross już zauważył, że ten sędzia to Piłat. Widzicie, jaka ważna jest ogólna fabuła?

xxxii Nie byłabym tego taka pewna – w końcu tłum może stratować wielu swoich członków, albo nie zostać zaspokojony tym jednym trupem.

xxxiii Znowu – nie jest to pewne. Może ktoś przemówi do tłumu, może spadnie deszcz i go otrzeźwi (a pożary uniemożliwi), może, może, może...

xxxiv Gwoli uczciwości – John Rawls, ten od zasłony niewiedzy, twierdzi („Two Concepts of Rules”), że utylitaryzm aktów, tj. mierzenie każdego czynu z osobna miarką zasady utylitarnej, to wypaczenie, a klasycy utylitaryzmu mieli na myśli utylitaryzm reguł, w którym ocenie podlega użyteczność nie czynów, tylko urządzeń społecznych. Nie studiowałam utylitaryzmu na tyle dogłębnie, żeby oceniać prawdziwość tego twierdzenia.

xxxv Zdaje mi się, że matematyczne ciągoty utylitarystów są znakiem czasu – ich złota epoka to wiek XIX, wiek nauki i mierzenia wszystkiego. I, niestety, wyjątkowo „naukowy” wiek XX. A i dziś jest kilku bardzo widocznych.

xxxvi We współczesnym, coraz bardziej cyberpunkowym świecie.

xxxvii Pewne badania etologiczne wskazują, że normalni ludzie (czyli tacy, którzy nie wykładają etyki utylitarystycznej) oceniają dwóch kierowców jako równie złych, choć konsekwencje chcą wyciągać tylko na podstawie skutków. O tych dwóch rodzajach odpowiedzialności – moralnej i za skutki – postaram się jeszcze wspomnieć.

xxxviii Sędzia wydający niewinnego wściekłemu tłumowi też jest przez utylitarystów rozliczany, w jakimś stopniu, ze zdarzeń, na które nie miał wpływu, bo spowodowałby je tłum. Tłum, powtarzam, mógłby je spowodować niezależnie od decyzji sędziego.

xxxix Oczywiście – to jest eksperyment myślowy, i to jeszcze z dziedziny etyki. Ludzie w eksperymentach myślowych z dziedziny etyki są zawsze strasznie mało kreatywni i nie potrafią wymyślić trzeciej (czwartej, piątej etc.) możliwości, ani nie widzą innych uwarunkowań (nie myślą o przyszłości, w której szantażysta będzie ich miał w ręku, chociażby) – ale właśnie o to chodzi! Nie operujemy tu na prawdziwym świecie, tylko na bardzo abstrakcyjnych rozumowaniach. Chodzi o to, żeby pokazać, co z tych abstrakcji formalnie wynika.

xl Przykład pochodzi od Anscombe.

xli W różnych książkach, w tym „O pożytkach z pesymizmu”. Ale też np. w „Zachód i cała reszta”.

xlii Wynika, że nie wolno ich wykorzystywać, ale o ratowaniu życia nic tam nie ma – trzeba je dopiero winterpretować na podstawie uznania wartości ludzkiego życia

xliii Wskazówka: Paweł Włodkowic.

xliv Chyba jednym z tych w „God in the Dock”, ale nie mogę go znaleźć.

xlv To, co ukradł i dlaczego, może być okolicznością łagodzącą, ale jest drugorzędne.

xlvi Są, oczywiście, argumenty za i przeciw. Mnie bardziej przekonują te przeciw.

xlvii Tak ściśle, to nie tyle „różowe” co „(są) czymś różowym” – tu musi być predykat.

xlviii https://encyklopedia.pwn.pl/haslo/algorytm;3867807.html

xlix Jak do znudzenia powtarzają logicy, to, co robi Sherlock Holmes, nie jest dedukcją. Poza tym karbunkuły nie mogą być niebieskie (ten minerał miewa rozmaite kolory, ale akurat niebieskiego nie), a pietruszka nie tonie w roztopionym maśle (ktoś to eksperymentalnie zbadał, podobno). A Conan Doyle był dobrym pisarzem, ale to nie znaczy, że wszystko wiedział, nie? Gwoli uczciwości, Toulmin inaczej definiuje dedukcyjność, ale nie do końca rozumiem, o co mu chodzi, więc zostańmy przy tradycyjnej definicji.

l Żeby nie skłamać, Ross wiąże słuszność czynu z jego skutkami. Ale gruntuje też etykę w relacjach międzyludzkich, zresztą zauważa, że skutków nie możemy na pewno przewidzieć.

li„Ethics must be made computable in order to make it clear exactly how agents ought to behave in ethical dilemmas.” Przysięgam, że tak napisali.

Sążnisty i wywierający nie lada wrażenie wywód! Podziwiam pracę, jaką musiałaś włożyć w przygotowanie takiego tekstu. Jest napisany bardzo dobrym, barwnym językiem i daje dużo paszy treściwej do przemyśleń. Myślę, że udało Ci się zrealizować podstawowe cele, jeżeli było nimi rozprawienie się z błędami w konkretnym artykule poświęconym etyce robotów oraz szersze zwrócenie uwagi na zagrożenia związane z antropomorfizacją i przypisywaniem powinności etycznych programom komputerowym. Są jednak różne ciekawe miejsca, które w moim odczuciu pozostawiają pole do dyskusji – na ogół nie czuję się kompetentny do polemiki, ale chciałbym podzielić się wątpliwościami i dowiedzieć, czego ewentualnie nie doprecyzowałaś lub czego nie zrozumiałem.

Na początek: w pierwszej części mocno gubiłem się w tym, które elementy Twojego wywodu są do utrzymania w świetle nowoczesnych teorii filozoficznych, a które wymagają przyjęcia stanowiska Arystotelesa. Mam wrażenie, może mylne, że konfrontujesz je tylko z kartezjańskim, gdy tymczasem filozofia zachodnia rozwinęła się znacznie od czasów Kartezjusza i spodziewałbym się kłopotów ze znalezieniem współczesnego filozofa czy etyka, który twierdziłby na przykład, że kot “nie chce niczego, nie widzi, nie słyszy, nie czuje bólu i nie pamięta”. Skądinąd cała ta partia tekstu z kotem jest kapitalnie napisana i mam wrażenie, że dzięki niej wreszcie dobrze przyswoiłem pojęcie formy substancjalnej!

Wspominasz tylko mimochodem, że “w ogóle celowość u Arystotelesa jest wszędzie (...) po prostu rzeczy w przyrodzie mają cele”. Otóż w ramach amatorskich lektur o historii filozofii chyba nie raz spotkałem się z twierdzeniem, że takie postawienie sprawy było karygodnym błędem i bez mała katastrofą cywilizacyjną, która przez tysiąclecia hamowała rozwój nauki. Na przykład skoro pozwolimy sobie stwierdzić, że niebo jest niebieskie, a zaćmienie Księżyca czerwone w tym celu, ażeby zaspokajać ludzki zmysł estetyczny oraz budzić nasz podziw nad pięknem i potęgą Natury, to prawa rozpraszania Rayleigha już raczej nie odkryjemy. Nie mówię, że to kwestia centralna dla Twojego rozumowania, sygnalizuję tylko, że w tym miejscu czytelnik nieznający się profesjonalnie na filozofii może się potknąć i odnieść korzyść z jakiegoś uzupełnienia.

Anglosasi po dziś dzień mawiają „it was the alcohol speaking”, kiedy ktoś się urżnął i wygarnął innym po chamsku, a teraz próbuje udawać, że to nie jego wina.

Spotkałem się też z frazą “it was the torture speaking”, kiedy ktoś wygarnął innym po chamsku, bo wyczerpał siły psychiczne i samokontrolę, nie udzielając odpowiedzi, które jakiś inny podmiot moralny nadmiernie pragnął poznać; na szczęście rzadko potrzebną we współczesnych cywilizowanych kręgach.

Na przykład, jeśli weźmiemy dwie liczby, coś z nimi zrobimy i wyjdzie poprawna suma, ale na podstawie samej reguły, którą się posłużyliśmy, nie możemy stwierdzić, jaki wynik da ta sama operacja na dwóch dowolnych liczbach, to to nie jest dodawanie (czyli ogólna operacja na dowolnych liczbach). Wynik wyszedł przypadkiem.

Dokładnie tak! Tylko – czy to dowodzi tego, co starasz się zreferować, czy czegoś wręcz przeciwnego? Pojęcia matematyczne, najbardziej bezsprzecznie ze wszystkich pojęć, mają znaczenia i mają fizyczne reprezentacje, które możemy trzymać zarówno w mózgu, jak i na nośnikach zewnętrznych, a zatem uzgadniać sens za ich pośrednictwem. Jeżeli uczeń opiera swoje rozumienie dodawania na pamięciowej znajomości wszystkich wyników działań do 57, a każde większe obliczenie jest dlań skokiem w ciemność i nie umie wyjaśnić nawet ostatniemu scholastykowi, dlaczego wynik nie wyniesie nagle 5, to znaczy, że został źle nauczony. Argument Kripkego – nie tylko tak, jak go przedstawiasz, bo poszukałem też w innych źródłach – wydaje mi się opierać na fundamentalnym niezrozumieniu matematyki, idei definicji i dowodu; co jest o tyle niepokojące, iż rzeczony Kripke najwyraźniej zajmował się logiką matematyczną na poziomie przerastającym moje aktualne możliwości.

Spróbuję przybliżyć swoją amatorską opinię: pojęcia same w sobie nie są materialne, ale mogą mieć reprezentacje materialne, równie dobrze w mózgu, jak i na liczydle. To, że pojęcie trójkąta nie wiąże się z trójkątem konkretnej wielkości, nie znaczy, że nie może być wiernie przechowane na materialnym nośniku, te dwa fakty wydają się nie mieć w ogóle związku. Kiedy uczymy się, czym jest ten nieszczęsny trójkąt czy dodawanie, nie dzieją się czary, lecz powstają wzorce aktywacji naszych neuronów reprezentujące dane pojęcie (czego dowodzi nie wprost, że możemy do niego utracić dostęp na skutek choroby czy urazu mózgu). Natura świadomości i rozumności – czyli to, co sprawia, że mamy subiektywne poczucie bezpośredniego dostępu do takiej reprezentacji, że potrafimy ją pojmować – pozostaje niezbadana naukowo. Nie umiem dostrzec, jakoby cokolwiek w podanym wywodzie istotnie przemawiało za tezą, że jest to magiczna własność dostępna z natury urodzenia ludziom i tylko ludziom. Twoja argumentacja, jak sądzę, dość przekonująco pokazuje, że współczesne maszyny nie myślą, ale nie to, że zbudowanie myślącej maszyny jest niemożliwe. Tu trzeba przejść do drugiej części...

Algorytmy zaś układają z zasady ludzie. Owszem, istnieje coś takiego, jak automatyzacja rozumowań, i używa się tego między innymi do badania, czy program jest poprawny. Modele językowe bywają też używane do wytwarzania nowego kodu(xlix), i ten nowy kod może być nawet poprawny – przypadkiem. Ale algorytmy nie układają się same.

Jeżeli ciotka Zenobia zacznie w miarę powtarzalnie pisać działające programy komputerowe – czy, co gorsza, poprawne dowody matematyczne! – będziemy skłonni przyjąć, że nie wychodzi jej to przypadkiem raz za razem, tylko opanowała te umiejętności. Kiedy robi to LLM, oczywiście mamy większe opory ze względu na wiedzę teoretyczną, że działa to-to na zasadzie statystycznego doboru kolejnych morfemów wyrazowych i w każdej chwili tworzenia tekstu może z niezerowym prawdopodobieństwem kontynuować np. “In Bodenstown churchyard there is a green grave...”, podczas gdy napisanie takiego programu powinno wymagać zaplanowania od A do Z i właśnie operowania pojęciami. Nie można jednak twierdzić, że za każdym razem zdarza się to losowo. Wygląda to na solidny przykład cechy emergentnej (tylko w jednym miejscu mimochodem wspominasz o emergencji) – układ jest dostatecznie złożony, żeby przyjąć własności, których według jego podstawowego opisu nie powinien mieć i przynajmniej na razie nie udało nam się zrozumieć, dlaczego je jednak ma.

Naturalnie obecność jednej cechy emergentnej (zdolności do programowania) nie świadczy w żaden sposób o obecności innej (rozumności). Daje jednak, moim zdaniem, ostrożnie do myślenia, czy taka cecha nie mogłaby się pojawić w jeszcze bardziej złożonym układzie zdolnym do ustanawiania sobie nowych reprezentacji pojęć abstrakcyjnych i wykonywania na nich operacji.

Dennett twierdzi, że nie da się „obiektywnie” stwierdzić, czy jakiś byt spełnia wymienione przez niego warunki konieczne bycia osobą: rozumność; świadomość i intencjonalność (co u niego oznacza zajmowanie różnych postaw, przekonania, ogólnie myślenie sobie czegoś); bycie traktowaną jako osoba przez inne osoby (chodzi o przypisywanie intencjonalności); zdolność do traktowania innych jako osób; zdolność do używania języka; samoświadomość.

W sumie przemęczyliśmy się dobre kilkanaście wpisów nad bardzo zbliżonym tematem pod opowiadaniem https://www.fantastyka.pl/opowiadania/pokaz/30953. Raczej zaskakują mnie warunki Dennetta, ponieważ wychodziłem tam od strony nieco odmiennego problemu: czy opis z natury może nie wystarczać do podjęcia decyzji w eksperymencie etycznym, ponieważ nie wiemy, czy istota, której dotyczy ta decyzja, jest osobą? Znaczyłoby to moim zdaniem, że zamiast możliwie najlepiej ustalić na podstawie samego opisu, czy ta istota “jest samoświadoma, formuje więzi społeczne, tworzy kulturę, nadaje znaczenie abstraktom”, próbujemy zaprotezować tę definicję pytaniem (na które nie ma odpowiedzi w historyjce, a z jakiegoś powodu wydaje nam się potrzebne): czy “to istota, której istnienie jest uznawane w kontekście danej kultury za równie ważne jak wszystkich innych osób i nieskończenie ważniejsze od wszystkich istot nieosobowych”. Miałem wrażenie, rzecz prosta, że obydwa sformułowania mogą być uznawane za definiujące pojęcie osoby, ale tylko to pierwsze jest uniwersalne i użyteczne etycznie.

I wreszcie w części trzeciej taki drobiażdżek...

Lewis mówi o tym w odniesieniu do dyskusji o karze śmierci, która się w jego czasach przetoczyła przez Anglię – ale nie samą karę śmierci uważa tu za istotną, tylko, jak to nazywa, „humanitarystyczną teorię kary”, wyznawaną przez wielu jego współobywateli, według której karanie człowieka, ponieważ na to zasłużył, w takim stopniu, w jakim zasłużył, to zemsta – i jako takie jest barbarzyństwem.

Ten problem mnie mocno zaciekawił i dał sporo do myślenia – nie mówię, że nie jest dobrze znany, ale dotychczas go jakoś głębiej nie analizowałem. Zastanawiam się na przykład (to bardziej historia literatury niż etyka), czy aby nie w kontrze do tej opinii Lewisa padły zdania “Wielu spośród tych, którzy żyją, zasługuje na śmierć, a wielu spośród tych, którzy umarli, zasługuje na życie. Czy potrafisz im je przywrócić? Nie szafuj więc śmiercią w imię sprawiedliwości, nawet bowiem najmędrsi z nas nie wiedzą wszystkiego”.

jakoś nie mówi się o tym, że to „leczenie” ma być tak samo przymusowe, jak przymusowa była kara.

Nie wiem, kto o tym nie mówi lub wtedy nie mówił, ale nie wygląda to na wielką tajemnicę. W sumie jak ktoś koniecznie chce siedzieć w tunelu pod dworcem Gdańsk Główny i prątkować, to odwiezienie go na przymusowe leczenie też jest jedynym rozsądnym wyjściem z sytuacji.

Sedno Lewisowej krytyki leży w tym, że w takim podejściu kara nie ma nic wspólnego z winą – więc także ze sprawiedliwością, bo z definicji tylko kara zasłużona i proporcjonalna do winy może być sprawiedliwa.

Nie jest przecież bez znaczenia, czy da się wywnioskować, dlaczego sprawca postąpił tak, jak postąpił (czy jego działanie było w danym kontekście logiczne), czy dysponował niezakłóconą autonomią.

Czy ten żył za mnie, co nie zna mej winy,

czy ten, co nawet zna onej przyczyny?

nie ma już osoby, której przysługują prawa, tylko przedmiot działania, które może być skuteczne albo nie, ale nijak się ma do uznania godności delikwenta jako istoty rozumnej.

Wydaje mi się, że ten argument musi wychodzić z konkretnego paradygmatu etycznego? Niemniej pewnie nie budzi większych kontrowersji, gdy w uznaniu godności delikwenta decydujemy się zastosować środki łagodniejsze od tych, które wydają się najskuteczniejsze pod kątem rehabilitacji i prewencji. Dziwniejsza – i rzeczywiście budząca obawy o bałamutne usprawiedliwianie zemsty – byłaby sytuacja, gdy postanawiamy ukarać go surowiej.

Każdy człowiek, jako istota rozumna, jest mniej więcej równie kompetentny, żeby się wypowiadać w sprawach sprawiedliwości(vi) – ale na leczeniu znają się tylko specjaliści. A specjaliści to też ludzie. Mają swoje interesy (a czasem się mylą) i podlegają władzy, która potrafi o te interesy zadbać. W swoim własnym interesie, bo „humanitarystyczna” teoria kary pozwala jej robić z poddanymi wszystko, o czym specjaliści dostatecznie głośno orzekną, że jest „dla ich dobra”.

Pierwsze zdanie wydaje mi się źle ugruntowane. Sądziłbym, że między innymi po to ludzie czytają o etyce i nawet ją studiują, żeby rozwinąć w sobie te kompetencje, dobrze odróżniać sprawiedliwość od zemsty i nie zostać przypadkiem częścią tłumu wyjącego “Uwolnij nam Barabasza!”. Nie ma tak, ażeby współcześnie czyjkolwiek system pojęć mógł wyrosnąć w całkowitym oderwaniu od poglądów specjalistów, ostatnim w Polsce prawdziwie samorodnym talentem tego rodzaju był zapewne Jan Krzeptowski-Sabała (1809–1894), a i jego opinie przytaczano raczej jako anegdoty niż istotne inspiracje etyczne.

Niemniej dziś każdy może uzyskać potrzebną wiedzę i wykształcenie, aby odpowiedzialnie włączyć się w ten dialog i odnosić do orzeczeń znawców, podobnie jak w przypadku medycyny. Nie widzę, w jaki sposób ma to grozić upadkiem demokracji. To właśnie jest lub byłaby jedna z największych przewag dobrze funkcjonującej demokracji, że każdy rozwija się w interesujących go dziedzinach i po osiągnięciu odpowiedniej biegłości ma szansę wpływać na decyzje dotyczące ogółu.

Jeszcze raz serdecznie dziękuję za ogrom materiału do przemyśleń i pozdrawiam!

które elementy Twojego wywodu są do utrzymania w świetle nowoczesnych teorii filozoficznych, a które wymagają przyjęcia stanowiska Arystotelesa.

Mmmm, kłopot polega na tym, że od jakichś stu, stu kilkudziesięciu lat obserwujemy powrót Arystotelesa, czasem zresztą zupełnie tylnymi drzwiami (większość jego współczesnych zwolenników, o ile wiem, to neotomiści, ale chyba nie wszyscy – niektórzy wpadają na to niezależnie, choć zwykle nie na wszystko). Trochę trudno to wyczuć. Największe różnice widać chyba w filozofii umysłu (wiele z jej problemów po prostu nie powstaje, kiedy się wychodzi z założeń Arystotelesa). W każdym razie Kripke raczej od Arystotelesa nie wychodził, Searle też (świadomie) nie.

Mam wrażenie, może mylne, że konfrontujesz je tylko z kartezjańskim, gdy tymczasem filozofia zachodnia rozwinęła się znacznie od czasów Kartezjusza i spodziewałbym się kłopotów ze znalezieniem współczesnego filozofa czy etyka, który twierdziłby na przykład, że kot “nie chce niczego, nie widzi, nie słyszy, nie czuje bólu i nie pamięta”.

Nie przeczę, że się rozwinęła, ale w tym sęk – jej założenia, pierwsze zasady pozostają kartezjańskie. Czyli takie, że bardzo trudno, pozostając przy nich i nie wprowadzając niczego z nimi sprzecznego (albo "magicznego"), przypisać kotu percepcję, pamięć i dążenia. Owszem, wprowadzanie nowych rzeczy (niekoniecznie wprost) się zdarza – na przykład Christine Korsgaard, którą tu potraktowałam bardzo skrótowo, jest kantystką (dlatego między innymi potraktowałam ją skrótowo, bo obalam koncepcję utylitarystyczną) – i zwolenniczką rozszerzenia sfery etyki na zwierzęta. Jak to uzasadnia? Nie sprawdzałam. Nie podejmuję się zgadywać, bo dla mnie to się kupy nie trzyma. Ale stąd na przykład qualia i te wszystkie tam – tajemnicze rzeczy, które są materialne i nie są materialne. Albo p-zombie – u Arystotelesa zupełna niemożliwość.

Na przykład skoro pozwolimy sobie stwierdzić, że niebo jest niebieskie, a zaćmienie Księżyca czerwone w tym celu, ażeby zaspokajać ludzki zmysł estetyczny oraz budzić nasz podziw nad pięknem i potęgą Natury, to prawa rozpraszania Rayleigha już raczej nie odkryjemy.

Wiesz, ja też o tym słyszałam (to chyba jeden z tych obiegowych poglądów), ale teraz nabieram wątpliwości. Owszem, szacunek wobec świata może nas powstrzymać przed jego wiwisekcją ("kto psuje jakąś rzecz, by lepiej poznać jej istotę, ten zbacza ze ścieżek mądrości"), ale właściwie pytanie "po co to jest" nijak się logicznie nie wyklucza z pytaniem "jak to działa". Mam wrażenie, że historię idei podaje nam się bardzo uproszczoną, do granic absurdu nawet.

Argument Kripkego – nie tylko tak, jak go przedstawiasz, bo poszukałem też w innych źródłach – wydaje mi się opierać na fundamentalnym niezrozumieniu matematyki, idei definicji i dowodu

Hmmm. Dlaczego?

To, że pojęcie trójkąta nie wiąże się z trójkątem konkretnej wielkości, nie znaczy, że nie może być wiernie przechowane na materialnym nośniku, te dwa fakty wydają się nie mieć w ogóle związku.

Właśnie w tym sęk, że to tak nie działa. Jak by to wytłumaczyć... weźmy może koło. Koło, w definicji Euklidesa (jak ją pamiętam), jest to taka figura, której każdy punkt jest najwyżej tak odległy od środka, jak długi jest odcinek zwany promieniem. Ta definicja zapisana słowami wymaga zrozumienia, żeby dało się ją zastosować – ale określa pewne pojęcie. Samo to pojęcie nie jest ani okrągłe, ani złożone z punktów, ani nic z tych rzeczy. Można zapisać definicję koła na materialnym nośniku, można narysować, ile się chce (określonych pod względem rozmiaru) kół – ale zapis zawsze będzie zbiorem punktów na płaszczyźnie, fal w powietrzu czy elektronów w kablu. Czymś fizycznym. Nie pojęciem, bo pojęcia fizyczne nie są. I chyba tylko jeszcze bardziej namąciłam.

Kiedy uczymy się, czym jest ten nieszczęsny trójkąt czy dodawanie, nie dzieją się czary, lecz powstają wzorce aktywacji naszych neuronów reprezentujące dane pojęcie (czego dowodzi nie wprost, że możemy do niego utracić dostęp na skutek choroby czy urazu mózgu)

Nie ma tu mowy o żadnych czarach. (Co prawda wypadałoby tu spytać o definicję tychże, bo niematerialność i magiczność to zdecydowanie nie to samo). Po prostu – nawet zakładając reprezentacyjną teorię poznania (której Arystoteles nie zakładał! ale do której tak przywykliśmy, że muszę sobie za każdym razem przypominać, że to nie jedyna możliwa), wzorce aktywacji neuronów reprezentują... właśnie. Po pierwsze – co reprezentują? Nie mogą reprezentować (tylko) poszczególnych przedmiotów, bo wtedy nie widzielibyśmy między nimi podobieństwa (to jest okrągłe, i to też, ale tamto kwadratowe) ani powiązań logicznych. Poza tym trudno mówić o reprezentowaniu jednego przedmiotu przez inny (reprodukowaniu, tak, ale znowu wychodzi kwestia podobieństwa i jak je rozpoznajemy).

Utrata dostępu, jak każdy fakt, da się dopasować do różnych wyjaśnień teoretycznych.

Natura świadomości i rozumności – czyli to, co sprawia, że mamy subiektywne poczucie bezpośredniego dostępu do takiej reprezentacji, że potrafimy ją pojmować – pozostaje niezbadana naukowo.

Tak, bo nauka nie jest od tego.

Nie umiem dostrzec, jakoby cokolwiek w podanym wywodzie istotnie przemawiało za tezą, że jest to magiczna własność dostępna z natury urodzenia ludziom i tylko ludziom.

Nie wydaje mi się, żebym to sugerowała (i żeby ktokolwiek usiłował tego dowodzić, w sumie) – na pewno nie jest magiczna. Nie można też wykluczyć, że istnieją inne inteligentne byty (bo dlaczego nie?), a tylko, że te byty nie są artefaktami i nie działają jak artefakty. Ale z tej części wywodu ja też nie jestem specjalnie zadowolona.

Nie można jednak twierdzić, że za każdym razem zdarza się to losowo.

Nie twierdzę, że to się zdarza losowo. Twierdzę, że celowość tych tworów pochodzi w całości od ich twórców (i użytkowników, bo oni też są twórcami – dokładają przecież materiał i eliminują to, co im nie odpowiada) – wyobraź sobie ogromną bibliotekę, tak ogromną, że goście potrzebują specjalnego tomiku instrukcji jej przeszukiwania. Instrukcje mogą być bardzo zawiłe i szczegółowe, a pozornie nieistotny wybór linijki 598 zamiast 3754 może prowadzić zupełnie na drugi koniec biblioteki, ale to nie znaczy, że coś tu się losuje. Ani że powstała L-przestrzeń. Modele językowe mają w sobie trochę losowości, żeby urozmaicić wyniki, ale zasadniczy mechanizm ich działania jest deterministyczny, na ile zrozumiałam.

Wygląda to na solidny przykład cechy emergentnej (tylko w jednym miejscu mimochodem wspominasz o emergencji) – układ jest dostatecznie złożony, żeby przyjąć własności, których według jego podstawowego opisu nie powinien mieć i przynajmniej na razie nie udało nam się zrozumieć, dlaczego je jednak ma.

Mmmm, chyba nie. Weźmy kryształ: pojedynczy atom nie może być kryształem. Dołóż jeszcze kilkadziesiąt, a powstanie malutki kryształek, w przypadku którego trudno mówić, chociażby, o łupliwości czy połysku – pojawią się, kiedy kryształ będzie większy. Ale one akurat raz, są redukowalne do własności tworzących kryształ atomów i do ich układu (który w tym przypadku wynika z własności tych atomów!), a dwa – co masz na myśli, mówiąc o "podstawowym opisie"? Dennetta opis fizyczny?

Daje jednak, moim zdaniem, ostrożnie do myślenia, czy taka cecha nie mogłaby się pojawić w jeszcze bardziej złożonym układzie zdolnym do ustanawiania sobie nowych reprezentacji pojęć abstrakcyjnych i wykonywania na nich operacji.

Ale układ zdolny do ustanawiania sobie nowych reprezentacji pojęć i operacji na nich – to jest układ rozumny. Więc wracamy do początku. Jeśli rozumienie nie wynika z materialnej złożoności układu, to nie będzie związku między tą złożonością, a myśleniem. Bardzo złożone układy nie będą myślały tylko dlatego, że są bardzo złożone, a bardzo proste będą mogły myśleć, choć złożone nie będą.

W sumie przemęczyliśmy się dobre kilkanaście wpisów nad bardzo zbliżonym tematem pod opowiadaniem

O, faktycznie. Zapomniałam...

czy opis z natury może nie wystarczać do podjęcia decyzji w eksperymencie etycznym, ponieważ nie wiemy, czy istota, której dotyczy ta decyzja, jest osobą?

W zasadzie jest to dość akademicka sytuacja, bo osoby zachowują się zwykle inaczej od nie-osób, aczkolwiek, oczywiście, możemy mieć do czynienia z kimś nieprzytomnym albo z innych przygodnych względów niezdolnym do normalnych zachowań. Ale eksperymenty myślowe w etyce są raczej domeną utylitarystów, może dlatego, że to teoria oparta na abstrakcyjnych regułach, z którymi można robić bardzo dużo dziwnych rzeczy. Teoretyk cnót może najwyżej napisać opowiadanie :)

Miałem wrażenie, rzecz prosta, że obydwa sformułowania mogą być uznawane za definiujące pojęcie osoby, ale tylko to pierwsze jest uniwersalne i użyteczne etycznie.

Mmmm, drugie sformułowanie jest nie tyle definicją, co opisem. Jest takie... mało wiedzotwórcze.

Zastanawiam się na przykład (to bardziej historia literatury niż etyka), czy aby nie w kontrze do tej opinii Lewisa padły zdania

Nie wiem, jak się Tolkien zapatrywał na karę śmierci, ale wątpię. Nie tylko dlatego, że adresatem tych słów w książce jest Frodo, a nie Drzewiec (który podobno jest portretem Lewisa – sam Lewis miał sportretować Tolkiena w postaci doktora Elwina Ransoma w "Trylogii kosmicznej" i nawet sam zainteresowany się rozpoznał).

Lewis bowiem mówi w tym eseju przede wszystkim o sprawiedliwości – ale o łasce też wspomina:

The error began, perhaps, with Shelley's statement that the distinction between mercy and justice was invented in the courts of tyrants. It sounds noble, and was indeed the error of a noble mind. But the distinction is essential. The older view was that mercy 'tempered' justice, or (on the highest level of all) that mercy and justice had met and kissed. The essential act of mercy was to pardon; and pardon in its very essence involves the recognition of guilt and ill-desert in the recipient. If crime is only a disease which needs cure, not sin which deserves punishment, it cannot be pardoned. How can you pardon a man for having a gumboil or a club foot? But the Humanitarian theory wants simply to abolish Justice and substitute Mercy for it. This means that you start being 'kind' to people before you have considered their rights, and then force upon them supposed kindnesses which no one but you will recognize as kindnesses and which the recipient will feel as abominable cruelties. You have overshot the mark. Mercy, detached from Justice, grows unmerciful. That is the important paradox. As there are plants which will flourish only in mountain soil, so it appears that Mercy will flower only when it grows in the crannies of the rock of Justice: transplanted to the marshlands of mere Humanitarianism, it becomes a man-eating weed, all the more dangerous because it is still called by the same name as the mountain variety.

Problem nie polega na tym, że mamy wybierać między sprawiedliwością a łaską – tylko właśnie na tym, że nie powinniśmy wybierać, potrzebne jest jedno i drugie i jedno bez drugiego się wyradza. To jest mocno zakorzenione w etyce cnót – człowiek może postępować w zgodzie z jedną cnotą, ale nie będzie naprawdę cnotliwy, jeśli postępuje niezgodnie z inną. W swojej stoickiej wersji etyka cnót łączy w ogóle wszystkie cnoty w jedną, którą się albo ma, albo nie. Arystoteles dopuszcza troszkę nierównomierny rozwój moralny, ale nie jest to ideał.

W każdym razie Tolkien mówi (w tym miejscu i nie tylko) o litości, przestrzega też przed pochopnym wydawaniem sądów – ale nie zauważyłam, żeby gdziekolwiek wypowiadał się przeciwko sprawiedliwości. Zwróć uwagę na salomonowy wyrok Aragorna wobec Beregonda – przestępstwo (zabił klucznika) jest usprawiedliwione (ratował życie Faramirowi), przestępca go żałował (p. tekst), dowiódł swojej wartości w bitwie, ale jednak – miało miejsce. I pozostawienie Beregonda w mieście, gdzie mieszkają krewni tego klucznika (którzy mogą się nawet z tym wszystkim zgadzać), cieszącego się wszelkimi swobodami, to proszenie się o zemstę, jeśli mamy to rozpatrywać utylitarnie. Aragorn w zasadzie powinien skrócić faceta o głowę, i mówi to – ale uwzględnia okoliczności łagodzące. Jednak – gdyby za zabójstwo nie należała się kara, nie można by jej było złagodzić.

Nie wiem, kto o tym nie mówi lub wtedy nie mówił, ale nie wygląda to na wielką tajemnicę.

Pewnie nią nie było – ludzie często nie zastanawiają się nad tym, co wynika z ich słów (i czynów). Współcześni Lewisa mogli to uważać za tak oczywiste, że niewarte wzmianki, ale bardziej prawdopodobne, że po prostu o tym nie myśleli.

W sumie jak ktoś koniecznie chce siedzieć w tunelu pod dworcem Gdańsk Główny i prątkować, to odwiezienie go na przymusowe leczenie też jest jedynym rozsądnym wyjściem z sytuacji.

Zapewne. Ale – podobnie jest np. z wolnością słowa. Tolerujemy pewne jej nadużycia, bo ściganie ich za łatwo spowodowałoby o wiele większe nadużycia. Problem z utylitarystami polega na tym, że wydaje im się, że mogą mieć świat doskonały. Nie mogą. Zawsze musimy iść na pewien kompromis.

Nie jest przecież bez znaczenia, czy da się wywnioskować, dlaczego sprawca postąpił tak, jak postąpił (czy jego działanie było w danym kontekście logiczne), czy dysponował niezakłóconą autonomią.

Zaraz, zaraz – jeśli nie da się wywnioskować, dlaczego tak postąpił, to niekoniecznie dysponował niezakłóconą autonomią. Widzę, że niedostatecznie to podkreśliłam – autonomia to nie losowość, tylko świadomy wolny wybór.

Wydaje mi się, że ten argument musi wychodzić z konkretnego paradygmatu etycznego?

Hmmm, nie do końca, aczkolwiek Oderberg tutaj: https://docs.google.com/file/d/0B7SKlRTfkUiecnJuOWpJSzFOaDg/edit?resourcekey=0-XzKHWNunKf6fOxbYcahEvw mówi wprost, że utylitaryści w ogóle nie uznają praw. Mnie to przekonuje, przynajmniej wstępnie. (Wspomina też, że moralność nie wyczerpuje się w sprawiedliwości i uprawnieniach, o czym ja, oczywiście, zapomniałam, choć na jakimś poziomie wiedziałam. Zawsze tak mam.)

Niemniej pewnie nie budzi większych kontrowersji, gdy w uznaniu godności delikwenta decydujemy się zastosować środki łagodniejsze od tych, które wydają się najskuteczniejsze pod kątem rehabilitacji i prewencji.

I o to właśnie chodzi, że kiedy uznajemy godność delikwenta, specjaliści są niezadowoleni. Lewis:

The immediate starting point of this article was a letter I read in one of our Leftist weeklies. The author was pleading that a certain sin, now treated by our laws as a crime, should henceforward be treated as a disease. And he complained that under the present system the offender, after a term in gaol, was simply let out to return to his original environment where he would probably relapse. What he complained of was not the shutting up but the letting out. On his remedial view of punishment the offender should, of course, be detained until he was cured. And of course the official straighteners are the only people who can say when that is.

Zauważ, że autor listu wyraźnie apeluje o trzymanie delikwenta w więzieniu dla jego (delikwenta) dobra.

Pierwsze zdanie wydaje mi się źle ugruntowane. Sądziłbym, że między innymi po to ludzie czytają o etyce i nawet ją studiują, żeby rozwinąć w sobie te kompetencje, dobrze odróżniać sprawiedliwość od zemsty i nie zostać przypadkiem częścią tłumu wyjącego “Uwolnij nam Barabasza!”.

Patrząc na niektórych doktorów etyki, śmiem wątpić. Owszem, kompetencje etyczne mogą być mniej lub bardziej rozwinięte dzięki doświadczeniu, skrzywione (też dzięki doświadczeniu), a i ogólne zdolności umysłowe nie są tu bez wpływu. Ale też – Lewis wychodzi od bardzo tradycyjnej koncepcji prawa naturalnego. Nie pisze tu o tym, ale chyba zgodziłby się, że sumienie jest rodzajem poznania. A sumienie każdy ma z grubsza takie samo. Chociaż też każdy je głuszy. Ale ludzie zupełnie niewykształceni i niemający bladego pojęcia, co to jest imperatyw kategoryczny, często zachowują się przyzwoiciej od profesorów etyki – nie ma w tym tajemnicy, tak jak nie ma tajemnicy w tym, że onkolodzy czasami zapadają na raka, choć niby powinni umieć temu zapobiec.

Etycy zajmują się nie tym, co jest etyczne, ale uzasadnieniem, dlaczego coś jest etyczne. A to nie to samo.

Poza tym – to może być istotne – Lewis był Brytyjczykiem, a nie jestem pewna, czy tam sędziowie nie są aby obieralni. W demokratycznym procesie – czyli jeśli źle orzekają, można ich nie wybierać ponownie. Podlegają kontroli społecznej. A specjaliści nie.

Nie widzę, w jaki sposób ma to grozić upadkiem demokracji.

Demokracja nie jest tu celem – Lewis traktuje ją (taką angielskiego typu demokrację) raczej jako zabezpieczenie przed właśnie tego rodzaju dystopią. Sęk w tym, że rządy specjalistów to zabezpieczenie niszczą. Bo zobacz: kiedy o medycynie wypowiada się ktoś, o kim wiemy, że nie ma o niej zielonego pojęcia, nie zwracamy na jego opinię większej uwagi. Ponarzekamy sobie, że mógł się nie odzywać i nie rozwiewać wątpliwości co do swoich w tej dziedzinie kompetencji, ale nie rozważamy nawet postępowania zgodnie z tym, co powiedział i wyrzucamy to z pamięci – może najwyżej spadnie jego ogólna wiarygodność w naszych oczach. I słusznie robimy, bo jeśli nawet ta opinia jest prawdziwa, to przypadkiem (jest mało prawdopodobne, żeby opinia kogoś, kto się nie zna, była prawdziwa).

Czy możemy tak samo postąpić, kiedy ktoś się wypowiada na temat moralności? Nie jako jej badacz, teoretyk, ale jako praktyk?

Jeśli tak, to odsuwamy na bok pewne opinie. Odmawiamy ich rozważenia. Te opinie mogą być fałszywe, ale przyjęliśmy to z góry – na jakiej właściwie podstawie? Co nam daje podstawy do oceny tych opinii jako o tyle gorszych od naszych własnych, że niewartych rozważenia?

Jestem jak najdalsza – i Lewis też był! – od urawniłowki, ale jeśli kompetencja moralna jest istotową cechą człowieka, powinna być w miarę rozwinięta u każdego. Jakieś indywidualne różnice na pewno będą, chodzi o to, że odmawiając niektórym prawa do skutecznego wypowiedzenia się, tracimy dialog, na którym polega demokracja. Nie twierdzę, że nie ma ludzi, którzy ten dialog zagłuszają głupotami (Internet akurat to bardzo ułatwił). Nie twierdzę, że mam na to dobry sposób, czy w ogóle jakikolwiek. Może jesteśmy między Skyllą a Charybdą i zaraz się rozbijemy. W każdym razie demokracja polega na tym, że rozmawiamy jak równi z równymi, a nie, że mądrzejsi każą, a głupi słuchają.

Chociażby dlatego, że prędzej czy później "mądrzejsi" stają się bezdennie głupi, za głupi, żeby zrozumieć, że już nie są mądrzejszymi. I wtedy wszystko się rozsypuje.

Jeszcze raz serdecznie dziękuję za ogrom materiału do przemyśleń i pozdrawiam!

ETA: Bo tak mi przyszło do głowy, może pod wpływem Toulmina – niewykluczone, że rozwój nauki hamowała nie tyle arystotelesowa metafizyka, ile epistemologia. (Niewykluczone też, że na nasze szczęście). Bo zobacz – nauka zajmuje się rzeczami przygodnymi, których nie da się poznać a priori, a Arystoteles (i, zdaniem Toulmina, XX-wieczni logicy) mało się zajmował poznaniem a posteriori, skupiony prawie wyłącznie na rozumowaniach dedukcyjnych, apriorycznych. Interesowała go wiedza pewna, o tym, co trwałe i niezmienne – a świat fizyczny nie jest niezmienny (wykazuje regularność, ale niekoniecznie widoczną na pierwszy rzut oka, trzeba go trochę zbadać, zresztą ta regularność może być złudna albo chwilowa).

Toulmin twierdzi, że współcześni logicy próbują sprowadzić do dedukcyjnych wszystkie rozumowania i zupełnie bez sensu kręcą nosem na niepewność, której rozumowania niededukcyjne nie mogą wyeliminować. Może troszkę przesadza, ale coś w tym jest.

Gdzie nie ma zasad, tam są kwasy.

Kobyła, to prawda... Ale przeczytam, choć nie dziś.

„Poszukiwanie prawdy, która, choćby najgorsza, mogłaby tłumaczyć jakiś sens czy choćby konsekwencję w tym, czego jesteśmy świadkami wokół siebie, przynosi jedyną możliwą odpowiedź: że samo poszukiwanie jest, lub może stać się, ową prawdą.” J.Kaczmarski

Ostrzegam, że chaos :D Omawiam w zasadzie artykuł, który jest rozkosznie głupiutki, ale tak naprawdę próbuję załatwić wszystko, co jest nie tak z naszym światem XD i oczywiście mi nie wychodzi (w dodatku dezaktualizują mi się zaczęte teksty, kurka... ale to inna sprawa)

ETA: Odpowiedź na klasyczne opowiadanie Ursuli LeGuin o utylitaryzmie (które jest objęte prawem autorskim, ale można je znaleźć, jak się poszuka) : https://clarkesworldmagazine.com/kim_02_24/

ETA: Na razie tylko przejrzałam, ale artykuł wydaje się poruszać ciekawe zagadnienie, więc wklejam na potem i dla Waszego zbudowania : https://strangenotions.com/atheism-prot-englight-and-the-schizophrenic-republic/

Gdzie nie ma zasad, tam są kwasy.

Autorka skrytykowała instrukcję BHP, używając jako narzędzia „Etyki nikomachejskiej”, ignorując fakt, że większość rzeczy, które krytykuje w tekście artykułu Moore'a po prostu... nie ma.

By wytknąć wszystkie błędy jakie się tu pojawiły, potrzebowałbym niestety w odpowiedzi do tych trzech artykułów prześmiewczych względem Moore'a, napisać ze sześć artykułów wyśmiewających tę krytykę – ale ja apologetą Moore'a być nie zamierzam z dwóch powodów: po pierwsze, on sam się broni dostatecznie dobrze (wystarczy nie wkładać w jego usta czegoś, czego nie napisał, na przykład autorka konsekwentnie przypisuje Moorowi silne tezy metafizyczne i normatywne, podczas gdy on mówi wyłącznie o funkcjonalnym projektowaniu systemów minimalizujących ryzyko etyczne), po drugie, ja się z nim nie zgadzam (choć akurat nie w tych punktach, które autorka tejże krytyki raczyła wyszczególnić).

Muszę jednak przyznać autorce, że przynajmniej jedno zdanie ma tu sens:

Tylko, że jeśli jest niepoznawalna, to nie możemy myśleć wcale. Możemy tylko „jakby myśleć” – a wtedy nie uda nam się nawet zaprzeczyć, że myślimy, bo nie wiemy, co to znaczy „myślenie”, nie jesteśmy w stanie odróżnić myślenia od niemyślenia.

Pod tym mogę się podpisać – rzeczywiście, nie potrafimy tego zoperacjonalizować. Mamy w miarę sensowne i operacjonalizowalne definicje inteligencji – możemy zbadać, czy system jest inteligentny. Dużo trudniej ze świadomością – ale i tu mamy pewne próby operacjonalizacji. Ale co do myślenia mamy spory problem – bo z zewnątrz, system który jedynie symuluje myślenie jest nieodróżnialny od takiego, który naprawdę myśli.

Tu musiałbym się też niestety rozpisać szerzej dlaczego tak jest i dlaczego "chłopski rozum" czy "zdrowy rozsądek" – tu nie działa.

Zamiast jednak takiej rozbudowanej i pewnie nudnej dla większości polemiki, w której punkt po punkcie będę krytykował tę krytykę, wykazując co w niej jest błędem rzeczowym, a co błędem formalnym itp. – zadam tylko jedno, podstawowe pytanie:

Zdaje się, że autorka twierdzi, zbierając te różne dawno obalone i zdezaktualizowane wątpliwości Saerla i Lewisa, nadinterpretując Geacha, że (uproszczenie moje):

1. Pojęcia są niefizyczne

2. To co niefizyczne, nie może być przetwarzane przez coś, co jest fizyczne.

3. Z 1 i 2 wynika – że algorytmy nie nadają się do przetwarzania pojęć.

Tak?

To pytanie podstawowe – czy algorytm jest czy nie jest fizyczny?

I – by rzecz jeszcze maksymalnie uprościć – nie pytam tu o „algorytm” jako byt abstrakcyjny w sensie matematycznym, lecz o algorytm jako konkretny realizowany proces obliczeniowy.

Jest fizyczny czy nie jest?

ksiegamiliona.pl - premiera już 14 lutego 2026 // entropia nigdy nie maleje // Outta Sewer: Jim, indioto Ty, nadal chyba nie rozumiesz

Autorka skrytykowała instrukcję BHP, używając jako narzędzia „Etyki nikomachejskiej”, ignorując fakt, że większość rzeczy, które krytykuje w tekście artykułu Moore'a po prostu... nie ma.

Cóż. Oceńcie to sami: https://philosophynow.org/issues/72/Four_Kinds_of_Ethical_Robots

Moim osobistym zdaniem artykuł wskazuje na to, że autor bardzo chce mieć etyczne roboty – ale nie rozumie, co to jest etyka (i nauka, bo mówi o "naukowym" badaniu tego zagadnienia); definiuje wiele pojęć ("odpowiedzialność", "działanie") beznadziejnie szeroko, tak, że zupełnie nie wiadomo, co znaczą, i ogólnie nie rozumiem, kto mu dał dyplom. Ale to moje zdanie.

trzech artykułów prześmiewczych względem Moore'a

I co w nich jest prześmiewczego, jeśli wolno spytać? Tak wygląda analiza idei. Trzeba zacząć od fundamentów. Potem zbadać, co nam dano do badania. A na koniec skomentować. Tyle. Nie musiałam gościa wyśmiewać, on sam się podłożył.

autorka konsekwentnie przypisuje Moorowi silne tezy metafizyczne i normatywne, podczas gdy on mówi wyłącznie o funkcjonalnym projektowaniu systemów minimalizujących ryzyko etyczne

Ale samo istnienie takich systemów wymaga prawdziwości pewnych tez metafizycznych... żaden sąd nie jest oderwany od świata. O ile ma być prawdziwy, oczywiście.

Mamy w miarę sensowne i operacjonalizowalne definicje inteligencji – możemy zbadać, czy system jest inteligentny.

Nie znam takich definicji. Przerzuciłam łopatą trochę (w większości dość nudnej) literatury i nie znalazłam w niej żadnych. Może szukałam nie tam, gdzie trzeba.

z zewnątrz, system który jedynie symuluje myślenie jest nieodróżnialny od takiego, który naprawdę myśli

Do czasu.

Zdaje się, że autorka twierdzi, zbierając te różne dawno obalone i zdezaktualizowane wątpliwości Saerla i Lewisa, nadinterpretując Geacha

A kto je obalił? Bo o tym nie słyszałam. Artykuł Geacha posłużył mi wyłącznie do objaśnienia natury przymiotnika "dobry" – zajrzyj tutaj: https://fair-use.org/peter-t-geach/good-and-evil jeśli uważasz, że go nadinterpretuję.

1. Pojęcia są niefizyczne

2. To co niefizyczne, nie może być przetwarzane przez coś, co jest fizyczne.

3. Z 1 i 2 wynika – że algorytmy nie nadają się do przetwarzania pojęć.

W zasadzie to twierdzi Edward Feser (za Rossem oraz Kripkem), a ja się z nim tylko zgadzam.

I – by rzecz jeszcze maksymalnie uprościć – nie pytam tu o „algorytm” jako byt abstrakcyjny w sensie matematycznym, lecz o algorytm jako konkretny realizowany proces obliczeniowy.

Jest fizyczny czy nie jest?

Jako konkretny proces obliczeniowy, realizowany przez fizyczny układ, np. komputera? Jest.

Gdzie nie ma zasad, tam są kwasy.

Nie znam takich definicji.

Autorka albo skrajnie wąsko rozumie takie definicje, albo świadomie ignoruje cały dorobek psychologii, neurobiologii, psychometrii i kogniwistyki. Filozofia niczego nie potrafi zoperacjonalizować – nie daje żadnych narzędzi do mierzenia zjawisk empirycznych, więc może dlatego autorce niczego się nie udało znaleźć, bo filozofia sama w sobie – jest jak to zauważył Vacter (nie tymi słowami) czcza, bez nauk szczegółowych jest nie tylko ślepa i głucha, a po prostu – pusta poznawczo.

Owszem, większość z tych definicji jest bardzo złożona i wręcz przegadana, jest tam dużo odnośnie adaptacji, rozpoznawania, rozróżniania wzrorców itp. – ale myślę, że można uwspólnić większość z nich w coś w tym stylu (uwspólnienie i uproszczenie moje):

Inteligencja – zdolność systemu do szybkiego rozwiązywania złożonych i zróżnicowanych problemów. Jest wprost proporcjonalna do złożoności rozwiązywanych problemów i odwrotnie proporcjonalna do czasu ich rozwiązywania.

Świadomość – zdolność systemu do bezpośredniego sygnalizowania własnych stanów wewnętrznych i odróżniania tych stanów od stanów dotyczących otoczenia oraz do refleksji nad tymi stanami.

Jest wprost proporcjonalna do głębokości introspekcji i złożoności reprezentacji doświadczeń oraz odwrotnie proporcjonalna do opóźnienia między doświadczaniem a zdolnością ich rozpoznania i interpretacji.

Teoretycznie, per analogiam, możnaby spróbować wykuć podobną definicję myślenia, coś w stylu:

Myślenie – zdolność systemu do manipulowania reprezentacjami informacji w celu generowania nowych wniosków, przewidywań lub planów działania.

Jest wprost proporcjonalne do złożoności i trafności tworzonych wniosków oraz odwrotnie proporcjonalne do czasu potrzebnego na ich wygenerowanie.

Ale zauważyć należy, że tego się nie da zoperacjonalizować bez zaglądania do wnętrza systemu (ze świadomością – pozornie też się nie da, ale w praktyce da się – robi się to przez testy mające albo wykazać, czy podmiot poznający odróżnia się prawidłowo od otoczenia, albo czy jest w stanie postrzegać siebie w otoczeniu)

Do czasu.

A konkretnie? Do jakiego czasu? Czy autorka prognozuje, że kiedyś będziemy potrafili to rozróżniać? Na jakiej podstawie? Czy może używa tego w innym znaczeniu – że ta symulacja myślenia jest nierozróżnialna od myślenia tylko przez jakiś czas (jej trwania) i po jakimś czasie sama się zdemaskuje?

A kto je obalił? Bo o tym nie słyszałam.

Nie wierzę by autorka nie słyszała o takich autorach jak Raymond Kurzweil czy Jerry A. Fodor czy Daniela Dennetta że wymienię tylko trzech nieco już zmurszałych klasyków – błąd Searle’a polega głównie na tym, że próbuje rozważać komponenty systemu w oderwaniu, niezależnie, nie biorąc pod uwagę ani systemu jako całości ani emergencji elementów. Jeszcze prościej: manipulacja symbolami w oderwaniu od relacji ich ze światem (autorka nazywa to przesuwaniem żetonów) – nie może prowadzić do rozumienia czegokolwiek, ale system działa w relacjach ze światem (i z samym sobą) – więc to właśnie system odniesień i sprzężeń zwrotnych decyduje o zrozumieniu. Po prostu należy brać pod uwagę system jako całość a nie jego niewielką część.

Czy ja dobrze zrozumiałem autorkę, że spór nie tyle dotyczy tego, czy Moore się myli, tylko raczej tego, czy przyjmujemy tomistyczno-dualistyczną metafizykę jako warunek sensowności etyki?

Doskonale rozumiem, że autorka taki światopogląd może reprezentować, ale zawężanie etyki do tego jednego ujęcia jest jej okaleczaniem (już pomijając to, jak pełne sprzeczności i samoobalające jest to tomistyczne podejście).

I – by rzecz jeszcze maksymalnie uprościć – nie pytam tu o „algorytm” jako byt abstrakcyjny w sensie matematycznym, lecz o algorytm jako konkretny realizowany proces obliczeniowy.

Jest fizyczny czy nie jest?

Jako konkretny proces obliczeniowy, realizowany przez fizyczny układ, np. komputera? Jest.

To jakim cudem procesy w naszych własnych mózgach są w stanie to robić? Inaczej: czemu w krzemie nie dałoby się uzyskać tego samego, co uzyskujemy w białku? Jeszcze prościej: skoro nie ma żadnych przesłanek, by stwierdzić, że cokolwiek, co się dzieje w naszych organizmach nie jest algorytmizowalne, to skąd przeświadczenie, że myślenie takie jest?

ksiegamiliona.pl - premiera już 14 lutego 2026 // entropia nigdy nie maleje // Outta Sewer: Jim, indioto Ty, nadal chyba nie rozumiesz

Bardzo interesujące, ale od lejka, jak ja, wymaga wolnego czytania i najlepiej z przerwami. Tak czynię. Powrócę. :)

bez nauk szczegółowych jest nie tylko ślepa i głucha, a po prostu – pusta poznawczo.

A może po prostu zajmuje się sprawami podstawowymi, które trzeba rozstrzygnąć, zanim się zacznie cokolwiek empirycznie badać?

Inteligencja – zdolność systemu do szybkiego rozwiązywania złożonych i zróżnicowanych problemów.

Jakiego systemu? Jakich problemów? To nic nie znaczy.

Świadomość – zdolność systemu do bezpośredniego sygnalizowania własnych stanów wewnętrznych i odróżniania tych stanów od stanów dotyczących otoczenia oraz do refleksji nad tymi stanami.

Sygnalizowania – komu? I co to jest "refleksja"? I czy naprawdę uważasz, że nauki szczegółowe rozpracują wszystko?

Myślenie – zdolność systemu do manipulowania reprezentacjami informacji w celu generowania nowych wniosków, przewidywań lub planów działania.

Stronnicze, mówiąc uprzejmie. Bo sprowadzasz myślenie do mielenia symboli ("manipulowania reprezentacjami informacji" – czymkolwiek te "reprezentacje informacji" miałyby być, bo coś cyrkularne to).

Jest wprost proporcjonalne do złożoności i trafności tworzonych wniosków oraz odwrotnie proporcjonalne do czasu potrzebnego na ich wygenerowanie.

Na jakiej podstawie to stwierdzić? A tę złożoność? A tę trafność?

tego się nie da zoperacjonalizować bez zaglądania do wnętrza systemu

Oczywiście, że nie. A czy wszystko trzeba operacjonalizować?

A konkretnie? Do jakiego czasu? Czy autorka prognozuje, że kiedyś będziemy potrafili to rozróżniać?

Do czasu, szanowny Czytelniku, kiedy system się "potknie" i dostarczy jasnego dowodu, że wcale nie myśli. Pisał o tym Kripke. I Ross. I Feser. I ich właśnie cytowałam.

błąd Searle’a polega głównie na tym, że próbuje rozważać komponenty systemu w oderwaniu, niezależnie, nie biorąc pod uwagę ani systemu jako całości ani emergencji elementów

To ciekawe, bo czytałam jego artykuły i właśnie tego nie robi. W chińskim pokoju chodzi właśnie o to, że istotnego powiązania brakuje w systemie.

system działa w relacjach ze światem (i z samym sobą)

Ale właśnie o to chodzi, że nie działa w relacjach ze światem...

Czy ja dobrze zrozumiałem autorkę, że spór nie tyle dotyczy tego, czy Moore się myli, tylko raczej tego, czy przyjmujemy tomistyczno-dualistyczną metafizykę jako warunek sensowności etyki?

Nie, aczkolwiek na metafizyce tomistycznej (która nie jest dualizmem w znaczeniu, którego się obecnie używa – czyli kartezjańskim) można zbudować sensowną etykę, a na dualistycznej i wynikłej z niej monistycznej niekoniecznie.

już pomijając to, jak pełne sprzeczności i samoobalające jest to tomistyczne podejście

A to ciekawe. Gdzie te sprzeczności? Gdzie to samoobalanie?

To jakim cudem procesy w naszych własnych mózgach są w stanie to robić?

Bo wszystko może być zintepretowane jako proces obliczeniowy, patrz Searle.

Jeszcze prościej: skoro nie ma żadnych przesłanek, by stwierdzić, że cokolwiek, co się dzieje w naszych organizmach nie jest algorytmizowalne, to skąd przeświadczenie, że myślenie takie jest?

... przecież myślenie NIE jest algorytmizowalne. I to powiedziałam, o ile pamiętam. To Ty przyjąłeś, że jest, chociażby nieco wyżej.

Bardzo interesujące, ale od lejka, jak ja, wymaga wolnego czytania i najlepiej z przerwami. Tak czynię. Powrócę. :)

Miło mi, Misiu ^^

Gdzie nie ma zasad, tam są kwasy.

Na szybko:

Sygnalizowania – komu?

Światu zewnętrznemu / pamięci nieulotnej / czemukolwiek co można zbadać z zewnątrz.

Bez tego – nie możemy stwierdzić z zewnątrz, czy coś (np. LLM, kamień, siekiera, termostat, Tarnina) – jest czy nie jest świadome. Badania nad świadomością prowadzi się z zewnątrz, no chyba, że uważa się introspekcję za metodę badawczą jak Freud. Ale autorka chyba zdaje sobie sprawę, co ja myślę o “filozofach” (celowo w cudzysłowie) pokroju Freuda.

I co to jest "refleksja"?

Autoodniesienie. Mechanizm, który pozwala systemowi oglądać i analizować samego siebie w trakcie działania.

I czy naprawdę uważasz, że nauki szczegółowe rozpracują wszystko?

Chyba muszę jednak napisać ten artykuł o nieistnieniu prawd absolutnych.

Upraszczając: nie.

Bardziej szczegółowo: nie, nie uważam, bo “rozpracowanie wszystkiego” jest najprawdopodobniej (bo niezbitej pewności nie mam) fundamentalnie niemożliwe. Filozofia też tego nie będzie potrafić.

Oczywiście, że nie. A czy wszystko trzeba operacjonalizować?

Autorka tym pytaniem przypomniała mi osoby, którym pisałem rozdziały metologiczne ich prac doktorskich (swego czasu miałem taki sposób na dorabianie do uczelnianej pensji, nie jestem specjalnie dumny, ale robiłem gorsze rzeczy by przeżyć).

I odpowiem tak samo jak wtedy:

Tego czego się nie da zoperacjonalizować, nie da się badać.

Bo wszystko może być zintepretowane jako proces obliczeniowy, patrz Searle.

Doprawdy? Searle raczej twierdzi coś dokładnie przeciwnego. Mam dziwne wrażenie, że my jakichś dwóch różnych Searlów czytaliśmy.

Podobnie uwaga wcześniejsza autorki o Chińskim Pokoju – też nie jest spójna z tym co Searle twierdził.

Bo on właśnie traktował system jako osobne elementy – człowiek w Chińskim Pokoju nie zna chińskiego,

ani zestaw instrukcji – też nie i z tego wywodził, że system chińskiego nie rozumie. Krytycy zarzucali mu (słusznie), że system jako całość – zna język chiński. Pojedynczy neuron z głowy autorki też raczej nie ma świadomości i nieczego sobie nie myśli.

... przecież myślenie NIE jest algorytmizowalne. I to powiedziałam, o ile pamiętam. To Ty przyjąłeś, że jest, chociażby nieco wyżej.

Wszystko co może zostać zinterpretowane jako proces obliczeniowy, jest algorytmizowalne.

To w końcu jak to jest? Jak zdanie wyżej, czy jak tu?

Bo się gubię, bo autorka raz pisze tak, raz tak.

To, że jeszcze nie do końca wiemy jak niektóre rodzaje myślenia zalgorytmizować nie dowodzi tego, że myślenie jest fundamentalnie niealgorytmizowalne. Wręcz przeciwnie: gdyby było niealgorytmizowalne byłoby niemożliwe.

ksiegamiliona.pl - premiera już 14 lutego 2026 // entropia nigdy nie maleje // Outta Sewer: Jim, indioto Ty, nadal chyba nie rozumiesz

Światu zewnętrznemu / pamięci nieulotnej / czemukolwiek co można zbadać z zewnątrz.

Fajnie, ale "sygnalizowanie" sugeruje jakiegoś odbiorcę. Świadomego odbiorcę sygnału. Czyli – zapętlamy się.

Bez tego – nie możemy stwierdzić z zewnątrz, czy coś (np. LLM, kamień, siekiera, termostat, Tarnina) – jest czy nie jest świadome.

Dobrze, tylko co to ma do rzeczy? Nasza wiedza jest odbiciem świata, nie światem. Coś może spokojnie istnieć niezależnie od tego, czy ja o tym wiem, czy nie.

Badania nad świadomością prowadzi się z zewnątrz

I pomija się wszystko, czego z zewnątrz ująć nie można.

Ale autorka chyba zdaje sobie sprawę, co ja myślę o “filozofach” (celowo w cudzysłowie) pokroju Freuda.

Ale czytelnik zapewne pamięta, co ja myślę o scjentyzmie.

Autoodniesienie. Mechanizm, który pozwala systemowi oglądać i analizować samego siebie w trakcie działania.

Za wąsko. https://wsjp.pl/haslo/podglad/36557/refleksja/4179139/czynnosc

Bardziej szczegółowo: nie, nie uważam, bo “rozpracowanie wszystkiego” jest najprawdopodobniej (bo niezbitej pewności nie mam) fundamentalnie niemożliwe. Filozofia też tego nie będzie potrafić.

A dlaczego miałaby potrafić? I dlaczego miałoby być możliwe?

Autorka tym pytaniem przypomniała mi osoby, którym pisałem rozdziały metologiczne ich prac doktorskich

Czytelnik niczego nie uzyska impertynencją.

Tego czego się nie da zoperacjonalizować, nie da się badać.

Metodami fizyki. Ale poznanie to nie tylko badanie. Metodami fizyki.

Searle raczej twierdzi coś dokładnie przeciwnego.

Searle, "Is the Brain a Digital Computer?", sekcja IV. First Difficulty: Syntax is not Intrinsic to Physics:

But the class of computers is defined syntactically in terms of the assignment of 0's and 1's. The multiple realizability is a consequence not of the fact that the same physical effect can be achieved in different physical substances, but that the relevant properties are purely syntactical. The physics is irrelevant except in so far as it admits of the assignments of 0's and 1's and of state transitions between them.

Szczegóły fizyki są nieistotne, byle dało się zapisać dwa symbole i zamieniać jeden na drugi.

Dalej:

On the standard textbook definition of computation, for any object there is some description of that object such that under that description the object is a digital computer.

For any program there is some sufficiently complex object such that there is some description of the object under which it is implementing the program. Thus for example the wall behind my back is right now implementing the Wordstar program, because there is some pattern of molecule movements which is isomorphic with the formal structure of Wordstar. But if the wall is implementing Wordstar then if it is a big enough wall it is implementing any program, including any program implemented in the brain.

W tej sekcji on sam wyjaśnia, że to nie jest chiński pokój – chiński pokój wymyślił wcześniej i chodzi w nim o to, że ze składni nie robi się samorzutnie semantyka. Dalej jest mowa o wynikającym stąd problemie homunkulusa (który, mam wrażenie, stoi u podstaw chińskiego pokoju – przecież ten ludzik, który w tym pokoju siedzi i dostaje ze świata jakieś dane, to właśnie homunkulus) i o tym, że składnia nijak nie wpływa fizycznie na świat. Searle podsumowuje artykuł:

This brief argument has a simple logical structure and I will lay it out:

On the standard textbook definition, computation is defined syntactically in terms of symbol manipulation.

But syntax and symbols are not defined in terms of physics. Though symbol tokens are always physical tokens, "symbol" and "same symbol" are not defined in terms of physical features. Syntax, in short, is not intrinsic to physics.

This has the consequence that computation is not discovered in the physics, it is assigned to it. Certain physical phenomena are assigned or used or programmed or interpreted syntactically. Syntax and symbols are observer relative.

It follows that you could not discover that the brain or anything else was intrinsically a digital computer, although you could assign a computational interpretation to it as you could to anything else. The point is not that the claim "The brain is a digital computer" is false. Rather it does not get up to the level of falsehood. It does not have a clear sense. You will have misunderstood my account if you think that I am arguing that it is simply false that the brain is a digital computer. The question "Is the brain a digital computer?" is as ill defined as the questions "Is it an abacus?", "Is it a book?", or "Is it a set of symbols?", "Is it a set of mathematical formulae?"

Some physical systems facilitate the computational use much better than others. That is why we build, program, and use them. In such cases we are the homunculus in the system interpreting the physics in both syntactical and semantic terms.

But the causal explanations we then give do not cite causal properties different from the physics of the implementation and the intentionality of the homunculus.

The standard, though tacit, way out of this is to commit the homunculus fallacy. The humunculus fallacy is endemic to computational models of cognition and cannot be removed by the standard recursive decomposition arguments. They are addressed to a different question.

We cannot avoid the foregoing results by supposing that the brain is doing "information processing". The brain, as far as its intrinsic operations are concerned, does no information processing. It is a specific biological organ and its specific neurobiological processes cause specific forms of intentionality. In the brain, intrinsically, there are neurobiological processes and sometimes they cause consciousness. But that is the end of the story.

Czyli: obliczenie definiujemy jako proces syntaktyczny (manipulacja symbolami). Ale symbole i składnia nie są fizyczne – instancje symboli są fizyczne, ale symbolu nie określa fizyka (możesz to samo napisać ołówkiem na kratce i sprajem na murze). Symbole zależą od obserwatora, czyli nie odkrywa się ich w fizyce, tylko na nią narzuca. Zatem – wszystkiemu można je przypisać, ale to nic nie mówi o fizycznym działaniu tego czegoś. Traktowanie mózgu/umysłu jako komputera jest nawet nie fałszem, tylko błędem. Pewne systemy nadają się na komputery lepiej od innych, ale to nie zmienia faktu, że składnia, którą na nie narzucamy, nie wpływa na fizyczne związki przyczynowe w środku. Przeważnie ukrywa się to pod błędem homunkulusa albo twierdząc, że "mózg przetwarza informacje", czego nie robi – zachodzą w nim jakieś procesy biologiczne, które produkują świadomość (Searle też był fizykalistą).

Krytycy zarzucali mu (słusznie), że system jako całość – zna język chiński.

Nie powiedziałabym, że słusznie. Zapytałabym, co to znaczy, że system "zna" język i jak to się objawia. Bo jeśli objawia się podawaniem symboli, które pasują do zapytania, to wracamy do paradoksu Kripkego.

Zresztą – tyle o tym chińskim pokoju czytałam, a dopiero wczoraj przy zmywaniu zrozumiałam, być może dzięki wykładowi o KSeF i wykrywaniu w nim oszustów. Otóż – chiński pokój NIE zna chińskiego! Wcale nie z jakichś mistycznych powodów, wcale nie dlatego, że "jego elementy nie są powiązane", bo są powiązane akurat tak, jak głowica maszyny Turinga z taśmą zawierającą program (i dane). Searle ("Minds, Brains and Programs"):

Suppose that I'm locked in a room and given a large batch of Chinese writing. Suppose furthermore (as is indeed the case) that I know no Chinese, either written or spoken, and that I'm not even confident that I could recognize Chinese writing as Chinese writing distinct from, say, Japanese writing or meaningless squiggles. To me, Chinese writing is just so many meaningless squiggles. Now suppose further that after this first batch of Chinese writing I am given a second batch of Chinese script together with a set of rules for correlating the second batch with the first batch. The rules are in English, and I understand these rules as well as any other native speaker of English. They enable me to correlate one set of formal symbols with another set of formal symbols, and all that "formal" means here is that I can identify the symbols entirely by their shapes. Now suppose also that I am given a third batch of Chinese symbols together with some instructions, again in English, that enable me to correlate elements of this third batch with the first two batches, and these rules instruct me how to give back certain Chinese symbols with certain sorts of shapes in response to certain sorts of shapes given me in the third batch. Unknown to me, the people who are giving me all of these symbols call the first batch a "script," they call the second batch a "story," and they call the third batch questions." Furthermore, they call the symbols I give them back in response to the third batch "answers to the questions," and the set of rules in English that they gave me, they call the 'program."

Chiński pokój nie zna chińskiego, ponieważ księga z instrukcjami (program) nie zawiera wcale języka chińskiego. Nie jest to słownik! Nie ma w nim ŻADNEGO powiązania znaków z desygnatami, a tylko reguły produkowania składniowo poprawnych fraz, bez zwracania uwagi nawet na tę podstawę znaczenia, którą jest powiązanie znak-desygnat. O to chodzi w chińskim pokoju! Że relacja semantyczna nie wynika ze składni! Można je od siebie oderwać!

I tak np. KSeF nie jest w stanie odróżnić faktury dokumentującej traksakcję, która rzeczywiście zaszła, od faktury dokumentującej czyjąś fantazję, nawet nie dlatego, że inwigilacja nie jest jeszcze tak daleko posunięta, tylko tego, że prawdziwość zdania "Ziutek sprzedał Frankowi trzy kartony wafelków za dwieście złotych" nie jest funkcją jego składni, a komputer może sprawdzać tylko składnię. Zdanie składniowo poprawne może być kłamstwem. Na podstawie składni nie da się tego orzec. O to chodzi w chińskim pokoju. To takie proste.

A swoją drogą, przecież budowa chińskich pokojów jest teraz modna – nazywająsię LLMy. One mają jakiś procesor, jakiś zestaw instrukcji i produkują wynik identycznie jak chiński pokój Searle'a. Różnią się tylko tym, że Searle nie przewidział możliwości modyfikacji zestawu instrukcji, ale ona też jest (jak wszystko) ograniczona.

Wszystko co może zostać zinterpretowane jako proces obliczeniowy, jest algorytmizowalne.

Bo się gubię, bo autorka raz pisze tak, raz tak.

Nie piszę raz tak, raz tak. Myślenie nie jest procesem obliczeniowym. To, że coś można jakoś zinterpretować, nie czyni tego tym, jako co to interpretujemy, to raz.

Zawęziłeś powyżej rozumienie algorytmu, a właściwie je przesunąłeś – zapowiadam niniejszym, że więcej się na to nie nabiorę.

Konkretny proces obliczeniowy, przebiegający WEDŁUG algorytmu na zasadzie przesuwania symboli jest fizyczny.

Natomiast myślenie nie jest takowym. Nie przebiega "w organizmie", jak wyraźnie zakładasz.

gdyby było niealgorytmizowalne byłoby niemożliwe

Dlaczego?

Ponadto: nie rusza mnie również projekcja psychologiczna i przekręcanie moich słów. To tak do Twojej wiadomości.

Gdzie nie ma zasad, tam są kwasy.

“Natomiast myślenie nie jest takowym. Nie przebiega "w organizmie", jak wyraźnie zakładasz.”

To gdzie przebiega?

ksiegamiliona.pl - premiera już 14 lutego 2026 // entropia nigdy nie maleje // Outta Sewer: Jim, indioto Ty, nadal chyba nie rozumiesz

To nie jest sensowne pytanie. Tylko rzeczy materialne są “gdzieś”. Na tym, między innymi, polega materialność (fizyczność).

Gdzie nie ma zasad, tam są kwasy.

To może inaczej: co za system ten proces (myślenie) przeprowadza, skoro Twoim zdaniem niefizyczny?

Skoro zaprzeczasz jego fizyczności, to nie powinien się odbywać nie tylko poza fizyczną przestrzenią ale i poza fizycznym czasem? Prawda?

Jeśli tak – zrób prosty eksperyment – pomyśl o czymś. Czymkolwiek. Czy to było bezczasowe, czy jednak trwało w czasie? Jeśli nie masz pewności odpal stoper przed procesem myślenia i zatrzymaj zaraz po nim.

A to przecież tylko jedna z przesłanek tego, że myślenie po prostu nie może być niefizyczne.

ksiegamiliona.pl - premiera już 14 lutego 2026 // entropia nigdy nie maleje // Outta Sewer: Jim, indioto Ty, nadal chyba nie rozumiesz

co za system ten proces (myślenie) przeprowadza, skoro Twoim zdaniem niefizyczny?

Umysł.

Skoro zaprzeczasz jego fizyczności, to nie powinien się odbywać nie tylko poza fizyczną przestrzenią ale i poza fizycznym czasem? Prawda?

Niekoniecznie. Pierwsze pytanie brzmiałoby tu: czy czas jest fizyczny? Przedmioty fizyczne niewątpliwie są rozciągłe w czasie (tj. trwają), ale czy to dotyczy wyłącznie ich?

Gdzie nie ma zasad, tam są kwasy.

co za system ten proces (myślenie) przeprowadza, skoro Twoim zdaniem niefizyczny?

Umysł.

Skoro zaprzeczasz jego fizyczności, to nie powinien się odbywać nie tylko poza fizyczną przestrzenią ale i poza fizycznym czasem? Prawda?

Niekoniecznie. Pierwsze pytanie brzmiałoby tu: czy czas jest fizyczny? Przedmioty fizyczne niewątpliwie są rozciągłe w czasie (tj. trwają), ale czy to dotyczy wyłącznie ich?

Jak tak walicie w stół, to i jakieś nożyce się znajdą.

Czas jest jak najbardziej fizyczny. Kierunek biegu czasu jest związany z zasadą globalnego wzrostu entropii, tzn. czas można definiować na sposób termodynamiczny, rozlane mleko ze szklanki nie wpełza do środka tylko dalej się rozlewa, co prowadzi do wzrostu entropii. Czas ma jednostkę i może się relatywistycznie skracać albo wydłużać, jest też czuły na pole grawitacyjne i w pobliżu masywnych ciał biegnie wolniej.

Ale czas to jakiś off-topic, miała być etyka!

Zastanowił mnie koncept policzalnej etyki. Wyobraziłem sobie to tak: mamy ogólnoświatową radę, która dostaje próbki określonych sytuacji i reakcji na te sytuacje, a następnie ocenia je w skali od 1 do 100. Protokół z posiedzenia rady otrzymuje SI i na tej podstawie się uczy.

Pytanie, czy jest to możliwe do zrealizowania.

Po pierwsze, mamy wiele kręgów kulturowych. Czy znajdziemy sytuacje i etyczne reakcje, które we wszystkich będą ocenione tak samo? Czy będzie trzeba rozdzielać sytuacje na uniwersalne i nie-uniwersalne. Tam, gdzie kontekst kulturowy jest istotą problemu, zapewne wyniki mogą się różnić. Ale czy w ogóle są sytuacje pozbawione kontekstu kulturowego? Te drastyczne: matka zabija dziecko, być może będą oceniane etycznie podobnie, ale jednak nie jednakowo.

Po drugie, ocena dobra, zła, etyczności zależy od wiedzy o świecie. Teoretycznie im pełniejsza, tym lepszy (sic!) powinien być ogląd. Pytanie, co to znaczy “pełna wiedza”. Czy jeśli prześledzimy historię rodziny i dowiemy się, że kilka pokoleń wcześniej ktoś był chory umysłowo i przekazał określone geny (w dodatku musielibyśmy wykazać, że choro=ba jest genetyczna) zmieni naszą ocenę etyki postępowania? Co więcej, na postępowanie ludzi mają wpływ różnorodne czynniki. Ktoś jest rozdrażniony, bo w pokoju jest o jeden stopień za gorąco, a kobieta obok używa perfum, których zapachu nie znosi (albo wręcz przeciwnie). Na ile zmieni to ocenę etyczności jego postępowania, czy na skali 0-100 przesunie ją choć o 1 punkt? Matka zabiła dziecko, to jest złe, ale żyła w Korei Północnej i musieli kogoś zabić, bo dla wszystkich nie starczyło jedzenia, a ona jest płodna, więc urodzi kolejne dziecko, kiedy już jedzenie będzie. Z punktu widzenia przetrwania gatunku taka decyzja jest... no właśnie, jaka? Dobra, czy skuteczna jak bomba?

Kwestie, które omawia Tarnina są mocno rozmyte. Moim zdaniem można problem rozwiązać brutalnie metodami statystycznymi: zebrać oceny etyczne bardzo wielu przypadków i wyciągać z nich średnią. Ale czy można użyć potem takiej skali, by wydawać wyroki lub przesądzać, czy coś jest dobre czy nie?

Tarnino, statystyczny człowiek nie pisze artykułów i felietonów. Jesteś wybrykiem natury. Twoją chęć do wiercenia światu dziury w brzuchu oceniam bardzo dobrze (czyli około 90-100 :D). Kwestie, które poruszyłaś są dobrym (ech...) punktem wyjścia do książki, a nawet meta-książki, w której osią intrygi jest “księga etyki”, spisana zanim zasady uległy rozmyciu. Bohaterom ta księga jest zaś potrzebna by... no właśnie, cholera, nie jest im w ogóle potrzebna, bo mają swój rozum i swoje przekonania!

Nie zwykłam się wypowiadać na tematy, o których nie mam zielonego pojęcia (jak np. bańki inwestycyjne i ogólnie makroekonomia). Z tą myślą – jako że moje wiadomości o powiązaniu czas-myśl są niewystarczające – zajrzałam do Stanforda: https://plato.stanford.edu/entries/consciousness-temporal/

(Geacha "Mental Acts" podobno zawiera coś ciekawszego na ten temat, ale leży w mojej kolejce do przeczytania już od jakiegoś czasu – to solidne tomiszcze i nie będę go czytała na chybcika).

Artykuł Stanforda jest bardziej o postrzeganiu czasu, czy może raczej ciągłości doświadczenia. Wymienia trzy główne grupy teorii: doświadczenie składa się ze statycznych chwil, które następują po sobie (model "filmu": Augustyn, empirycy brytyjscy, Reid), myśli jako takie nie są rozciągłe w czasie, ale treściowo reprezentują odcinki czasu, zmianę, przeszłość i przyszłość itp. (retencja Bergsona, autor widzi zaczątki tego modelu u Kanta, wspomina też oczywiście Brentanę i Husserla), myśli są po prostu rozciągłe w czasie (model "ekstensjonalny", tu wymienia Wundta – psychologa eksperymentalnego – i Bertranda Russella). Sporo mówi o neuronauce, ale zauważa, że większość jej teorii, jeśli się zajmują postrzeganiem czasu, skupia się na jednoczesności, nie na postrzeganiu trwania.

Krótki fragment o ontologii czasu wymienia McTaggarta i cztery najważniejsze podejścia (eternalizm, "poruszającą się teraźniejszość", "narastający" czas i prezentyzm – dwa środkowe chyba wymagają metaczasu, ale co tam). Ale w sumie nie jest to artykuł na temat "czy myśl jest immanentnie czasowa". Nie porusza go.

Na razie jestem więc zdana na własne siły.

Zasadniczo czas możemy pojmować jako miarę zmian (Arystoteles), jako relację (Leibnitz, który tak samo pojmuje przestrzeń) albo jako wymiar, w którym rozciągają się rzeczy (Newton, który też tak samo pojmuje przestrzeń).

Myśl niewątpliwie nie ma wymiaru przestrzennego – nie można sensownie powiedzieć, gdzie jest ani jaka jest duża. To nie znaczy, że nie może mieć wymiaru czasowego (trwania). Żeby to rozstrzygnąć, trzeba by wiedzieć, czym (ontologicznie) wymiar czasowy różni się od przestrzennego. A tego nie wiem.

Czy myśl jest relacją? Jest intencjonalna (skierowana na rzeczy, jest "o czymś"), ale to jej relacją nie czyni. Natomiast niewątpliwie jest w relacji – do innych myśli i do rzeczy, których dotyczy. Czy to relacja czasowa? Możliwe. Relacja znaczenia raczej nie, ale następstwo myśli jednej po drugiej może być. Wynikanie logiczne raczej nie (chociaż?). Może są jakieś inne relacje czasowe obejmujące myśli.

Czy myśl jest zmianą? Myśl bytu skończonego może nią być, ponieważ byty skończone w ogóle podlegają zmianie. A zmiana zachodzi w czasie. Idee, które są niezmienne, czasowi nie podlegają, ale wyobrażenia (mówiąc tomistycznie) jak najbardziej (bo są materialne – powtarzam, materia wg Kartezjusza to nie to samo, co materia wg Tomasza). A w myśleniu (mówiąc tomistycznie) posługujemy się wyobrażeniami. Ale też zyskujemy dostęp do jakichś idei, którego wcześniej nie mieliśmy, więc zmiana zachodzi. Ale czemu miałaby nie zachodzić? Jesteśmy bytami zmiennymi, skończonymi, mamy byt tylko po kawałku, a te kawałki, jeśli nawet nie są chwilami czasu, to mają z nimi ścisły związek. Muszę pogrzebać w tomistycznej epistemologii i jak ona traktuje pojęcia (ogólnie muszę, nie na potrzeby tej dyskusji), ale niestety, ogranicza mnie czas. Ekhm.

Tak więc czy myślenie zachodzi w czasie? Może. Może nie. Nie wiem. To zależy od odpowiedzi na niełatwe pytania: co to jest myślenie? i co to jest czas? Nie wiem.

I nie udaję, że wiem. Prowizorycznie mogę przyjąć, że nasze myślenie zachodzi w czasie, ale myślenie bytu nieskończonego nie potrzebowałoby czasu – z tym, że nie potrafię sobie przedstawić, jak by to działało. Ale to nie szkodzi. Tego należało się spodziewać, skoro on jest nieskończony, a ja skończona.

Wiem natomiast, że materialne "myślenie" nie wykazuje własności prawdziwego myślenia (nie może być np. intencjonalne) więc nim nie jest. Patrz też tu: https://edwardfeser.blogspot.com/2013/12/da-ya-think-im-sphexy.html (i Dennett też o tym wiedział ^^). Tu: https://fair-use.org/mind/1895/04/in-what-sense-are-psychical-states-extended może być coś ciekawego, ale nie zdążyłam jeszcze przeczytać.

Czas jest jak najbardziej fizyczny.

Mmmm, tylko tutaj mówisz o czasie takim, jakim pojmują go fizycy (newtonowskim, może z lekką nutką Leibnitza), więc tak trochę zakładasz to, co chcesz udowodnić.

Wyobraziłem sobie to tak: mamy ogólnoświatową radę, która dostaje próbki określonych sytuacji i reakcji na te sytuacje, a następnie ocenia je w skali od 1 do 100.

XD Boskie. Ale tacy Andersonowie chyba serio coś w tym stylu proponują, co jest mniej śmieszne.

Po pierwsze, mamy wiele kręgów kulturowych. Czy znajdziemy sytuacje i etyczne reakcje, które we wszystkich będą ocenione tak samo?

Uwaga, mieszasz moralność z obyczajem. To nie to samo.

Ale czy w ogóle są sytuacje pozbawione kontekstu kulturowego?

Raczej nie ma, słuszna uwaga. Ale nie tylko kulturowego, bo cały sęk z niekodyfikowalnością etyki (partykularyzmem) polega na tym, że każda decyzja moralna jest podejmowana w konkretnej, różnej od innych sytuacji.

Po drugie, ocena dobra, zła, etyczności zależy od wiedzy o świecie. Teoretycznie im pełniejsza, tym lepszy (sic!) powinien być ogląd. Pytanie, co to znaczy “pełna wiedza”.

Doskonałe pytanie.

dowiemy się, że kilka pokoleń wcześniej ktoś był chory umysłowo i przekazał określone geny (w dodatku musielibyśmy wykazać, że choro=ba jest genetyczna) zmieni naszą ocenę etyki postępowania?

... nie. Możemy najwyżej uznać, że sprawca jest niepoczytalny, tj. nie podlega ocenie etycznej.

Co więcej, na postępowanie ludzi mają wpływ różnorodne czynniki. Ktoś jest rozdrażniony, bo w pokoju jest o jeden stopień za gorąco, a kobieta obok używa perfum, których zapachu nie znosi (albo wręcz przeciwnie). Na ile zmieni to ocenę etyczności jego postępowania, czy na skali 0-100 przesunie ją choć o 1 punkt?

Nie zmieni. Panować musi nad sobą. Człowiek musi.

Matka zabiła dziecko, to jest złe

O tym mówi akurat Rosalind Hursthouse, poczytaj.

Kwestie, które omawia Tarnina są mocno rozmyte

Chyba nie są.

Ale czy można użyć potem takiej skali, by wydawać wyroki lub przesądzać, czy coś jest dobre czy nie?

Można. Byłaby to jednak dystopia, co się zowie. Co prawda niektórzy wyraźnie i namiętnie jej pragną...

Twoją chęć do wiercenia światu dziury w brzuchu oceniam bardzo dobrze (czyli około 90-100 :D).

Ooo, jakie miłe rzeczy mi mówisz ^^

Bohaterom ta księga jest zaś potrzebna by... no właśnie, cholera, nie jest im w ogóle potrzebna, bo mają swój rozum i swoje przekonania!

Ha, ha, przybij piątkę, kolego w partykularyzmie XD

Gdzie nie ma zasad, tam są kwasy.

Przeżuwam, niczym krowa, redefinicję pytania o czas, rozumiany jako czas formułowania myśli.

Wymaga to rozróżnienia na myśli będące odpowiedzią na bodźce i tzw. mind-wandering.

Odpowiedzi na bodźce przetwarzane są równolegle i stosunkowo sprawnie, więc nimi się nie zajmujemy. Są potrzebne Tarninie, żeby nie oparzyła sobie dłoni czajnikiem, kiedy robi herbatę/kawę, żeby mogła potem trafić na krzesło i na nim usiąść, no i trafiać w klawisze komputera.

Za to myśli świadome, które służą do wytwarzania treści tekstu, podobno są kolejkowane i przetwarzane przez mózg szeregowo, czyli jedna za drugą. Pełne wytworzenie myśli (niestety badacze nie definiują stopnia złożoności) zajmuje podobno około ¼ sekundy do pół sekundy. W podobnym czasie myśl świadoma ma docierać do podświadomej. Więc myślenie i czas są nierozerwalne pod tym względem. Podobno nie da się myśleć szybciej i tyle.

Choć nie ze wszystkim się zgadzam:

www.caltech.edu/about/news/thinking-slowly-the-paradoxical-slowness-of-human-behavior#:~:text=Caltech researchers have quantified the,of 10 bits per second.

10 bitów to jakiś absurd, bo nie myślimy zero-jedynkowo. Nie można robić takich porównań i tyle.

Moim zdaniem myśl SI i myśl człowieka są trudne do porównania również ze względu na zupełnie inne działanie “procesorów”. Procesor SI ma określoną prędkość i jest ściśle związany z czasem fizycznym. A powstawanie myśli w ludzkim mózgu to coś, o czym chętnie dowiedziałbym się więcej, bo nie czuję się mocny w tym temacie, nawet jeśli przeczytam 100 artykułów.

Mogę zaryzykować, że niemożliwe jest wydanie więcej niż 2 decyzji “etycznych” na sekundę. Ich formułowanie również wymaga przetwarzania danych.

Wyobraziłem sobie taki wewnętrzny “sąd sekundowy” – mam wydawać szybkie etyczne decyzje oparte na wewnętrznym “przeczuciu” – czyli nie ważę argumentów, a robię to, co podpowie pierwsza myśl. Widzę jednak tylko efekt zewnętrzny, a nie to, jak ona powstaje. Może i jest zmianą, bo jej nie było – w odniesieniu do konkretnej sytuacji, ale z drugiej strony mogę powiedzieć, że zawsze tam była, przynajmniej odkąd mózg pozbierał konkretne doświadczenia. Tylko czy włożył je do szufladek i teraz szybko przetworzył, czy może ma już gotowe prototypy myśli, które tylko modyfikuje?

Chyba jedyny wniosek jest taki, że Tarnina prowokuje do myślenia, nawet jeśli skutkiem tego myślenia jest stwierdzenie, że jestem za cienki w uszach, żeby pisać o myśleniu XD

jestem za cienki w uszach, żeby pisać o myśleniu

@marzan

Większość Twoich intuicji jest jak najbardziej prawidłowa. Owszem, erystyka Tarniny ma swój urok, ale jak w przypadku tych uników na temat czasu – najczęściej brzmi mądrze, ale jest pusta znaczeniowo.

Postrzeganie czasu =/= czas

Czas to to, co mierzą zegary. Zegary nie mogą mierzyć czegoś niefizycznego, prawda? To wszystko o czym Tarnina gdyba nie ma nic wspólnego z czasem.

Czas owszem może mieć kilka różnych “strzałek” nie tylko termodynamiczną (związaną ze wzrostem entropii) – ale jakoś tak dziwnie się składa w naszym Wszechświecie, że wszystkie te strzałki wskazują w tę samą stronę.

Prosiłem, Tarnino, byś zrobiła prosty eksperyment, zamiast zasłaniać się autorytetami – byś spróbowała pomyśleć o czymkolwiek i sprawdzić, czy da się to zrobić poza czasem.

Potrafisz?

Jakiś czas temu napisałaś zdaje się opowiadanie o rozważaniu sfferycznych smoków czy coś – które miało być chyba w założeniu krytyką podejścia naukowego – jednak to co robisz teraz w tej dyskusji pasuje tu nawet bardziej – rozważasz jakieś abstrakty, jakieś sferyczne smoki, zamiast zejść na ziemię i skonfrontować się z faktami.

A fakty są wręcz dotykalne: myślenie zajmuje czas.

Czas jest fizyczny.

Więc myślenie jest procesem fizycznym.

Co więcej – “istoty nieskończone” – o których wspominasz istniejące poza czasem – nie mogą myśleć. I to nie tylko dlatego, że ich czas nie dotyka.

Pomińmy na chwilę to, że istoty nieskończone są same w sobie sprzeczne – i przyjmijmy, że rzeczywiście istnieją.

Myślenie prowadzi na od stanu wiedzy A do stanu B.

Czy sądzisz, że istota nieskończona mogłaby mieć jakieś stany wiedzy?

Czy to nie przeczy jej nieskończoności??

Skoro istoty nieskończone (tak wynika z tego co sama piszesz) – są niezmienne – to żadna zmiana – również zmiana stanu wiedzy – nie może w nich zachodzić.

Z tego wynika, że takie istoty nie mogłyby ani myśleć, ani być świadome.

A coś co nie jest świadome – nie jest istotą rozumną – więc istoty nieskończone z definicji – rozumne nie są (o ile by istniały – wcześniej założyłem, że rozwiązujemy w magiczny sposób wszystkie sprzeczności ich natury).

Wracając do fizycznego myślenia.

Wydaje się, że bez myślenia niemożliwa jest świadomość – świadomość nie może być “pusta” – musi procesować jakieś myśli – przy czym niekoniecznie myśli te muszą mieć postać zdań języka. Dzieci uzyskują świadomość gdzieś między 18 miesiącem a trzecim rokiem życia – a wtedy jeszcze języka nie znają – a niewątpliwie – myślą (o ile to moje powyższe przypuszczenie, że myślenie jest niezbędne świadomości – jest słuszne).

Co do szybkości myślenia – o tych 10 bitach na sekudnę słyszałem już nie raz – i w tej wartości nie chodzi tak naprawdę o wyrażanie naszych myśli zero-jedynkowo – bo rzeczywiście tego nie robimy.

Nasze mózgi operują na symbolach a nie na bitach.

To, że myślimy w sposób sekwencyjny, a nie równoległy (mimo że reszta naszego układu nerwowego działa na zasadzie równoległości) – jest w ogóle ciekawym mechanizmem przystosowawczym.

Z pewnością słyszeliście powiedzienie, że nie można odczuwać dwóch bólów jednocześnie – nie jest to do końca prawda – odczuwać możemy i setkę różnych bólów i jak zbadamy przewodnictwo nerwowe – to każdy z tych bodźców bólowych dociera do mózgu – ale rzeczywiście jest tak, że świadomie odczuwamy tylko jeden, wybrany ból, który nasz organizm uznał za najbardziej istotny, reszta zostaje przetwarzana podświadomie – przy czym to może być szybko przełączane, więc wcale nie jest tak, że uderzenie się w mały palec u nogi jest dobrym “lekarstwem” na ból zęba – ból zęba i tak wróci.

To, że myślenie jest procesem fizycznym nie wynika zresztą tylko z tego, że odbywa się w czasie.

Wierzę, Tarnino, że nigdy w życiu nie piłaś alkoholu. Ale gdybyś to zrobiła, zauważyłabyś, że po alkoholu się myśli po prostu inaczej niż na trzeźwo. Wiele innych substancji jeszcze inaczej zmienia nasz sposób myślenia, przykładowo – marihuana bardzo obniża krytycyzm.

Gdyby myślenie nie było procesem fizycznym, zatrucie mózgu jakimikolwiek substancjami nie mogłoby wywołać takich skutków.

A na to jak myślimy oddziałuje przecież nie tylko zatrucie, ale również dotlenienie, ilość cukru we krwi itp.

Gdyby myślenie było niefizyczne – to co krąży w naszej krwi nie miałoby na myślenie żadnego wpływu.

Oczywiście powodów, dla których myślenie nie może być czymś innym, niż proces fizyczny jest dużo więcej – ale myślę że te powyższe wystarczą.

A co do etyki – @marzan – myślę, że zakładasz, że etyka jest czymś uniwersalnym czy też czymś uniwersalnym być powinna.

A to jest po prostu niemożliwe. Etyka zależy od świata, od przygodnych stanów, od norm kulturowych i obyczajowych – możemy owszem postulować jakąś metaetykę, która będzie oceniała te etyki od “najlepszej” do “najgorszej” – ale zawsze będzie to jakieś arbitralne.

Czy to znaczy jednak, że nie mamy podejmować prób stworzenia jakiejś etyki powszechnej, jak najszerzej akceptowalnej? Myślę, że jednak powinniśmy – choćby w imię dialogu międzykulturowego.

Owszem, z niektórymi cywilizacjami się nigdy nie dogadamy. Przykładowo – z Rosjanami. Oni są nam kulturowo tak mocno obcy, że ich etyka nie przecina się nawet z naszą.

A skoro nie możemy znaleźć wspólnego gruntu etycznego z sąsiadami za miedzy, jak moglibyśmy z dowolnymi kosmitami?

Wyobraźmy sobie na przykład bardzo podobnych do nas kosmitów – ale żyjących w sposób podobny do tego, jak żyją pająki – więc (poza nielicznymi wyjątkami, które celowo pomijam) – samotnie i drapieżniczo i z założeniem, że moja pajęczyna podpada pod zasadę “my home is my castle”.

Czy takie istoty miałyby etykę którą w ogóle umielibyśmy z naszą porównać? A przecież różnice – są stosunkowo niewielkie. Ocean z Solaris z naszego punktu widzenia postępował nieetycznie, prawda?

W Ocalonych 2.0 jest wspaniałe opowiadanie Caerna właśnie o tym. Tam ta niemożność przełożneia etyki nas i obcych bije wręcz po oczach. U Wattsa – w Ślepowidzeniu – obcy w ogóle nie mają etyki, pojętej w nasz sposób – ich etyka jest tak odmienna, że właściwie powinienem napisać “etyka” w cudzysłowie..

Owszem, jak wspominałem, można formułować pewne metaetyki do oceniania etyk – ale zawsze jest to arbitralne. Nie powiem, sam tak robię – mam dość jasne kryteria co do tego, jak bardzo zła jest dana etyka, dany system filozoficzny czy religia – ale ktoś inny może mieć zupełnie inne kryteria i stwierdzić przykładowo, z jakiegoś powodu, że islam jest mniej szkodliwy od taoizmu. I nie da się tego oczywiście w żaden sposób obalić, jedynie co można stwierdzić, to to, że w mojej skali – jest na odwrót.

ksiegamiliona.pl - premiera już 14 lutego 2026 // entropia nigdy nie maleje // Outta Sewer: Jim, indioto Ty, nadal chyba nie rozumiesz

Wszystkie linki w tym poście są po polsku.

Wymaga to rozróżnienia na myśli będące odpowiedzią na bodźce i tzw. mind-wandering.

Hmmmm.

Odpowiedzi na bodźce przetwarzane są równolegle i stosunkowo sprawnie, więc nimi się nie zajmujemy. Są potrzebne Tarninie, żeby nie oparzyła sobie dłoni czajnikiem, kiedy robi herbatę/kawę, żeby mogła potem trafić na krzesło i na nim usiąść, no i trafiać w klawisze komputera.

Zaraz, zaraz, ale to nie są myśli. To odruchy. Widzisz? Kiedy nie wiemy, co rozmówca ma na myśli, kiedy używa jakiegoś słowa, no, to się nie dogadamy.

Za to myśli świadome, które służą do wytwarzania treści tekstu, podobno są kolejkowane i przetwarzane przez mózg szeregowo, czyli jedna za drugą.

Oooj, założenie fizykalistyczne ^^ czyli znów mózg. Jasne, jakieś tam korelaty są – kiedy, powiedzmy, wybieram z próbnika herbat tę, na którą mam ochotę, to w końcu muszę poruszyć ręką. Umysł jest wcielony, jak to się dzisiaj nazywa, i wpływa na działanie ciała. Ale to nie znaczy, że działanie ciała jest działaniem umysłu – może jest z nim tylko sprzężone.

Moim zdaniem myśl SI i myśl człowieka są trudne do porównania również ze względu na zupełnie inne działanie “procesorów”.

To też podnoszą ludzie od wcielonego umysłu, i chyba myślą, że są w tym nowatorscy ^^ (Zauważyłeś, że przypisujesz SI myślenie z góry?)

nie czuję się mocny w tym temacie, nawet jeśli przeczytam 100 artykułów

Nie wydaje mi się, żeby można było taki duży temat zamknąć w stu artykułach – nawet, jeśliby był tak prosty, jak to przedstawia komputacjonizm. A nie jest.

czyli nie ważę argumentów, a robię to, co podpowie pierwsza myśl

Mmm, ale tutaj zakładasz kartezjańskie rozumienie myśli... Nie, żeby pomysł jako taki nie był ciekawy, chociaż na razie trochę luźny.

nawet jeśli skutkiem tego myślenia jest stwierdzenie, że jestem za cienki w uszach, żeby pisać o myśleniu XD

XD To my wszyscy tak XD Jeśli odniosłeś wrażenie, że uważam się za wszechwiedzącą, to muszę je sprostować, bo się nie uważam i wiem, że nie jestem.

Czas to to, co mierzą zegary.

Czyli mówisz, że zegary określają czas? Hmm? Czy po prostu zakładasz fizykalizm? Hmmmmm?

To wszystko o czym Tarnina gdyba nie ma nic wspólnego z czasem.

Nie ja, lecz Stanford, i powiedziałam chyba wyraźnie, że artykuł miał być na temat, ale nie był.

Prosiłem, Tarnino, byś zrobiła prosty eksperyment, zamiast zasłaniać się autorytetami

Oooo, czyli nagle uznajesz wartość introspekcji jako metody poznawczej? Czyli nie tylko pomiar? Hmmmmmmmmm... XD

byś spróbowała pomyśleć o czymkolwiek i sprawdzić, czy da się to zrobić poza czasem. Potrafisz?

Nie, ale powtarzam: to nie oznacza, że myśl jest z natury czasowa, a tylko to, że ja nie potrafię myśleć bezczasowo. Jako umysł wcielony, posługujący się ciałem, mogę się pod tym względem różnić od umysłów bezcielesnych, nieprawdaż?

które miało być chyba w założeniu krytyką podejścia naukowego

Nie podejścia naukowego, tylko scjentyzmu. Ty je zrównujesz. Nie Ty jeden zresztą. Ale one nie są tym samym.

rozważasz jakieś abstrakty, jakieś sferyczne smoki, zamiast zejść na ziemię i skonfrontować się z faktami

Co rozumiesz przez fakty? Bo nie ma czegoś takiego, jak "gołe" fakty– informacje pozbawione tła teoretycznego. Bez filozofii ani rusz.

A fakty są wręcz dotykalne: myślenie zajmuje czas.

Czas jest fizyczny.

Więc myślenie jest procesem fizycznym.

To wnioskowanie składa się z przesłanki niepełnej ("myślenie zajmuje czas" – jakie myślenie? komu?) i drugiej, która na pewno nie jest empirycznie sprawdzalna – może być założeniem empirycznego badania, ale nie jest empirycznie sprawdzalna. Jest twierdzeniem filozoficznym, nie naukowym (przedzałożeniem nauki). Rozumowanie więc może jest i formalnie poprawne, ale materialnie bardzo wątpliwe.

Myślenie prowadzi na od stanu wiedzy A do stanu B.

Dlaczego? Założyłeś tutaj, że myślenie (a właściwie poznawanie) jest jakąś zmianą, czyli założyłeś z góry, że wymaga czasu. Zakładasz to, co próbujesz udowodnić. Znowu.

Z tego wynika, że takie istoty nie mogłyby ani myśleć, ani być świadome.

Tylko pod warunkiem, że myślenie i świadomość są zmianami – co założyłeś z góry.

Nasze mózgi operują na symbolach a nie na bitach.

Skąd to wiesz? Zastosuj do własnej wypowiedzi kryteria, które stosujesz do mojej. Czy możesz coś takiego odkryć metodą naukową?

Gdyby myślenie było niefizyczne – to co krąży w naszej krwi nie miałoby na myślenie żadnego wpływu.

I znowu – przyjmujesz dualizm kartezjański. Osobno duch i osobno materia, a jedno na drugie nie ma nijakiego wpływu. Kropka. A ja przyjmuję tomizm, gdzie raz, linia podziału biegnie gdzie indziej, i dwa, ciało jest, w braku lepszego słowa, narzędziem umysłu. Jeśli w Twoim liczydle brakuje połowy paciorków, reszta jest zapaskudzona czymś lepkim, a całość stoi na stoliku, który nie przewraca się tylko dlatego, że jest oparta o ścianę, to nie będzie łatwo się nim posługiwać, chociaż żaden z tych faktów nie ma bezpośredniego wpływu na użytkownika. I analogicznie wygląda posługiwanie cię ciałem (w tym – mózgiem) przez umysł.

Lamża: https://www.youtube.com/watch?v=DctXewaHIcI (ale tomizm jakoś pomija... poprzestając na licznym potomstwie dualizmu kartezjańskiego, choć panpsychizm istniał już wcześniej, nie jestem pewna, czy nie przywędrował ze Wschodu; w każdym razie własnym poglądem, wypracowanym przez naszą cywilizację w czasach jej świetności, jest tomizm).

Oczywiście powodów, dla których myślenie nie może być czymś innym, niż proces fizyczny jest dużo więcej – ale myślę że te powyższe wystarczą.

Jedynym powodem, żeby tak twierdzić, jest przyjmowany przez Ciebie pogląd filozoficzny – redukcjonizm fizykalistyczny. Ale skoro nie wierzysz mnie, to może uwierzysz Łukaszowi Lamży: https://www.youtube.com/watch?v=DDdvABNs-Gs

Etyka zależy od świata, od przygodnych stanów, od norm kulturowych i obyczajowych – możemy owszem postulować jakąś metaetykę, która będzie oceniała te etyki od “najlepszej” do “najgorszej” – ale zawsze będzie to jakieś arbitralne.

Etyka jest to badanie moralności. Metaetyka jest to badanie różnych teorii etycznych, wyjaśnianie ich pochodzenia, budowy i ogólnego tła. Nie ocenianie, bo ocenianie należy do moralności, a nie do badania moralności. Badanie moralności może najwyżej posłużyć do podparcia oceny rozumowaniem.

Mylenie etyki z moralnością jest częste, być może dlatego, że rzadko (w potocznej dyskusji) używamy tych pojęć. Równie częste jest mieszanie moralności (uniwersalnej) z obyczajem. Ja lubię taką metaforę: moralność to zasady dietetyki. Obyczaj to kuchnia narodowa. Zagadnienie, na przykład, czy pomidory są zdrowe, ma pewien związek z ich zastosowaniem w kuchni, ale nie jest tym samym. Kuchnia jakiegoś narodu może nie być zdrowa. Trudno sobie jednak wyobrazić naród bez żadnej kuchni, bo ludzie muszą coś jeść, a żyją w warunkach, które nakładają ograniczenia na to, co mają do jedzenia i czego potrzebują. Wielorybie sadło jest przysmakiem na Grenlandii, a mnie sama idea zjedzenia czegoś takiego wydaje się abstrakcyjna.

Ocean z Solaris z naszego punktu widzenia postępował nieetycznie, prawda?

Ocean z Solaris jest tak obcy, że nie możemy go w ogóle podpiąć pod pojęcia moralne, bo nawet nie wiemy, czy jest świadomy. I chyba właśnie o to Lemowi chodzi. Jednym z głównych tematów Lema wydaje się niemożliwość kontaktu.

Gdzie nie ma zasad, tam są kwasy.

Po przeczytaniu Waszych odpowiedzi zacząłem się zastanawiać, do czego dążymy w kreacji SI. Starałem się przy tym nie zgubić przewodniego wątku etyki “maszynowej”.

My – jak wynika z dyskusji – jesteśmy ograniczeni. Choćbyśmy się bardzo starali, nie będziemy myśleć o wiele szybciej (trening czyni mistrza, ale bez przesady), a pojęcie wewnętrznej moralności odnosi się w równej mierze do świadomości, jak i podświadomości. Moim, arbitralnym zdaniem oczywiście. Tzn. może się zdarzyć, że coś będę świadomie oceniał dobrze, ale gdzieś będzie drzemał podświadomy “robak” i podgryzał korzonki tej ocenie. Nie oderwiemy się od biologii i fizyki. Chemia wpływa na nasze postępowanie, jesteśmy również świadomi, że wpływa na postępowanie innych ludzi.

Sędzia wydaje wyrok w sprawie osoby, która podejmowała decyzje pod wpływem “gadziej” części mózgu, była wzburzona, a hormony szalały. Czy chcielibyście, żeby w takiej sytuacji sędzią był człowiek (który również działa pod wpływem hormonów), czy wolelibyście sędziego, który rozumie wpływ hormonów, ale sam jest od niego wolny?

To teraz wrócę do pierwotnego pytania: czy tworzymy SI na wzór swój, czy może staramy się wytworzyć dodatkowego boga?

“Boska” SI podejmowałaby decyzje bardzo szybko, a proces nadal byłby tak fizyczny, jak tylko możemy sobie wyobrazić, ale z naszej perspektywy moglibyśmy postrzegać go jako natychmiastowy. To tyle odnośnie czasu. A odnośnie treści, i czy “myśl” SI jest myślą czy nie... mam wrażenie, że SI działa zadaniowo i za to jest nagradzana. SI się nie nudzi ani nie bawi. Zwierzęta się nudzą i bawią. Nie wiem, jak jest u Ciebie, Tarnino, ale czy ciekawe myśli nie przychodzą Ci do głowy wtedy, kiedy masz na nie przestrzeń? Kiedy nie walczysz i nie uciekasz, nie jesteś zajęta pracą (pomijam sytuacje typu “przesyt”, kiedy w pracy zwalają Ci na głowę tyle obowiązków, że i tak uciekasz do wyobraźni).

Czy mieszam moralność z empatią, i zbyt pochopnie rozgraniczam między sądzeniem bezdusznym i empatycznym? Czy “boska” SI byłaby w naszym odczuciu bezduszna, czy może eliminowałaby sporo niedoskonałości związanych z naszą “chemią”? Czy chcemy stworzyć bardziej człowieka myślącego “szybciej”, czy jednak boga?

Mam wrażenie, że w dyskusji i tak pojawia się istota doskonała, bezcielesna i ponadczasowa. Czy jest ona nam potrzebna jako wzór, czy tylko jako punkt odniesienia? Czy jeśli będziemy podlegać osądom, to akceptujemy ludzkiego sędziego, który podlega tym samym prawom biologii co my – czyli może stracić cierpliwość, czy może poszukujemy sądu idealnego, który zawsze w takich samych warunkach podejmie tę samą decyzję?

To trudne kwestie, bo roboty, chaty, boty będą w interakcji z człowiekiem, zatem będą w jakimś stopniu zamieszane w decyzje dotyczące etyki. Wydaje mi się, że kiedyś możemy dojść do “ściany”: będziemy chcieli, żeby SI podejmowała decyzje (i to w miarę szybko i sprawnie), ale nie będziemy gotowi akceptować ich konsekwencji. Dobrze, można wybrnąć z problemu tak, że SI pozostawiamy kwestie techniczne, a ludziom etyczne, tylko niestety nie da się ich rozpleść.

Przykład: SI zauważa, że określony człowiek zagraża życiu innych. Co ma wtedy zrobić? Za każdym razem zgłaszać ludziom, że zaistniał taki problem, i pozostawiać im decyzję? A jeśli wszystko dzieje się zbyt szybko, by ludzie mogli odpowiedzieć?

Od razu pomysł na stosowne opowiadanie: SI zauważa, że jeden człowiek zagraża całej ludzkości. Próbuje im to powiedzieć, proponuje eliminację, ale ludzie nie są w stanie wystarczająco szybko przyjąć i przetworzyć argumentów. Finalnie cała ludzkość ginie (poza tym jednym), a SI, która cierpliwie czekała na przyzwolenie, może prowadzić dialog jedynie z... zabójcą ludzkości.

I na zakończenie: do czego my sami dążymy? Czy akceptujemy to, że jednego dnia jesteśmy w euforii, a drugiego rozdrażnieni? W sobie i w innych? Czy chcemy być mądrzy i doskonali, czy... dobrzy, cokolwiek to znaczy? Może “dobry” znaczy również sprawienie, że inni się uśmiechną?

Ja na pewno się uśmiechnąłem po przeczytaniu pierwotnego artykułu Tarniny, który jest napisany dobrze, wciągająco i zabawnie. Podobają mi się ukryte “rozśmieszacze”, zabawne przypisy, zmienny rytm przy którym nie usypiam. Akceptuję niedoskonałość artykułu i to, że raczej pobudza do myślenia niż daje odpowiedzi.

Ale od historii o słoniku i tak się nie wywiniesz, Autorko, oj nie :D

Po przeczytaniu Waszych odpowiedzi zacząłem się zastanawiać, do czego dążymy w kreacji SI.

I samo to sprawia, że warto było napisać tę kobyłę ^^

My – jak wynika z dyskusji – jesteśmy ograniczeni.

Mmmm, ale SI nie byłaby ograniczona? Zapewne konkretne ograniczenia miałaby trochę inne, ale jeśli przyjmujesz (przyjmujesz?) materializm, to ona też nie wyzwoliłaby się z fizyki, a może i chemii, która nie do końca jest do fizyki redukowalna. W sumie, nawet jeśli materializmu nie przyjmujesz, to nie bardzo widzę, jak miałaby się wyzwolić...

Tzn. może się zdarzyć, że coś będę świadomie oceniał dobrze, ale gdzieś będzie drzemał podświadomy “robak” i podgryzał korzonki tej ocenie.

Ale to się cały czas zdarza! Tutaj wchodzą cnoty wiary (teologiczna) i męstwa (kardynalna). Czyli wytrwałość. Chodzi o to, żeby nie zmieniać oceny bez powodu.

Czy chcielibyście, żeby w takiej sytuacji sędzią był człowiek (który również działa pod wpływem hormonów), czy wolelibyście sędziego, który rozumie wpływ hormonów, ale sam jest od niego wolny?

Nie, nie wolelibyśmy. Po pierwsze dlatego, że taki sędzia nie istnieje (SI niczego nie rozumie, kurka, ile można – zresztą czy to można w ogóle rozumieć teoretycznie? nie przeżywszy tego?). Po drugie – takim samym argumentem można by poprzeć oddanie władzy nad ludzkością eiwormom ;)

Ogólnie mam wrażenie, że kult wydajności prowadzi nas w przepaść. I nie tylko ja.

czy tworzymy SI na wzór swój, czy może staramy się wytworzyć dodatkowego boga?

Mmmm, sęk w tym, że nie słuchamy tego, który jest. A SI to może być najwyżej Wielki Bałwan ("Boża inwazja", Dick).

A odnośnie treści, i czy “myśl” SI jest myślą czy nie... mam wrażenie, że SI działa zadaniowo i za to jest nagradzana.

OK, nie rozumiem. "Nagradzanie" już wymaga kogoś, kto mógłby być nagradzany. Przecież nie nagradzasz swojego samochodu?

czy ciekawe myśli nie przychodzą Ci do głowy wtedy, kiedy masz na nie przestrzeń?

Czasami przychodzą w wannie, przy myciu garów albo w sklepie. Częściej w lesie albo w pracy, kiedy akurat nie ma nic pilnego, albo przy czytaniu książki, albo przy słuchaniu podcastów. Nie wiem, co rozumiesz przez "przestrzeń".

Czy mieszam moralność z empatią, i zbyt pochopnie rozgraniczam między sądzeniem bezdusznym i empatycznym?

Nie wiem. Niektórzy mieszają, ale czy akurat Ty?

Czy chcemy stworzyć bardziej człowieka myślącego “szybciej”

Ale czy to by był człowiek?

Czy jest ona nam potrzebna jako wzór, czy tylko jako punkt odniesienia?

Hmmmm. To jest duże pytanie.

sądu idealnego, który zawsze w takich samych warunkach podejmie tę samą decyzję?

Warunki nigdy nie są idealnie takie same. Można uwzględnić tylko te, które przewiduje program, a można inteligentnie wyabstrahować, co jest istotne. Ja uważam, że metoda pierwsza nie tylko nie zawsze da sprawiedliwy osąd, ale nawet nie będzie można tego potem skorygować. Druga owszem, też nie zawsze dobrze podziała, tylko... maszyna nie przeprosi, nie wybaczy, nie naprawi błędu. Nie zmieni zdania. A człowiek potrafi.

Wydaje mi się, że kiedyś możemy dojść do “ściany”: będziemy chcieli, żeby SI podejmowała decyzje (i to w miarę szybko i sprawnie), ale nie będziemy gotowi akceptować ich konsekwencji.

To już się dzieje (te wszystkie automatyczne przyznawacze kredytu etc, inna rzecz, że jedni zainteresowani te decyzje przyjmują, a inni nie). Ale to jeszcze nie jest najgorsze, bo możemy zdecydować, że nie będziemy używali SI, chociażby. Bardziej mnie martwi scenariusz "The Machine Stops" w którym ludzie już nie tylko nie potrafią ani nie chcą myśleć za siebie (chociaż świat, który im narzucono, niekoniecznie im odpowiada), ale nie potrafią nawet pomyśleć, że można.

Finalnie cała ludzkość ginie (poza tym jednym), a SI, która cierpliwie czekała na przyzwolenie, może prowadzić dialog jedynie z... zabójcą ludzkości.

Mmmm, ale dlaczego ludzkość ginie? Bo przecież jednego człowieka po drugim ten gość nie zabijał, a broń masowej zagłaby ubiłaby też jego (no, może się schował w bunkrze pod hardwarem SI). I skąd ona po tym bierze prąd?

Czy akceptujemy to, że jednego dnia jesteśmy w euforii, a drugiego rozdrażnieni? W sobie i w innych?

Staramy się...

Czy chcemy być mądrzy i doskonali, czy... dobrzy, cokolwiek to znaczy?

A to się nie wyklucza :D A nawet podtrzymuje. Bo mądrość to nie zdolności obliczeniowe, a doskonałość – to po prostu bycie tym, czym się być powinno, i niczym innym (tak, tak – to naprawdę takie proste).

Może “dobry” znaczy również sprawienie, że inni się uśmiechną?

Na pewno ^^

Akceptuję niedoskonałość artykułu i to, że raczej pobudza do myślenia niż daje odpowiedzi.

Ale od historii o słoniku i tak się nie wywiniesz, Autorko, oj nie :D

Daj TARDIS XD (serio, jedną wersję już napisałam, ale była okropna XD w tej chwili słonik jest trochę za duży na moje możliwości).

Gdzie nie ma zasad, tam są kwasy.

Wiele pytań. Część bez satysfakcjonującej odpowiedzi. Uczące i depresjujące. ;)

Miśku, ale nie na każde pytanie możemy znaleźć odpowiedź

Gdzie nie ma zasad, tam są kwasy.

Miśku, ale nie na każde pytanie możemy znaleźć odpowiedź

I może dobrze, że tak jest, to nas wyróżnia:

https://medium.com/@markus_brinsa/why-ai-models-always-answer-even-when-they-shouldnt .

Od dziś moim ulubionym bohaterem jest John Snow.

Wyróżnia czy nie, tak jest i nie ma się co obrażać na własną naturę ^^

Gdzie nie ma zasad, tam są kwasy.

Zaloguj się

Załóż konto:

Zresetuj hasło:

publicystyka:

Tam nikogo nie ma, cz. 1: Rosalind Hursthouse i kosmici

Komentarze

Nowa Fantastyka

Zaloguj się

Załóż konto:

Zaloguj się:

Zresetuj hasło:

Tam nikogo nie ma, cz. 1: Rosalind Hursthouse i kosmici

Nowa Fantastyka