- publicystyka: Czy androidy śnią o bólu?

publicystyka:

artykuły

Czy androidy śnią o bólu?

„Westworld” zadaje również pytanie, czy ból symulowany, ale jednak odczuwany, jest inny od bólu autentycznego?” – tak pisze Marcin Zwierzchowski w swoim artykule „Robot też człowiek” z najnowszej „NF”. Innymi słowy – czy roboty są w stanie odczuwać „prawdziwy” ból?

Zacznijmy od definicji – ból to subiektywnie przykre i negatywne wrażenie zmysłowe i emocjonalne, powstające pod wpływem bodźców uszkadzających tkankę lub zagrażających ich uszkodzeniem. Jak powstaje uczucie bólu? Człowiek (jak też i inne żyjące istoty), wyposażony jest w receptory, czyli wyspecjalizowane komórki lub narządy, odbierające informacje z otoczenia. Nie wchodząc w szczegóły, receptory znajdują się w całym ciele człowieka. Informacje z receptorów przesyłane są za pomocą nerwów do mózgu. Jak zatem powstaje uczucie bólu? Kiedy poziom informacji, przesyłanych z receptorów, przekracza pewien poziom, odczuwamy ból. Wynikają stąd trzy wnioski – każdy organizm ma inny próg bólu, co wynika z naszej osobniczej odmienności. Drugi – uczucia bólu należy się ”nauczyć”, tzn. mózg musi się odpowiednio nauczyć interpretowania bodźców dochodzących z receptorów. I trzeci wniosek, w naszych rozważaniach najważniejszy – uczucie bólu powstaje w mózgu, jest pewną syntetyczną informacją o zagrożeniu dla ciała. O prawdziwości wniosku trzeciego świadczy znany z historii medycyny fakt odczuwania bólu w nieistniejących kończynach, utraconych przez ofiary wypadków komunikacyjnych czy okaleczonych podczas wojen. Zgodzicie się więc, że ból to uczucie powstające w świadomym mózgu, polegające na interpretacji pewnych bodźców. Możemy sobie wyobrazić sztuczne kończyny, podłączone do ludzkiego systemu nerwowego. I wtedy boleć nas może np. nienaoliwione łożysko. To tylko kwestia odpowiednich połączeń sensorów z naszymi nerwami, jak i zdobycia przez mózg odpowiedniego doświadczenia do trafnego interpretowania takich wrażeń. Widzimy więc, że to nie „konstrukcja” organizmu jest istotna dla pojęcia odczuwania bólu.

Wróćmy teraz do robotów. Czy są w stanie odczuwać symulowany ból? Tu nie ma wątpliwości – wyposażenie robota w odpowiednie receptory (w tym mogące reagować na nieodczuwalne dla nas zagrożenia – np. promieniowanie przenikliwe), oraz w odpowiednie oprogramowanie – sprawi wrażenie, że roboty ból odczuwają. Będą unikać źródła zagrożenia, mogą, zgodnie z parametrami programu, wykazywać odpowiednie rekcje – krzyczeć, płakać, uciekać itp. itd. Co jednak różni ból symulowany od prawdziwego? Tutaj wróćmy do podstaw teorii sztucznej inteligencji, a mianowicie do testu Turinga. W lapidarnym skrócie przypomnę – jeśli rozmówca nie jest w stanie określić podczas rozmowy, czy interlokutor jest maszyną czy człowiekiem, można określić go jako istotę myślącą. Analogiczne podejdźmy do odczuwania bólu. Kiedy zatem ból prawdziwy jest tożsamy z symulowanym? Kiedy istota go odczuwająca reaguje na niego nieodróżnialnie od żyjącej istoty. Niezależnie od tego, czy impuls biegnie z receptorów ścieżką elektryczno-chemiczną, za pomocą nerwów i neuroprzekaźników (jak u istot żywych), czy ścieżką elektryczną, radiową, świetlną (jak to możemy sobie wyobrazić u robotów), wrażenie prawdziwego bólu powstaje w świadomości. Toteż odpowiedź na pytanie, czy ból symulowany jest inny od autentycznego brzmi – nie, jeśli odczuwa go świadoma, myśląca istota. A dokładniej – dla obserwatora z zewnątrz nie istnieje różnica pomiędzy odczuwaniem go przez świadomego człowieka, czy obdarzonego świadomością androida.

A „wchodzenia” do cudzego umysłu jeszcze się nie nauczyliśmy…

Komentarze

Tok rozumowania zupełnie do mnie nie przemawia. O bólu piszesz tak, jakbyś posiadał na ten temat podstawową wiedzę opartą na artykule z Wikipedii. Dużo tu nieprofesjonalnych, a wręcz kolokwialnych uproszczeń. Zupełnie pominąłeś ewolucyjny aspekt bólu. Bo ból nie jest przecież po to, żeby było nam tylko nieprzyjemnie. Ma za zadanie wyzwalać reakcję ucieczki albo prowadzić do unikania niekorzystnych sytuacji. Nie podoba mi się też przykład bólów fantomowych. Po pierwsze na ten temat istnieje kilka teorii. Po drugie nie zgadzam się z określeniem “uczucie bólu powstaje w mózgu”. Brzmi to, jakby ten ból tam się zaczynał, a przecież sam wspomniałeś o tym, że zaczyna się od pobudzenia receptorów bólowych. Przy okazji – mogłeś śmiało wprowadzić termin “nocyceptory”, bo same receptory  obejmują swoim znaczeniem więcej niż wspomniałeś (o czym informuje już druga linijka stosownego artykułu na Wikipedii...). Wracając do “uczucia bólu powstającego w mózgu”, trudne określić, gdzie cokolwiek “powstaje”. Można natomiast powiedzieć, gdzie dane uczucie jest odbierane, a następnie uświadamiane. Może czepiam się słów, ale słowa mają znaczenie. 

Nie rozumiem, co oznacza “ból symulowany”. Z tego, co wiem, ból symulowany to udawany, czyli tak naprawdę nie występuje on na żadnym etapie drogi nocyceptor – włókna nerwowe – ośrodek korowy. Zatem roboty z bólem symulowanym znaczą dla mnie tyle, co aktorzy grający ofiary w scenach tortur. 

Może to bardziej uwaga do redaktora Zwierzchowskiego, a nie do Ciebie, ale lepsze wydaje mi się określenie “sztuczny ból”. Jestem w stanie sobie wyobrazić, że takie odczucie mogłoby istnieć w maszynie. Ale miałoby one sens jedynie wówczas, kiedy wywoływałoby korzystną reakcję. Czyli ból z nienaoliwionego łożyska miałby skłaniać właśnie do naoliwienia. Zagadnienie staje się jeszcze bardziej skomplikowane, jeśli pominiemy tę ewolucyjną wartość bólu. Przecież ból nic nie daje, jeśli nie da się jemu zapobiec. Po co ból umierającemu? I po co byłyby nieprzyjemne doznania same z siebie maszynie? 

W tym miejscu wypadałoby się zastanowić, po co w ogóle przyjemność/nieprzyjemność. W najprostszym ujęciu przyjemne doznania towarzyszą sytuacjom, których powtarzanie (np. zjedzenie po raz drugi dobrego owocu) jest dla organizmu korzystne. Tak samo mogłoby być w przypadku robotów. Nieprzyjemności? Tak jak człowiek raczej nie zje owocu, po którym raz miał biegunkę, tak samo dobrze zaprogramowany cyborg nie pchałby się w okoliczności, które już raz mu zaszkodziły. 

 

A dokładniej – dla obserwatora z zewnątrz nie istnieje różnica pomiędzy odczuwaniem go przez świadomego człowieka, czy obdarzonego świadomością androida.

Może tu tkwi sedno sprawy. W biologicznym ujęciu “odczuwanie” polega na “krążeniu impulsów po sieci neuronów”. Ale wciąż nie wiemy, jak dzięki temu obiegowi neuroprzekaźników powstaje ta nieuchwytna świadomość.

 

PS Wyszedł mi komentarz podobnej długości, co Twój artykuł/felieton, Staruchu, ale mam nadzieję, że nie masz nic przeciwko i chciałeś zapoczątkować jakąś małą dyskusję :)

https://www.facebook.com/matkowski.krzysztof/

Funthesystemie – temat  bólu specjalnie uprościłem do maksimum, bo przecież nie była to wypowiedź o bólu jako takim, a tylko o różnicy pomiędzy bólem odczuwanym przez człowieka (a ogólniej – przez organizmy żywe) i bólem “symulowanym” przez roboty (a ogólniej – systemy nieożywione). Stąd też najogólniejsza tegoż bólu definicja i zaniedbanie tak nocyceptorów, jak i ewolucji bólu, bo nic do poruszonego przeze mnie tematu nie wnoszą.

Ból “symulowany” – może to i nie jest najlepsze określenie. Ale już z twojego przykładu widać, że jest, częściowo przynajmniej, zasadny. “Roboty z bólem symulowanym znaczą dla mnie tyle, co aktorzy grający ofiary w scenach tortur”  – no właśnie o to chodzi! Skąd wiadomo, że ich ból jest symulowany? Bo program nakazuje im tak a nie inaczej działać? A my? Czy podczas tortur nasz wewnętrzny program nakazuje nam włączyć program “antybólowy”? Która reakcja jest “prawdziwą” rekcją na ból, a która włączeniem programu, odruchów? Jak to można odróżnić? 

Pierwsze prawo Starucha - literówki w cudzych tekstach są oczobijące, we własnych - niedostrzegalne.

Która reakcja jest “prawdziwą” rekcją na ból, a która włączeniem programu, odruchów?

No właśnie odruchy są prawdziwą i najprostszą reakcją na ból.

https://www.facebook.com/matkowski.krzysztof/

Czy ból można “ulepszyć”? To inna forma pytania, czy ból sztuczny jest taki sam jak prawdziwy?

Natura wyposażyła nas w odczuwanie bólu, ewolucja, w celu ratowania naszego życia, bo gdybyśmy nie odczuwali żadnych bóli nie wiedzielibyśmy, że w danej chwili jest z nami coś nie tak, moglibyśmy nawet umrzeć nie zdając sobie z tego sprawy.

Jednak wydaje mi się, że ból można zastąpić “informacją o bólu” i wtedy nowy ból byłby inny.

Informacja bólowa jest przykra dla nas, żebyśmy jak najszybciej zajęli się swoim zranionym ciałem, bo w innym przypadku na przykład ludzie leniwi zwlekaliby z “naprawieniem rany”, albo by zapomnieli o szkodzie w naszym ciele. Natomiast kiedy boli, pędzimy szybko do lekarza, by nas uzdrowił.

Może więc można “ulepszyć w jakiś sposób” bolesną informację o bólu u androidów podając tylko samą informację, że coś boli, tzn. coś jest z nami nie tak.

Taki android musiałby chyba być bardzo odpowiedzialny za swój ból, bo inaczej androidy chyba szybko by się psuły.

Idąc tym tropem, przeciwieństwo bólu, czyli przyjemność, moglibyśmy też zastąpić “informacją o przyjemności”, która po prostu prowadziłaby do pewnych korzystnych zachowań. 

https://www.facebook.com/matkowski.krzysztof/

Tak to racja, ale my jako konstruktorzy androidów zapewne byśmy mieli ostatnie słowo co androidowi dać. Przyjemność byśmy mogli mu zostawić, a ból zastąpić informacją o bólu, bo dlaczego my chcemy budować roboty, cyborgi, androidy?

Myślę, że nie tylko po to,  żeby nas zastąpiły w pracy. Wydaje mi się, że ludzie chcą budować człekokształtne istoty lepsze od ludzi, bo wiedzą, że człowiek jest niedoskonały. Chcemy zbudować istotę doskonałą, a ból jest jakby prymitywniejszą formą zmagania się z przypadłościami, które nas spotykają.

Android mógłby mieć takie zabezpieczenia jak choćby nowoczesny samochód, który nie ruszy z miejsca póki drzwi są otwarte, ltp.

Wszystko pięknie i wydaje się proste. Sygnał to sygnał, czy też po prostu określona informacja, niosąca dane o bólu. Ale nie o sygnał czy informację chodzi, tylko o to, dlaczego boli. Nie wystarczy naznaczyć sygnał identyfikatorem bólu, a potem skonstruować interpretator, który po otrzymaniu tego sygnału zachowa się: “rozumiem, to jest ból, pochodzący ze stopy, co może oznaczać, że jest uszkodzona”. TYLKO, że to nie oznacza jeszcze, że robota to boli.

 

EDIT: Można konstruować maszyny, których zachowania na bodźce bólu czy przyjemności do złudzenia będą przypominały  reakcje człowieka. Będzie można ulec złudzeniu, że roboty czują ból i przyjemność, ale określone reakcje były po prostu zaprogramowane. Zaprogramowane reakcje nie oznaczają jednak, że Robot czuje ból i że cierpi. Jego komputer tylko odbiera sygnały o bólu czy przyjemności, i reaguje w odpowiedni, zaprogramowany sposób – nic wiecej.

Dlaczego boli? Chodzi o to, czy udałoby się nam stworzyć sygnał, sztuczne uczucie takie samo jak ból ludzki? Pewnie nie byłoby to takie łatwe, bo my chyba nie wiemy wszystkiego o tym doznaniu, a zwłaszcza o jego następstwach w sferze innej niż fizjologia, bo myślę, że ból oddziałuje w jakiś sposób, pośrednio na sferę duchową człowieka, a także intelekt.

Jeśli weźmiemy to wszystko pod uwagę to na pewno bardzo trudno by było skopiować to wszystko do androida.

Jeśli nie budowalibyśmy jednak mózgu od podstaw tylko za pomocą inżynierii genetycznej byśmy go wyhodowali z tkanki ludzkiej to byśmy otrzymali androida z mózgiem takim samym jak mają ludzie i wtedy uczucie bólu pewnie by było podobne do ludzkiego, ale pozostaje jeszcze kwestia ciała androida, czy w sztucznym jakimś ciele byśmy otrzymali takie samo uczucie jak w ciele ludzkim? Trudno powiedzieć.

Chodzi o cierpienie i ekstazę – jak je wywołać w maszynie? Zaprogramowane reakcje na określone sygnały są nic nie warte.

 

Toteż odpowiedź na pytanie, czy ból symulowany jest inny od autentycznego brzmi – nie, jeśli odczuwa go świadoma, myśląca istota. – pozwolę sobie zwrócić uwagę, że zwierzęta też odczuwają ból, ale nie można powiedzieć, że są świadome. Czynnik świadomości nie wydaje się być niezbędny, żeby cierpieć.

Cierpienie i ekstaza. Tutaj nie chodzi już raczej o ciało, fizjologię, ale wchodzimy w sferę ducha, psychiki. Dla tych uczuć ból fizyczny jest chyba tylko podłożem, chyba że chodzi o coś co nie pochodzi z ciała, ale powstaje jedynie w psychice, cierpienia egzystencjalne na przykład. Do tych odczuć android musiałby mieć ludzką psychikę, a to już trudny problem.

Najpierw byśmy się musieli dowiedzieć czym jest świadomość i uczucia w niej powstające. Czy wystarczy tylko materialny mózg jako jedyne podłoże tych odczuć, czy też coś innego.

Lem kiedyś napisał, że ludzki mózg jest odbiornikiem lecz nie wiadomo co właściwie odbiera.

No, cóż. Przykro mi (nie za Ciebie Staruchu) ale rozróżnienie bólu stymulowanego, od takiego innego, brzmi idiotycznnie. :) Ból jest stymulacą :D

Prim "Corcoran" Chum

Powinniśmy w przyszłości zbudować świat bez bólu.

Sowo, zbudować świat bez bólu może i tak, ale z pewnością nie powinniśmy po prostu pozbywać się bólu.

 

Blackburn, w kwestii świadomości zwierząt byłbym ostrożny. Może samoświadomość faktycznie jest charakterystyczna dla ludzi i zaledwie paru innych gatunków, ale świadomość w bardziej podstawowym tego słowa znaczeniu raczej występuje u innych gatunków.

 

W sumie trudno mi się odnieść do głównego wątku, dlatego wybacz, Staruchu, że wcinam się nie tam, gdzie trzeba. ;-)

Może napiszę więcej, jak zapoznam się z artykułem.

prosiaczek, masz rację, że należy być ostrożnym w dyskusji o świadomości. Można zakładać, że  pewien jej rodzaj zwierzęta raczej mają, tak samo że raczej jej nie mają wcale, a zachowania, mimo że czasem mogące nasuwać skojarzenia ze świadomym działaniem, wynikają tylko z instynktów.  Nauka nie rozstrzyga definitywnie  tego problemu. W poprzednim komentarzu cytuję fragment, w którym jest mowa o istocie świadomej i myślącej, stąd przykład zwierząt.  Przyznaję, że mój skrót myślowy, bez słowa “myślący” mógł wprowadzić zamieszanie. 

Prosiaczek napisałeś to co ja sam bym napisał, gdybym miał więcej odwagi, bo z ludźmi może być tak, że żeby zlikwidować ból trzeba by uśmiercić człowieka. Przykra to jest konstatacja, ale być może homo sapiens nie potrafi żyć bez bólu, bo przecież nasz świat niejako wyrósł na bólu, bo czym jest walka o byt, ewolucja? Gdyby nie ból rozwijanie się, ewolucja mogłyby się zatrzymać w miejscu.

Możemy się jedynie pocieszać, że jednak homo sapiens chyba idzie w stronę zmniejszania roli bólu w swoim życiu i że najgorsze już mamy za sobą. Wierzmy w to, że tak rzeczywiście jest, że to nie złudzenie.

Zapominacie, że w przypadku braku bólu jego przeciwieństwo (przyjemność) straciłoby na znaczeniu. A może coś zastąpiłoby to, co dzisiaj uważamy za ból. Organizm – i znaczna część praw natury – działa na zasadzie przeciwieństw. 

https://www.facebook.com/matkowski.krzysztof/

Blackburn, sądzę jednak, że zwierzęta świadomość, jakąś bo jakąś, ale jednak mają. Mam pieska ;-), który czasami, mam wrażenie, zachowuje się więcej niż instynktownie.

Swoją drogą, ciekawe jest również zagadnienie inteligencji intuicyjnej, do której mierzenia – ściśle mówiąc do badania typów umysłów w spektrum intuicjonista-logik – jest nawet, a w zasadzie prawie już jest specjalny test psychologiczny. Czysto niepoważnie-hipotetycznie – ciekawie by było, gdyby dało się ten test przełożyć dla piesków; wtedy by wyszło, że jesteśmy debilami intuicyjnymi, a ostateczna konstatacja byłaby taka, że świadomość jest tak bardzo wspaniała, jak pisał o niej Peter Watts. ;-)

 

Sowo, dokładnie o to chodzi. Wszak ból jest niezbędny, żeby sobie radzić z zagrożeniami dla organizmu; w psychologii kłania się składnik sensoryczny(informujący o istocie bólu), oceniający(co to jest to, co mnie uszkodziło? Co się właściwie stało?) i motywacyjny(okej, teraz muszę pójść do lekarza, a potem zrobić to i tamto). Mamy tutaj więc funkcję prozdrowotną, choć nie wszyscy psychologowie są co do niej – funkcji – jednomyślni.

 

Funthesystem – nie sądzę, aby można było powiedzieć, że przyjemność jest przeciwieństwem bólu. A przynajmniej nie w ujęciu naukowym. Organizm organizmem, ale przecież mówiąc o bólu/przyjemności, bierzemy pod uwagę nie tylko ciało – istotny, a właściwie nawet istotniejszy, jest umysł, a jak wiemy, mózg to niezwykle złożony mechanizm; stąd i z pewnej wiedzy wnoszę, iż takie zestawianie jest warte mniej niż pochopny redukcjonizm. No bo jaką wartość ma ekstrapolacja z semantyki na neuropsychologię?

Więcej, można rzec, że przeciwieństwem bólu, według bramkowej teorii bólu D. Walla, jest sam ból. Więc niby wiem, o co Ci chodziło, ale... No właśnie. ;-)

Nie sądzę również, żeby w przypadku braku bólu przyjemność straciła na znaczeniu. W końcu istnieje również, upraszczając, stan neutralny. Przyjemność nie jest przyjemna dlatego, bo czasem doświadczamy bólu.

Ból i przyjemność to uproszczenie negatywnych i pozytywnych odczuć. Może to niezbyt naukowe. Ale, jak już pisałem, ból skłania do unikania tego, co powodowało ból (oczywiście są wyjątki, choćby lubienie ostrego smaku potraw). Aktywuje się wtedy choćby układ współczulny, który generalnie odpowiada za stan walki/ucieczki. Przyjemność skłania do powielenia czynności, które... no, były przyjemne. Tutaj pobudzenie układu przywspółczulnego nie jest już takie oczywiste, więc może masz trochę racji, Prosiaczku. 

Wspomniałeś też o bramkowaniu bólu. No właśnie to także miałem na myśli: ból nie wynika z jednoznacznych bodźców, czyli np. konkretnej temperatury, tylko z przekroczenia pewnego progu. Gdyby wyeliminować to, co obecnie uważamy za ból, na jego miejsce mogłyby wskoczyć inne odczucia – dziś neutralne, ale w przyszłości najgorsze, więc tym samym negatywne. Może istnieje/istniałby taki relatywizm bólu?

https://www.facebook.com/matkowski.krzysztof/

Blackburn, sądzę jednak, że zwierzęta świadomość, jakąś bo jakąś, ale jednak mają. Mam pieska ;-), który czasami, mam wrażenie, zachowuje się więcej niż instynktownie.

Ależ rozumiem, bo kto nigdy nie miał pieska albo kota, temu trudno  pojąć o czym mowa. ;) I tu pojawia się dysonans – bo z jednej strony widzimy zachowania zwierząt, a z drugiej nauka nie potrafi udowodnić, że mają świadomość.

Mimo wszystko nie przemawia do mnie argument, że ból (w tekście nazywany “symulowanym”) można wywołać tylko u istoty świadomej i myślącej – u świadomego i myślącego robota, dla którego ból stanie się prawdziwy. To jakby stwierdzić, że najpierw pojawiła się świadomość, a potem ból – hmm... to się nie klei, dlatego że ból ma funkcję praktyczną – najpierw trzeba przetrwać, żeby w toku ewolucji móc wytworzyć świadomość (to oczywiście w ujęciu nieduchowym).

funthesystem – Rozumiem. Albo skłonności masochistyczne, w kwestii nieunikania bólu. Więcej, masochista  z bólu, fizycznego/psychicznego/obydwu naraz lub oddzielnie czerpie przyjemność. Więc taki człowiek będzie wracał do “przyjemnych nieprzyjemności”.  Ze wspomnianymi przez Ciebie układami jest o tyle ciekawie i zabawnie, że za podniecenie seksualne(komponent fizjologiczny – erekcja) odpowiada układ przywspółczulny, zaś układ współczulny, odpowiedzialny za osiąganie orgazmu, erekcję hamuje. Do tego seks jako taki współdzieli szlaki biochemiczne w mózgu z agresją. Nie ma prostych zależności.

 

Blackburn, zgadzam się ze wszystkim, poza tym, że nauka nie potrafi udowodnić świadomości u zwierząt. Tzn. nie jestem ekspertem w tym temacie, ale kiedyś czytałem, że zwierzęta dzielą z ludźmi neuroanatomiczne oraz neurobiochemiczne podstawy omawianych przez nas stanów psychicznych.

Natomiast podpisuję się rękami i nogami pod Twoim ostatnim akapitem. To jakby stwierdzić, że najpierw pojawiła się świadomość, a potem ból – hmm... to się nie klei, dlatego że ból ma funkcję praktyczną – najpierw trzeba przetrwać, żeby w toku ewolucji móc wytworzyć świadomość (to oczywiście w ujęciu nieduchowym).

Może różnica jest taka, że istota świadoma jest świadoma bólu, przez co cierpi świadomie? Ból u niej ma głębszy wymiar subiektywizacji? Trudno powiedzieć.

Yhmmm.... No to brawo, bo chyba doszliśmy do konkluzji... :D

Prim "Corcoran" Chum

Czy nie, jednak o.o

Prim "Corcoran" Chum

 Z całą pewnością “chyba”. :P 

Taka ciekawostka: istnieje schorzenie pod nazwą “asymbolia bólu”, które polega na tym, że ludzki mózg nie interpretuje bólu jako nieprzyjemnego doznania.

Jerzy – generalnie agnozje są bardzo interesującym zjawiskiem. Z tą asymbolią bólu – właśnie wyczytałem, że chory wie, że doświadcza bólu, tylko, jak wspomniałeś, nie jest to dla niego nieprzyjemne. Może się więc wydawać, że takie zaburzenie nie powinno prowadzić do tragedii, bo w końcu chory jest świadomy “niebolącego bólu”, ale pojawia się pytanie, czy jest w stanie określić charakter i siłę bólu (składnik sensoryczny). Co jeśli takie różnicowanie jest zaburzone?

Chory wie, że doświadcza bólu. Ale nie jest to dla niego nieprzyjemne.... Ogarnijcie się chłopaki :) Ból to przeciez (jak wyżej) nieprzyjemne doznanie zmysłowe... :D Więc coś nie gra... I to, co nie gra, to nie jest logika :D

Prim "Corcoran" Chum

Nowa Fantastyka