- Hydepark: Sztuczna Inteligencja - zagłada czy nadzieja, pomysły

Hydepark:

inne

Sztuczna Inteligencja - zagłada czy nadzieja, pomysły

Wrócę do tematu, który był już poruszany ;)

 

Nie chodzi o wulkan pomysłów, nie chodzi o akceptację lub dezawuowanie. 

Chodzi o myśli, wiadomości i przemyślenia oraz DONIESIENIA, na temat, który był i będzie bardzo aktualny dla Fantastów.

Przynajmniej ich części, bez żadnej presji.

Myślę, że można się zgodzić, że to dość rzecz ciekawa.

Nie dajmy się zatem wyprzedzić rzeczywistości ;)

I jeśli ktoś trafi na JAKĄKOLWIEK nawet tylko trochę INTERESUJĄCĄ informację, to proszę zamieszczać  :)

 

 

 

 

Komentarze

obserwuj

Wciąż nie da się edytować Hydeparku, więc muszę to tu zrobić...

 

I jeśli ktoś trafi na JAKĄKOLWIEK nawet tylko trochę INTERSUJĄCĄ informację, to proszę zamieszczać  :)

Fajny temat, doktorze C., ale już kilka takich było zakładanych ;>

Niewolnicy, zrzeszeni w słabości, boją się pana - samotnika, którego nie są w stanie kontrolować, którego mocy nie mają, a jego atencji nie mogą zdobyć. (Nietzsche)

A co w tym złego, żeby rozruszać temat, który wciąż nie zaistniał?

Na pewno nie to, że to co starałaś się zrobić właśnie, świadczy o Tobie, nie o mnie ;D

 

Czyli o doktorze Who! ;)

Nie spodziewałem się ( i w żadnym wypadku nie planowałem), że po roku nieobecności, wciąż będę budził takie emocje :D.

Proponuję jednak wrócić do tematu, bo jest aktualny, jest interesujący, i, tak mi się wydaje, każda opinia będzie interesująca :)

 

Jestem twoją fanką, jak mogłoby być bez emocji ;D

 

Dobrze, nie offtopuję ci ;)

Niewolnicy, zrzeszeni w słabości, boją się pana - samotnika, którego nie są w stanie kontrolować, którego mocy nie mają, a jego atencji nie mogą zdobyć. (Nietzsche)

Dziękuję, Naz!

 

Bardzo mnie to cieszy :)

 

Który tekst, zdradź proszę, z tych wykasowanych z Portalu, najbardziej Ci się podobał?

No i sam offtopuje. Był taki tekst o mutancie. Alojzym? :P

Niewolnicy, zrzeszeni w słabości, boją się pana - samotnika, którego nie są w stanie kontrolować, którego mocy nie mają, a jego atencji nie mogą zdobyć. (Nietzsche)

Nie śledzę tematu sztucznej inteligencji, ale lubię czytać o nowinkach technicznych. Na geekweek.pl pojawiają się takie newsy, więc może ktoś coś wyhaczy :)

Czaszka mówi: klak, klak, klak!

Serdeczne dzięki, Skull, Chołoto :)

Myślę, że zeby wątek był ciekawy, a nie tylko odsyłaczem, zamieszczajmy po jednym linku z komentarzem z uwagami autora. 

Dyskusja może być ciekawa :)

Ludzie nie mają szansy w ewolucyjnym starciu ze sztuczną inteligencją. Jest za dużo norm i standardów etycznych, które blokują rozwój ludzkiego gatunku. Teoria ewolucji przegra sromotnie z teorią gier. Transhumanizm jest ślepą drogą ucieczki do przodu. Sprzęgi analogowo-cyfrowe, czy transfery świadomości do systemów komputerowych są iluzją rozszerzonej rzeczywistości. Jedynym wyjściem z tragicznej pułapki ewolucyjnej jest zmiana świadomości jednostki, jako nośnika duchowych zmian w społeczeństwach konsumpcyjnych. Ale, wiąże się ze zmianą światopoglądową. Groźną i gwałtowną z powodu dynamiki występujących naprężeń w systemach władzy. Doskonałą ilustracją może być zapaść systemu finansowego, będącego głównym źródłem niewolnictwa na planecie przez generowanie wielopokoleniowego długu. Zależność jest prawidłowa, bo postęp technologiczny jest ściśle związany z liderami innowacyjności, a w szczególności z ponadnarodowymi strukturami, dokonującymi błyskawicznych transferów kapitału, daleko bardziej przekraczającego możliwości pojedynczych krajów, w których nie mają żadnego znaczenia dogmaty demokratyczne, będące jedynie opium dla mas. 

S.Lem: „Nikt nic nie czyta; jeśli czyta, nic nie rozumie; jeśli rozumie, natychmiast zapomina”.

Wciąż nie da się edytować Hydeparku, więc muszę to tu zrobić...

Możesz pisać do mnie w takich sprawach, co zresztą wiesz. I mógłbyś wreszcie odpowiednio oznaczać tematy – ten wątek nie ma przecież nic wspólnego z czasopismami :)

Słusznie, zmień na właściwy, jeśli możesz Berylu

Ta pani z tokfm żyje w urojonym świecie humanistów. Wszyscy się kochają, trzymając się za ręce i tańczą cumboa. 

Propagowany model koegzystencji maszyn i ludzi jest tak absurdalny, aż strach się bać ludzkiej głupoty i krótkowzroczności. Odciążenie ludzi w pracy, wzrost warunków życia jest równią pochyłą dla gatunku.  W latach 1968-1972 przeprowadzono prosty eksperyment społeczny: ośmiu myszom zapewniono doskonałe warunki życia – miały bezproblemowy dostęp do wszystkiego co było im potrzebne do życia. Liczebność populacji rosła, by po pewnym czasie zacząć maleć aż do całkowitego wymarcia. W międzyczasie gwałtownie wzrosła agresywność osobników. Eksperyment trwał cztery lata. Powtarzano go kilkukrotnie na myszach i szczurach, a wynik zawsze był ten sam:

Nieograniczony dostęp do pokarmu i brak zagrożeń spowodował wymarcie populacji.

Wniosek: jeśli maszyny nas nie wyeliminują w bardziej radykalny sposób, to sami się pozabijamy.

 

 

edit: człowiek może też funkcjonować bez mózgu URZĘDNIK 

 

 

S.Lem: „Nikt nic nie czyta; jeśli czyta, nic nie rozumie; jeśli rozumie, natychmiast zapomina”.

Brzmi jak fake news :)

 

Nie wiem czy eksperyment na szkodnikach jest adekwatny do ludzi. Owszem, jestem w stanie uwierzyć, że dobrobyt prowadzi do poszukiwania wrażeń, a te z czasem mogą przybrać ekstremalne formy. Np. czy zastanawialiście się, co robią z wolnym czasem ludzie, którzy mogą kupić dosłownie wszystko? Ale jesteśmy inteligentniejsi od myszy, więc zakładam, że w newralgicznym momencie zadziała coś na kształt zaworu bezpieczeństwa.

Myślę, że sztuczna inteligencja nigdy nie będzie w pełni samodzielna, gdyż wtedy mogłaby się oprzeć kontroli, a zdaje mi się, że właśnie kontrola to rozrywka najbogatszych. A hasła w stylu, że sztuczna inteligencja może ułatwić nam życie, poprawić jego warunki itp., wkładam między bajki. Gdyby najpotężniejszym ludziom zależało na ogólnym dobrobycie i szczęśliwości, już dawno powynajdywaliby lekarstwa na wszelkie choroby, a wojny toczyłyby się już tylko na komputerach.

Słowem sztuczna inteligencja to tylko inny sposób na drenowanie naszych kieszeni.

Czaszka mówi: klak, klak, klak!

O proszę, akurat taki news znalazłem:

http://www.geekweek.pl/aktualnosci/31754/to-niesamowite-ai-buduje-lepsza-ai-od-ludzi

 

Jestem może za głupi, żeby pojąć wszystkie aspekty, ale wydaje mi się to dziwne, żeby AI potrafiła zrobić lepsze AI. Jakby to przełożyć na ludzi, powinniśmy być wstanie stworzyć twór wspanialszy od Boga. Poza tym AI wciąż jest czymś stworzonym przez człowieka, który nie jest istotą idealną i wszechwiedzącą, więc z założenia powinna mieć wbudowane wady i ograniczenia.

Czaszka mówi: klak, klak, klak!

Ale jesteśmy inteligentniejsi od myszy, więc zakładam, że w newralgicznym momencie zadziała coś na kształt zaworu bezpieczeństwa.

Nie chcę siać defetyzmu, ale mam wrażenie, że moglibyśmy mieć problem już z dostrzeżeniem “newralgicznego momentu”.

@ Skull

“Myślę, że sztuczna inteligencja nigdy nie będzie w pełni samodzielna” lol. Myślenie nie jest mocną stroną ludzi leniwych i konsumujących medialną papkę, 

 

Już jest samodzielna. Internet rzeczy (IoT) jest siecią bez żadnej ludzkiej ingerencji. Przykładem najlepiej odwzorowującym Internet rzeczy jest sprawdzenie przez lodówkę jej zawartości, a następnie zamówienie brakujących artykułów w sklepie. Bez Twojego udziału. Innym ciekawym zastosowaniem ma być wprowadzenie systemu monitorującego ilość zużytych odpadów. Gospodarstwo domowe będzie ponosić koszty za faktyczną ilość wyrzuconych śmieci (pay-as-you-throw). IoT przyczyni się nie tylko do wprowadzenia ciekawych funkcji, które nie byłyby możliwe bez podłączenia do sieci i komunikacji pomiędzy maszynami.

To tylko wierzchołek góry lodowej. Wdrażane są idee smart cities, korzystających połączeń m2m (machine to machine) bez żadnej ingerencji człowieka. Wizja rozwoju M2M staje się nowym standardem wymiany informacji zarezerwowanym dla inteligentnych maszyn, urządzeń i obiektów połączonych ze sobą online. Przeważnie bez udziału ludzi za pośrednictwem już istniejącej przewodowej lub/i bezprzewodowej infrastruktury telekomunikacyjnej.  Nowe żarówki LED Philipsa i Samsunga są już inteligentne i korzystają  z bezprzewodowej komunikacji (Li-Fi).

Reasumując, dla przestrzeni publicznej nasuwają się proste rozwiązania dla nowego zastosowania sieci inteligentnych lamp ulicznych jak monitoring transportu publicznego, systemy biletowe i informacji dla pasażerów, zdalne zarządzanie ruchem czy też sygnalizacją świetlną i znakami drogowymi, kontrola miejsc i opłat parkingowych, miejski monitoring wideo, zarządzanie oświetleniem, wywozem śmieci, systemami informacji turystycznej, administracyjnej i kulturalnej. To się dzieje już dzisiaj. Orange jest liderem rozwiązań m2m na polskim rynku. 

 

Chcecie pisać fantastykę bez korzystania z wiedzy i osiągnięć współczesności? Litości...

 

 

@Anet 

tak własnie jest

 

 

edit:

jest jeszcze inna sieć komunikacji, dość popularna w energetyce, po zwykłym przewodzie zasilającym, np. wasz telewizor może przekazywać informacje kablem zasilającym : PLC

S.Lem: „Nikt nic nie czyta; jeśli czyta, nic nie rozumie; jeśli rozumie, natychmiast zapomina”.

Chyba inaczej rozumiemy samodzielność AI. Wszystko, co opisałeś, to stworzone przez ludzi sieci i tak zaprogramowane, żeby wykonywały szereg czynności. Robią to dokładniej, szybciej itp. ale tylko w ramach zaprogramowanych funkcji. A co w sytuacji zaistnienia niezaplanowanego przez człowieka zdarzenia? Jak zachowa się AI?

 

Czaszka mówi: klak, klak, klak!

Co do samodzielności AI.

 

Cóż, niezależnie jaką drogą, prędzej czy później tą samodzielność AI osiągnie. Myślę tu o zdolności podejmowania decyzji we wspomnianych tu sytuacjach niezaplanowanych.

Już teraz istnieją metody heurystyczne pozwalające na przystosowanie się AI do sytuacji, ktore nie zostały zaprogramowane. Weźmy chociaż prosty przykład robotów kroczących po nieznanym terenie, potrafiacych pokonywać przeszkody, z którymi się nie spotkały.

 

Prosty eksperyment myślowy, opisany przez Kurzweila, jednej dróg dojścia samodzielnej AI na podstawie cyfrowej kopii ludzkiego mózgu, pokazuje, że teoretycznie nie jest to nic niemożliwego, czy nawet trudnego.

Już teraz "skopiowano" sytem nerwowy prostych organizmów. Wraz z rozwojem systemów "skanowania" układów biologicznych, będą powstawać kopie coraz bardziej zaawansowanych układów neurologicznych.

Co więcej takie systemy cyfrowe będą działać szybciej, efektywniej bez ograniczeń biologicznych. Nieuchronne wydaje się zatem, ze dość szybko przekroczą barierę, która z powodów ewolucujnych jest dla nas nieprzekraczalna, przynajmniej w tak niezwykle krotkim czasie.

 

Pytanie raczej nie brzmi czy a kiedy to się stanie. Myślę ze szybciej niż nam.się zdaje :)

człowiek może też funkcjonować bez mózgu URZĘDNIK 

 

On ma mózg... tylko skompresowany. Przez lata zbierający się w czaszcze płyn mózgowo-rdzeniowy naciskał na istotę szarą, mózg musiał więc radzić sobie w nowych “ciasnych” warunkach. To potwierdza tylko i wyłącznie jego plastyczność (wobec zastałych warunków do życia), nic więcej.

 

Mózg nadal pozostaje królem przetwarzania równoległego – nasze produkty przysłowiowych pięt mu nie sięgają.

 

Internet rzeczy (IoT) jest siecią bez żadnej ludzkiej ingerencji

Nie. To sieć malutkich urządzeń pracujących na wąskim pasmie radiowym (za standardem NB-IoT) dzieląca się danymi (w tym i sygnalizacją – awarie/alarmy/wyjątki). Nie ma tu żadnej sztucznej inteligencji – są napisane przez programistów skrypty.

 

Piękny marketingowy bełkot, smaczne frazesy – nie podparte ani zawodowym doświadczeniem ani faktyczną wiedzą.

@stn

Niestety nie, tam zachodzą autonomiczne procesy bez naszego udziału. 

S.Lem: „Nikt nic nie czyta; jeśli czyta, nic nie rozumie; jeśli rozumie, natychmiast zapomina”.

Silnik młynka elektrycznego też jest więc inteligenty, bo przekładnia działa bez udziału ludzkiej ręki?

@stn

Nie doceniasz możliwości budowania samouczących się skryptów.

Czy też mam manipulować wypowiedzią, aby obniżyć twoja wiarygodność? :))

Sieci neuronowe nie wymagają programowania. Wystarczy je stworzyć, a one uczą się same. Rola programisty ogranicza się do zaprojektowania właściwej struktury, a następnie umiejętnego pokierowania procesem uczenia.

Co ciekawe, sieć neuronowa posiada cechy neuroplastyczności mózgu, tzn.: nawet w przypadku poważnego uszkodzenia działa nadal. Kolejną ważną zaletą sieci neuronowych jest zdolność uogólniania zdobytej wiedzy, czyli gdy sieć neuronowa nauczy się, powiedzmy, rozpoznawać kolory: czerwony i żółty, to rozpozna również inne, bez problemu. Wcześniejszy wykład pominął aspekt optymalizacji działań, dlatego teraz ożywimy informatyczne pojęcie: podejścia heurystycznego. Skuteczna metoda, dzięki której dane oprogramowanie potrafi znaleźć rozwiązanie przybliżone. Jednym z przykładów dotyczących optymalizacji wspomnianych działań są algorytmy genetyczne, oparte na mechanizmach doboru naturalnego.  Jak działają takie algorytmy ewolucyjne?

Zasady są banalnie proste, zamiast szukać rozwiązania na oślep (lub lepić z kawałków, jak w przypadku klasycznej metody obliczeniowej przez kolejne iteracje komputerowe), staramy się je "wyhodować". Różne rozwiązania konkurują ze sobą, krzyżują się, rozmnażają, naśladując przyrodę. Słusznie zakładamy, że skoro ewolucja naturalna jest tak skuteczna w konstruowaniu złożonych i optymalnych organizmów, to ewolucja symulowana przyniesie nam także dobre (zbliżone do optymalnych) rozwiązania problemu.

 

@Fantastyczny Pan Lis

To juz sie dzieje

S.Lem: „Nikt nic nie czyta; jeśli czyta, nic nie rozumie; jeśli rozumie, natychmiast zapomina”.

(...) czy też mam manipulować wypowiedzią, aby obniżyć twoja wiarygodność? 

Próbuj. Nie manipuluję – odpowiedziałeś abstrakcją, z którą zgodzić się nie mogę.

 

(...) nawet w przypadku poważnego uszkodzenia działa nadal.

Zdefiniuj “działa” – to, że zwraca wynik, nie oznacza niczego. Patrz: false positives/negatives. Sieć NN oddaje przetworzone przez siebie dane, nie mówi nam to nic o jej inteligencji, informuje nas tylko jak dobrze nauczyła się wykonywać powierzone jej na początku zadanie.

Inaczej – NN wskazuje kota na obrazku, ale nadal nie wie co dany obrazek reprezentuje (poza zbiorem pikseli jej znajomym).

 

Nadal uważam, że sprawnie posługujesz się dostępnymi w Internecie hasłami, aleni cholery nie czuję w Tobie doświadczenia i wiedzy merytorycznej za Twoimi twierdzeniami stojącymi. Ot, sprawnyś internetowy serfer.

Skoro tak stawisz sprawę, nie będę z tobą polemizował. Dyskusja polega na wymianie poglądów z uzasadnieniem, na razie czytam tylko o tym kim jestem, albo nie jestem. 

 

S.Lem: „Nikt nic nie czyta; jeśli czyta, nic nie rozumie; jeśli rozumie, natychmiast zapomina”.

Patrz: środkowy fragment mojej wypowiedzi.

sorki misiu, dla mnie rozmowa jest zakończona

S.Lem: „Nikt nic nie czyta; jeśli czyta, nic nie rozumie; jeśli rozumie, natychmiast zapomina”.

Opinie budowane na artykułach popularnonaukowych zawsze kończą się przy próbie ich weryfikacji. :)

O, widzę że wszystko po "staremu". :)

Panowie, przytaczacie ciekawe argumenty. Może udałoby się tak bez ad presonam, czy w liczbie mnogiej, czy pojedynczej. 

Przecież nie chodzi o rację tu raczej, bo nikt jej w 100% nigdy nie ma. :/

Ja generalnie wymiękam. Używacie takich słów, że pół dnia straciłbym na odnalezieniu definicji, a nie policzę, ile czasu zajęłoby mi zrozumienie tego (o ile).

Jestem prosty chłop i wychodzę z założenia, ze jeśli czegoś nie da się wytłumaczyć po chłopsku, to nie jest dobre (czyt. najlepsze z możliwych).

Czaszka mówi: klak, klak, klak!

Sluszne założenie,.Skull.

Też uważam, że czasami, jeśli ktoś używa takich a nie innych słów, to.nie.po to by przekonać lub wytłumaczyć. Patrz: Briim że przy okazji załatwię prywtę :)

Zaraz, że ad personam. Otóż poprosiłem o coś ciekawszego niż puste (ale słodko brzmiące) frazesy (pokerowe: “sprawdzam!”), to i w odpowiedzi focha otrzymałem.

 

Żeby nie być gołosłownym – jest mnóstwo materiałów, w tym i polskich uczonych, zajmujących się tematami zahaczającymi o pojęci sztucznej inteligencji:

https://www.uci.agh.edu.pl/uczelnia/tad/dorobek_naukowy.php?id=pubwww

http://www.is.umk.pl/~duch/ref/PL/Swiadomosc/01-neurofil/neurofilozofia.htm#prob oraz http://www.is.umk.pl/~duch/indexpl.html, jego materiały na temat kognitywistyki: http://www.is.umk.pl/~duch/Wyklady/Kog_plan.html

Wystarczy Wam na całą zimę (bez krzy ironii). ;)

 

Dzięki za pewnie  ciekawe linki.

Prośba nieśmiała była wcześniej,  by zamieszczać je raczej w pojedynkę niż w grupie, i najlepiej z komentarzem dotyczącym treści :)

Tak, to ciekawe. W jakims konkursie literackim tekst stworzony przez AI zajął wysokie miejsce. Wiele portali głównie w USA korzysta już z systemów produkujących proste newsy np. Sportowe, bo tak jest taniej pp prostu. Postaram się znaleźć link. 

 

Bardzo możliwe, że już niedługo teksty, scenariusze itd. stworzone przez AI będą po prostu ciekawsze, trafniej i mocniej wzbudzające emocje. Czy zatem tzw. przeciętny czytelnik oprze sie pokusie i wybierze tekst tylko dlatego, ze został stworzony przez czlowieka?

Zresztą chyba na początku będzie tak, że to ludzie będą firmowali tego typu tworczoscr nazwiskiem, dopóki nie wejdą obowiazkowe oznaczenia: "stworzone z pomocą AI" :)

Co w zasadzie ruszy tylko twórców i związane z nimi prawa autorskie. Dla zwykłego Kowalskiego to raczej bez znaczenia, kto napisał scenariusz. A przynajmniej dla mnie to nie ma znaczenia.

A co z książkami? Liczy się dobra literatura, więc jeśli AI potrafi taką stworzyć, to nie jest to coś złego. Zastanawiam się tylko, na ile AI będzie “tworzyć”, a na ile użyje tego co najlepsze już z istniejących dzieł. Bo w wiadomości zlinkowanej przez stn-a jest wzmianka o algorytmach i korzystaniu z zadanych przez użytkownika dzieł.

Jest jeszcze jedna kwestia – jeżeli takiej AI zadać WSZYSTKIE najlepsze utwory, jakie powstały, to czy stworzy coś na kształt kwintesencji, dajmy na to SF? Coś po czym już nikt nie napisze nic bardziej oryginalnego, czy po prostu lepszego? Książka, która w zasadzie zamyka literaturę...

Czaszka mówi: klak, klak, klak!

"Tworzyć", to ciekawe zagadnienie. To co stawarza człowiek, autor tez jest przecież przetworzoną w jakiś sposób sumą jego doświadczeń, wiedzy itd.. A jeśli AI, zapoznać, ze wszystkim, co dotychczas powstało, czy to naukowo, czy bardziej twórczo, dać dostęp do doświadczeń, historii milionów jednostek, pozwolić analizować, co wzrusza, co złości, co śmieszy. To będzie twórczość, a moze nawet Twórczość? :)

Definicja twórczości według google:

Twórczość– to umiejętność wytwarzania czegoś, myślenia, wyrażania siebie, pewne spojrzenie na świat w sposób indywidualny, kreatywny; inteligencja, aktywność, odwaga przedstawiania swego zdania, otwartość na świat itd. Nowość– cecha twórczość, niepowtarzalność.

Definicja według PWN:

1. «tworzenie czegoś, zwłaszcza dzieł sztuki»

2. «ogół dzieł stworzonych przez kogoś, zwykle przez artystę»

 

Zdaje się, że definicja PWN jest trochę archaiczna, przynajmniej w przypadku AI. Natomiast w przypadku pierwszej definicji, wydaje się, że z automatu AI nie może tworzyć, bo czy potrafi wyrażać siebie? Czy ma indywidualne spojrzenie na świat? Czy można mówić o odwadze wyrażania opinii, jeśli nie zna strachu? Czy jest otwarta na świat z własnego wyboru czy poprzez zaprogramowanie jej w taki sposób przez twórcę?

Mam jeszcze jeden problem. Czy coś jest nowe i twórcze jeśli bazuje wyłącznie na czymś co już powstało? Pisząc dzisiaj opowiadanie, liczę się z tym, że ktoś gdzieś napisał coś podobnego. Mogę przecież inspirować się twórczością innych pisarzy. Czy w takim razie moje dzieło jest w 100% oryginalne?

Czaszka mówi: klak, klak, klak!

Wydaje mi się, że Sztuka literacka nie jest zwykłym składaniem literek w słowa, a te w zdania, akapity, itd. To bardziej coś między słowami. Albo inaczej... po co malować obraz – pejzaż,  skoro można pstryknąć zdjęcie? 

Nie należy mylić AI z systemem eksperckim, który może wykonywać „inteligentne” skomplikowane zadania.

Biorąc pod uwagę rozważania w sytemie prawnym co bardziej zaawansowanych technologicznie państw, czy formom raczej mechanicznym, przyznać status obywatela, rzeczywiście definicja rzeczywistości wydaje się być Baaardzo Archaiczna. 

 

Czy, w przypadku AI można mówić o wyrażaniu siebie? O indywidualnym spojrzeniu na świat?

Tak raczej :)

 

O odwadze w wyrażaniu opinii? 

Też chyba, ocena czy opinia jest odważna leży raczej po stronie czytelnika. :)

Sztuka Literacka...

 

Cóż mamy już chyba taką, która jest zdjęciami rzeczywistości, może dość subiektywnymi, ale jednak, jak beletrystyka, biografia, kryminał itd. 

 

Uznajmy  jednak fakt, że fantastyka nie bywa bezpośrednim zdjęciem z telefonu...

 

Ale, kto przeczytał tę i ową, (tak w zasadzie ową) biografię autorską (np. pana Lema, polecam), może dojść do wniosku, że fantastyczne obrazy (co nieskromnie twierdziłem znacznie wcześniej) są po prostu przetworzeniem, zazwyczaj trudno akceptowalnej, rzeczywistości. 

 

I tu, Blackburn, zmierzając po raz kolejny do sedna, mamy taką aplikację w telefonie, przetwarzającą w sposób fascynujący zdjęcia na obrazy mistrzów, zgodnie z zadanym filtrem...

 

Myślisz, że z tekstem nie będzie to osiągalne? ;)

 

Lisie, to, że zdjęcie jest przetworzone przez algorytm, który napisali informatycy, bazujący na kluczowych i charakterystycznych elementach dzieł konkretnego twórcy, wcale nie oznacza, że tak ukazałby ten sam pejzaż (przyjmijmy) tenże twórca. Ta aplikacja jest symulacją i ma rolę odtwórczą, a nie twórczą. To  jest „statyczny”  program, który generuje „pusty” malowany obrazek. Nic więcej. To samo ma się do literatury, taka moja opinia. Jeszcze raz, nie mylić AI z systemami ekspertowymi. Choć takie systemy są w kręgu zagadnień o AI, to jest jednak różnica.

 

edit: uppss, sorki za orta, co to się stało :/

Z mojej strony napiszę, że łatwiej mi mówić o takich systemach niż o AI, bo z tymi pierwszymi mam kontakt i jestem tego świadomy. Z tymi drugimi nawet jeśli to całkowicie nieświadomie. To trochę przypomina dyskusję Eskimosów o klimacie Afryki. Niby wszyscy słyszeli, coś widzieli, ale nikt nie był i nie sprawdził.

Czaszka mówi: klak, klak, klak!

BlackBurn, 

 

Po pierwsze, nie myślimy o tym, co nas teraz cyfrowo ogranicza. To chyba błąd. 

 

I że tak zapytam, a Ty nie jesteś programem do symulacji opowiadań? Skąd wiesz?  ;)

 

Ten lub inny twórca okazałby wspomniany pejzaż może inaczej, z własnej perspektywy. Zapewne. 

Ale wystraczy dodać do algorytmu, czy jak tam się może to nazywać, element losowości, i będzie coś nowego. 

I wybrać potem z tego to, co będzie w miarę sensowne i atrakcyjne, nowe, awangardowe nawet. :)

 

 

Lisie, jaka losowość? Nie sądzę, aby losowość była wyznacznikiem twórczości.

Hmmm, może wyrażam się nieprecyzyjnie i biegnę zbyt do przodu.

Ale każda opowieść jest wynikiem losowości. Upraszczając bardzo, myśli autora toczą się w tę nie inną stronę. 

Co do dyskusji, mam na myśli fakt, że  AI-autor będzie mógł jednocześnie potoczyć wątek w wielu kierunkach, opracować zakończenie i jednocześnie zasymulować ludzką reakcję na każde z tych zakończeń.

I Wybrać najlepszą :)

 

 

Lisie, piszesz znowu o systemie ekspertowym, nie o AI. Jak to się ma do świadomości? ;)

No to może napisz,.na czym polega różnica miedzy systemem a AI?

Zakłada się, że AI powinna być bytem samoświadomym, a systemy ekspertowe są bardziej skomplikowanym kalkulatorem – celowo przerysowałem.

To, że ktoś nie zna tabliczki mnożenia, nie oznacza, że nie jest samoświadomy. Choć muszę przyznać, nie mam przekonania, że wszyscy ludzie są samoświadomi. ;D

No tak. Blackburn, tu wpadłeś trochę pod próby definiowiowania świadomości. Z gruntu dyskusyjne i raczej do obalenia.;) z każdej strony.

Więc moze wróćmy do ciekawej argumentacji :)

Masz rację, ale to ma związek, sądzę że tworzyć może tylko byt samoświadomy, inaczej taka „twórczość” jest tylko odtwarzaniem, papką, a nie tworzeniem. 

No to okropne, co powiem, albo i powtórzę, ale jestem przekonany, że "Twórczość" jest, być może, jedynie odtwarzaniem, przez własny nazwijmy to "przetwarzator"...  :)

Jestem skłonny poprzeć Lisa w jego stwierdzeniu. Czy twórczością jest jeśli wezmę części z innych samochodów i stworzę nowy? Czy raczej każdą część powinienem sam wytworzyć?

Czaszka mówi: klak, klak, klak!

Hmm... no z wielu samochodów stworzyłbyś samochód. Tylko taka metoda ma ograniczoną ilość możliwości konstruowania “nowych” samochodów. I co dalej?

A jakie znaczenie ma ilość możliwości? Nie wydaje mi się, żeby to mogła być definicja twórczości, bo wtedy chyba nikt z nas nie jest :) Poza tym z matematycznego punktu widzenia masz mnóstwo możliwości konstruowania samochodu z części innych. A im więcej części, tym więcej kombinacji.

 

Może teraz z innej beczki. W tytule jest pytanie: zagłada czy nadzieja? I szczerze powiedziawszy nie widzę nadziei w AI. Skoro to jest odrębny byt, pracujący własnym tempem, myślący własnymi drogami, to na co mu są potrzebni ludzie? Teoretycznie może sam zapewnić sobie wszystko, co potrzebne, dzięki superwysokiej inteligencji. A jeśli AI nauczyłaby się czuć? Mogłaby pokochać ludzkość czy znienawidzić? Biorąc pod uwagę naszą historię, ale również współczesność, mogłaby uznać nas za zagrożenie. Chociaż jednostkowo nie stanowimy problemu, ale jak to się mówi: w kupie siła, w kupie moc.

Mogłaby też spróbować nas edukować i ulepszyć, ale wyglądałoby to trochę jak murzyński niewolnik wychowywał swojego białego pana. Wątpię czy my, jako ludzie, uznalibyśmy wyższość AI nad sobą, a tym samym przyjęła jej mądrość. No bo jak to? My ją stworzyliśmy! To trochę tak jakbyśmy chcieli wychować Boga.

 

O i jeszcze ciekawa myśl mi wpadła do głowy. Jeśli AI byłaby we wszystkim lepsza od nas, czy mogłaby być właśnie naszym Bogiem? Dziwnie tak myśleć, że nasz Stwórca to wszechpotężna AI. Ale to rozważania dla osób wierzących.

Czaszka mówi: klak, klak, klak!

A czy samochód zrobisz z czegoś innego niż z istniejących pierwiastków, czy wyczarujesz nowe?

Skull, próbuję iść Waszym tokiem logiki, dlatego pytam. Spójrz na to pragmatycznym okiem: docierasz do momentu, że wszystkie konfiguracje części samochodów wykorzystałeś i kolejny samochód jaki chcesz skonstruować, już był (skąd my to znamy: “to już było”). To w kwestii "przetwarzator". Co dalej? Wciąż uważam, że tak działający mechanizm nie jest AI. Mylicie pojęcia.

 

No dobrze, a według ciebie czym jest AI?

 

@prosiaczek:

Poczekaj, kosmos jeszcze nie zbadany, kto wie, co tam się ukrywa :)

Czaszka mówi: klak, klak, klak!

Skull, owszem, ale do tego czasu tej ostatniej ściany głową nie przebijesz. ;-)

No dobrze, a według ciebie czym jest AI?

To byt samoświadomy, a co za tym idzie kreatywny, potrafiący znaleźć wyjście z takiego impasu, że wszystkie możliwe konfiguracje samochodu zostały już zrobione. Stworzyć nowe teorie, stawiać tezy, zaprojektować nową cześć do samochodu, itp. – jak człowiek.

 

AI

No to myślę podobnie, ale... ale... W zasadzie to się pogubiłem w tym, o czym teraz dyskutujemy. Czy AI może być twórcza, tak?

Wybaczcie, ale sporo filozofowałem i tak na dobrą sprawę o niczym konkretnym i w tym momencie nawet nie wiem, dokąd ta dyskusja zmierza. Chyba temat mnie przerasta. Za potencjalne namieszanie przepraszam :)

Czaszka mówi: klak, klak, klak!

To zaley, czy uznajecie, że uda się stworzyć silną lub słabą (symulującą ludzkie procesy poznawcze) sztuczną inteligencję.

No właśnie, stn dobrze prawi. Żeby odpowiedzieć na pytanie, które jest w temacie wątku, najpierw warto ustalić, czy rozmowa jest o „przerośniętych kalkulatorach”, które sklejają teksty w literacką papkę, czy o prawdziwej i nieistniejącej jeszcze (przynajmnie oficjalnie) AI. Wnioski o zagrożeniach czy nadziei ze strony tych różnych systemów mogą być całkowicie odmienne. 

No to tu dochodzimy do dywagacji, czy symulację da się odróżnić od rzeczywistości ;D

 

EDIT: Mam na myśli różnicę między słabą a silną AI

W Solaris, mojej, nie ukrywajmy, ulubionej książce, bohater by sprawdzić, czy nie stracił kontaktu z rzeczywistością (czyli z tą rzeczywistością, którą napotkał i go otoczyła) Czy jest rzeczywiście rzeczywista, a nie omamem (czy też na potrzeby wątku – symulacją)

 

Wymyślił sposób, tak w skrócie, o ile się też nie mylę, obliczyć ręcznie pewne równania dotyczące przebiegu orbit lub innych skomplikowanych rzeczy, i następnie sprawdzić, czy pokrywają się z wynikiem podawanym przez komputer. 

 

Dowodem na trzeźwość psychiczną miało być pokrywanie się wyników jego własnych obliczeń i  tych komputerowych...

 

To, moim zdaniem, jest dość kruchy dowód ;) Tyle napiszę, i dodam, że ostatnią rzeczą, której chciałbym, to pisać źle o Panie Lemie...

 

Ale jestem ciekawy, co sądzicie?

 

Było, było, ale nie pamietam, czy to w Solarisie zastosował myk, że celowo wprowadził błąd do swoich obliczeń. Celowy błąd może być przydatny. 

Nie chyba, ale może ktoś kompetentny to sprostuje...

Celowy błąd w obliczeniach rozwiązuje sytuację? ;)

Jeśli wyniki się pokryją to... wydaje mi się, że pomaga wyciągnąć interesujące wnioski, ale napewno nie rozwiązuje. 

Słusznie, jeśli wyniki się pokryją, to chyba tylko może skomplikować sytuację ;) 

Ale mogę być w błędzie?

 

Nie, nie komplikuje. Jeśli wyniki się pokrywają, to jakby na to nie spojżeć, coś z nim nie tak. Ale nie mogę sobie przypomnieć, czy to było w tej jego książce. Chyba nie...

No nic, znowu offtop. 

Było, było... ;)

Jeśli wyniki się pokrywają, to logicznie rzecz biorąc, są dwie opcje.

Albo oba są fałszywe, albo nie :)

 

EDIT: I chyba pora się zastanowić, dlaczego Pan Lem przeoczył aż tak oczywistą oczywistość :D

Pamiętam ten fragment z Solaris i zupełnie nie mogłem skumać, w jaki sposób taki test (albo jakikolwiek inny...) może pomóc odróżnić rzeczywistość od omamów.

„Często słyszymy, że matematyka sprowadza się głównie do «dowodzenia twierdzeń». Czy praca pisarza sprowadza się głównie do «pisania zdań»?” Gian-Carlo Rota

Skoro już się odezwałeś, Szyszkowy, proszę wyjaśnij, dlaczego tego nie skumałeś... ;)

Tak dydaktycznie...

Bo to nielogiczne.

Jeżeli mam podejrzenia, że otaczająca mnie rzeczywistość może być wytworem mojej wyobraźni (nie istnieć), nie udowodnię niczego, licząc coś ręcznie (bo obie rzeczy robi ten sam – mój – mózg). Wynik nie ma znaczenia.

Yyy... trudno wytłumaczyć, że się czegoś nie skumało, raczej wolałbym, żeby ktoś, kto to skumał wyjaśnił. Ale spróbuję. No bo, gdyby istniał sposób (jakikolwiek) na rozróżnienie między rzeczywistością i nierzeczywistością, to tym samym sposobem bohater powinien móc się skapnąć, że jest bohaterem powieści i że powstał w głowie Pana Lema. Trochę taki meta ten argument. ;)

Edit: Anet dobrze prawi. :)

„Często słyszymy, że matematyka sprowadza się głównie do «dowodzenia twierdzeń». Czy praca pisarza sprowadza się głównie do «pisania zdań»?” Gian-Carlo Rota

Anet,

Naprawdę sądzisz, że Pan Lem, nie wziął takich dywagacji pod uwagę, pisząc? ;)

 

A jakie to ma znaczenie?

Szyszkowy, ja też nie kumam, wychwytuję jedynie. Marna fucha :(

UUUU, pytasz mnie, czy to, że Pan Lem nie wziął czegoś pod uwagę, ma znaczenia, Anet?

 

Jest jeszcze opcja, że Lem wziął takie dywagację pod rozwagę, ale bohater już nie nie. Nie pamiętam jakie były okoliczności tej sceny, może fiksował czy coś. Może się samooszukiwał.

„Często słyszymy, że matematyka sprowadza się głównie do «dowodzenia twierdzeń». Czy praca pisarza sprowadza się głównie do «pisania zdań»?” Gian-Carlo Rota

Nie rozumiem.

Zasugerowałeś, że aby stwierdzić, czy działanie bohatera jest logiczne, trzeba wziąć pod uwagę, czy autor o tym myślał, pisząc? Czyli w podtekście zakładasz, że autor nie napisałby nic nielogicznego?

 

Rozumiesz, Anet :)

 

Pytam, jeszcze raz, zatem. Czy uważasz, że Pan Lem okazał się “nielogiczny” ? 

Sama tak stwierdziłaś...

Nie, Szyszkowy, to nie jest opcja. Wyjaśniłby to, na swój zawiły sposób ;)

 

Uważam, że działanie bohatera niczego nie udowadnia.

No nie wiem. Prędzej przejdę “przez kwadrant gwiazdozbioru” niż uwierzę, że Lem był nieomylny. ;)

„Często słyszymy, że matematyka sprowadza się głównie do «dowodzenia twierdzeń». Czy praca pisarza sprowadza się głównie do «pisania zdań»?” Gian-Carlo Rota

Przecież, dobrze wiesz, Anet, nie rozmawiamy, o działaniach bohatera, ale o logice Autora ;)

No to może uda się nam tam zmieścić, w tym kwadrancie, razem ;) Choć zadanie wydaje się karkołomne ;)

A mnie się wydawało, że właśnie o działaniach bohatera rozmawiamy ;)

Aha ;)

Więc w takim razie,  Anet, wróćmy do tematu...

Napisałaś, że bohater Pana Lema, zachowywał się “nielogicznie”, próbując sprawdzić, czy jest logiczny. 

Ta “Nielogiczność”, którą zauważyłaś, jest Twoim zdaniem  po stronie bohatera, czy jego Twórcy? Że tak zapytam ...;)

 

Albo oba są fałszywe, albo nie :)

Mnie tam się to podoba, ma sens. Kombinujcie, a ja idę spać. Dobranoc. :P

Napisałaś, że bohater Pana Lema, zachowywał się “nielogicznie”, próbując sprawdzić, czy jest logiczny. 

Nie. 

Napisałam: 

Jeżeli mam podejrzenia, że otaczająca mnie rzeczywistość może być wytworem mojej wyobraźni (nie istnieć), nie udowodnię niczego, licząc coś ręcznie (bo obie rzeczy robi ten sam – mój – mózg). Wynik nie ma znaczenia.

A na to pytanie:

Ta “Nielogiczność”, którą zauważyłaś, jest Twoim zdaniem  po stronie bohatera, czy jego Twórcy?

już odpowiedziałam. Nie wiem, z jakiego powodu autor tak a nie inaczej kieruje  postępowaniem swojego bohatera, czy jest to działanie zamierzone czy wpadka, nie ma to dla mnie żadnego znaczenia.

już odpowiedziałam. Nie wiem, z jakiego powodu autor tak a nie inaczej kieruje  postępowaniem swojego bohatera, czy jest to działanie zamierzone czy wpadka, nie ma to dla mnie żadnego znaczenia.

A widzisz, wpadka autorska jest nie lada kąskiem, i rozumiem, że nie ma to dla Ciebie znaczenia, choć jednak sama przyznałaś, że jednak wpadka zaistniała.  Lub działanie zamierzone. 

Nie rozumiem jednak, dlaczego po stwierdzeniu, że coś jest “nielogiczne” unikasz odpowiedzi, skąd się ta “nielogiczność” wzięła.

Po prostu nie rozumiem :)

 

 

 

A ja nie rozumiem, po co drążysz coś tak nieistotnego, naprawdę. Mnie się po prostu nie chce nad tym zastanawiać, to mnie nudzi i przez to męczy, zniechęca, a do tego do niczego nie prowadzi. Dlatego nie chcę się wciągać w takie rzeczy. 

W jakie rzeczy, Anet? Piszesz, jakbyśmy rozmawiali o czymś zlym lub niewłaściwym.

A przecież zastanawiamy się jedynie, czy sposób Pana Lema na rozóżnienie symulacji od rzeczywistości był dobrym.sposobem.... :/

Nie mówię, że rozmawiamy o czymś złym, tylko – dla mnie – nieinteresującym, stąd mój opór. Zrozumiałam, że chcesz ode mnie odpowiedzi na pytanie co autor miał na myśli, pewnie stąd to niezrozumienie.

Przyznaję, nie śledziłam uważnie tej dyskusji, wtrąciłam się być może niepotrzebnie, cóż... bywa.

A teraz idę do łóżka, zatem życzę dobrej nocy :)

Książki Lema nie czytałem, ale jeśli dobrze zrozumiałem, ręcznie liczone wyniki porównywał z wynikami komputera. Jeżeli tak, to myślę, że test rzeczywistości polegał na tym, że komputer jako z grubsza nieomylna machina zawsze wypluwała dobry wynik, a kiedy wyplułaby ten sam rezultat, co bohater, oznaczałoby, że to nie rzeczywistość, a coś innego.

Takie wtrącenie trochę poza dyskusją :)

Czaszka mówi: klak, klak, klak!

Podobał mi się wątek pisania utworów literackich przez sztuczną inteligencję.

Kiedyś podstawowym pytaniem na lekcjach języka polskiego, przy rozbiorze dowolnego utworu literackiego, było pytanie – “Co autor chciał nam przekazać?”​. To pytanie moim skromnym zdaniem rozkłada elektronicznego autora na łopatki. Bo co maszyna CHCIAŁA? Oczywiście żyjemy w tak konsumpcyjnym świecie, że zazwyczaj odbiorca chce się rozerwać a autor zarobić, ale nadal pozostaje pewien margines twórców, którzy chcą coś przekazać, czymś się podzielić. Nawet jeśli chodzi jedynie o zarobek czy sławę, to nie maszyna jej chce, a ten, który ją uruchomił.

To się przekłada na wszelkie dziedziny, gdzie człowiek chce zastosować sztuczną inteligencję. To człowiek wyznacza ramy, konstruuje pod określone zadania, pozwala wybierać drogę, ale do wyznaczonego przez siebie celu. Nawet maszyny mające na celu udowodnić nam możliwości sztucznej inteligencji, uczenia się, symulacji samoświadomości, realizują to, do czego zostały stworzone. Żadna z obecnych maszyn nie robi czegoś, bo chce, bo takie ma widzimisię, bo coś ją zmotywowało do działania, bo coś ją wkurzyło, bo ma tego dość itp. Każda podejmowana autonomicznie przez sztuczną inteligencję decyzja jest podporządkowana dążeniu do celu, którego sobie sama nie wyznaczyła.

Właśnie wróciłem z Afryki, gdzie pracujemy nad naszym projektem. Głowę mam pełną nowych wrażeń, spostrzeżeń, doświadczeń, pytań i uczuć. Chciałbym się tym wszystkim z Wami podzielić (będzie trudno znaleźć na to wszystko czas). Gdy kiedyś jakaś maszyna też zacznie tak chcieć, wtedy będziemy mogli się zacząć bać, ale to już moim zdaniem nie będzie “sztuczna”​ inteligencja.

Co autor chciał nam przekazać?

 

Ciekawe zagadnienie, Unfall :)

 

Więc, wiesz, tak po lisiemu i nieco filozoficznie, może warto zastanowić się nad sytuacją odwrotną... ;)

 

Przykład nie będzie doskonały, bo nad nim nie myślałem, ale prosiłbym nie skupiać się nad drobiazgami, a ogólną koncepcją.

 

Wyobraźmy sobie zatem, że to nie A.I. jest autorem tekstu, a tzw. człowiek, i dla odmiany, A.I. ma “zinterpretować”, co owa ludzka istota miała na myśli.

Czy to, co napisał Człowiek, w jakiś sposób może mieć źródło w jego doświadczeniach, przeżyciach, historii. Zanalizować, czy istnieją jakiekolwiek analogie, między tym, co przeżył, a co napisał ;). 

 

Weźmy dla uproszczenia przykładu, taką A.I. przyszłosci, (raczej nieodległej) która towarzyszyła owemu człowiekowi od urodzenia, w postaci zdjęć, w postaci historii lokalizacjii, w których bywał, w postaci emaili i sms które pisał, w postaci wpisów blogicznych. 

 

Oczywiście, upraszczając znów nieco, załóżmy, że owa A.I. ma również dostęp do tych wszystkich danych setek milionów innych podobnych autorów.  I, co ważne, również do ludzkich i nieludzkich interpretacji tekstów ich autorstwa. Które zresztą i co ważne również, są ocenione za trafne lub nietrafne przez tę tzw. Społeczność ;)

 

Czy naprawdę uważasz, że z czasem A.I. nie nauczy się lepiej interpretować tekstów, niż ten lub ów Człowiek. 

I na tej samej zasadzie, znów odwracając przykład, sama lepiej nie będzie “wiedziała”, co napisać? :D

 

 

 

@Unfall

 

Nawet maszyny mające na celu udowodnić nam możliwości sztucznej inteligencji, uczenia się, symulacji samoświadomości, realizują to, do czego zostały stworzone. Żadna z obecnych maszyn nie robi czegoś, bo chce, bo takie ma widzimisię, bo coś ją zmotywowało do działania, bo coś ją wkurzyło, bo ma tego dość itp. Każda podejmowana autonomicznie przez sztuczną inteligencję decyzja jest podporządkowana dążeniu do celu, którego sobie sama nie wyznaczyła.

Cele ludzi też po części są spadkiem po poprzednich formach ewolucyjnych. Jeżeli ktoś pisze książkę, najprawdopodobniej chce zaprezentować się światu i zostać sławnym oraz bogatym, co z kolei przekłada się na większe szanse przetrwania i ewentualnie rozmnażania, czyli celów, których przecież ludzie sami sobie nie wymyślili, tylko narzuciła im biologia. Znakomitą większość ludzkich działań można by zredukować w ten sposób – pojawia się jednak pytanie, czy ma to sens. W momencie uzyskania samoświadomości początkowo narzucone cele mogą zostać zanegowane, tak więc jeżeli AI może decydować sama o sobie, to powód, dla którego powstała, moim zdaniem przestaje mieć znaczenie.

 

Moim zdaniem AI nie ma się czego obawiać. To może być tylko kolejny krok na ścieżce rozwoju świadomości. Czy tego chcemy, czy nie, gatunek homo sapiens w obecnym kształcie kiedyś wyląduje na śmietniku historii, choć ścieżki do tego stanu mogą być różne – albo wykończymy się sami, albo zrobią to za nas nasi duchowi spadkobiercy pod postacią maszyn, kiedy staniemy się im zbędni, albo wyewoluujemy tak, że będzie można co najwyżej nazywać nas post-ludźmi. “Nic nie może wiecznie trwać...”

No rest for the Wicked https://www.facebook.com/thewickedg/

Panie Lisie

I na tej samej zasadzie, znów odwracając przykład, sama lepiej nie będzie “wiedziała”, co napisać?

​Będzie wiedziała, ale czy będzie chciała, czy ktoś będzie musiał jej wydać takie polecenie, czy wręcz tak ją zaprogramować?

 

Wicked G

Czy tego chcemy, czy nie, gatunek homo sapiens w obecnym kształcie kiedyś wyląduje na śmietniku historii, choć ścieżki do tego stanu mogą być różne...

​Ależ ja się w pełni z tym zgadzam, tylko tych, co nas zastąpią nie nazwałbym już sztuczną inteligencją, bo moim zdaniem będą się musieli popisać tą właściwą. A co do obecnych maszyn – ​wystarczy zadać im zadanie, z którym nawet dziecko nie będzie miało najmniejszego problemu – “​rób co chcesz”. Co zrobi AI?

 

Osobiście nie jestem osobą religijną, ale przytoczę tu słowa, że “​Bóg dał nam wolną wolę”​. Kto by jej nam nie dał, odróżnia to naszą inteligencję od tej sztucznej i chyba w naszym własnym interesie jest, aby pozostało tak jak najdłużej.

Prawdziwa konsternacja zapanowała, gdy okazało się, że system doskonale radzi sobie z rozpoznawaniem schorzeń psychicznych, takich jak schizofrenia.

Choroby tego typu są trudne do zdiagnozowania nawet przez najlepszych specjalistów w dziedzinie psychiatrii.

 

Ciekawe, to skąd wiedzą, że dobrze rozpoznała? Wygląda jakby logika tych zdań nie była zbieżna.

 

Nauki ścisłe to głównie zasady i dane, których trzeba się trzymać, więc to ponownie „przerośnięty kalkulator”, który naturalnie będzie lepszy w tym, niż ludzki umysł. Nie jest to jednak AI – samoświadomy byt.

Boimy się, że zastąpią nas przerośnięte kalkulatory czy AI? 

Tak, to.trochę rozbieżne, natomiast sądzę, ze chodziło tu autorowi po prostu o "podbicie" dokonań A.I.  Znaczy, ze to takie "trudne" a system potrafi...

Niemniej skoro poruszyles już ten fragment, to przyszła mi do głowy sytuacja, w ktorej diagnoza A.I i ludzka są inne, w skrajnym przypadku przeciwstawne zdrowy-chory. Ciekawe ;)

Problem z SI polega na wielu czynnikach. Takich jak nasza historia (jako gatunku), ograniczenia ludzkich ciał i ludzkiego umysłu, kultury itp. Jeśli chodzi o historię, to nigdy nie mieliśmy naturalnych wrogów, tylko my (jako gatunek) uczestniczyliśmy w wyścigu do panowania nad planetą. Co jeśli pojawi sie rywal, który w dodatku został stworzony przez nas? Może ludzi przerażałaby nie SI sama w sobie, tylko utrata kontroli? Z własnej historii wiemy, że każdy lubi stanowić sam o sobie, a mało kto przepada za byciem podległym komukolwiek (w całości rzecz jasna). Dlaczego SI miałaby dać się kontrolować, będąc poza ograniczeniami ludzkiego ciała i umysłu? I tu pojawia się drugi problem w dyskusji o SI (która jest konieczna), a jeśli popełniamy błąd w myśleniu o SI, myśląc jako człowiek? Na cokolwiek patrzymy, to przez pryzmat Nas samych. Jako ludzie, istoty organiczne poddane ewolucji na ściśle określonych warunkach. Nie uda nam się odgadnąć co zrobiłaby SI, bo nią nie jesteśmy i nigdy nie będziemy. Człowiek  człowiekiem pozostanie nawet w obliczu zagłady. Wolałbym zamiast pytania o SI, zadać pytanie dlaczego to ludzie stoją w miejscu z rozwojem? Technologia idzie do przodu, poznanie świata też, a człowiek? Zastanówmy się lepiej czy, to co by ewentualna SI zobaczyła, byłoby godne pochwały, czy raczej godne pożałowania.

Paint it black

Po pierwsze – co do zalinkowanego artykułu – Hawking to bardzo bystry fizyk, ale nie uznawajmy go za wyrocznię. Ot, facet jest specjalistą w swej dziedzinie, ale wydaje mi się, że staję się taką "Dodą" dla wydawców książek popularnonaukowych. Z drugiej strony, jestem bardzo sceptyczny co do jego wiedzy na tematy informatyki, telekomunikacji, elektroniki i mechatroniki – stąd podważam jego słowa. :)

W sumie to czytając takie artykuły dość mocno radykalizuję się przy stwierdzeniu, że jeśli AI ma być od nas (w szeroko rozumianym pojęciu) lepsza, tym dla nas lepiej. Albo się scalimy/nadążymy, albo wylatujemy.

No i brzydzi mi się czytanie kolejnego artykułu o "złym AI", kiedy przykładami są tylko i wyłącznie wybrane systemy wyspecjalizowane i zaprojektowane pod konkretny cel. Systemy te nie powstały ad-hoc, same z siebie, przez boskie i cyfrowe tchnięcie "ducha w maszynę”.

 

PS. Obejrzyjcie do końca!

SI według mnie musi mieć wbudowane coś na kształt pamięci ROM z dawnych komputerów osobistych. Grupę podstawowych popędów i reakcji. Człowiek ma zakodowane instynkty, maszyna aby działać na zasadzie SI też musi mieć podstawowy zestaw “zadań”, które będą działać bez przerwy w wielowątkowym procesie myślowym. Coś musi ją pchać do przodu, tak jak nas pchają potrzeby fizjologiczne, instynkt przetrwania, rozrodu, zachowania społeczne, różne potrzeby w piramidzie Maslova.

Problem maszyny jest taki, że po pierwsze nie ma zakodowanych potrzeb, a po drugie – nie modyfikuje się sama na drodze realizacji tych potrzeb. Póki co budujemy trupy, przez które przepuszczamy prąd. Coś jak “opukiwacz grobów” u Lema w “Niezwyciężonym”. Wątpię też by dało się oddzielić myślenie od świadomości, ale tutaj obracamy się już w kręgu suchych definicji.

Podstawa to zrozumienie czym tak naprawdę jest świadomość i skąd się bierze. Jak to ogarniemy w pełni, to, być może, będziemy mogli budować maszyny, które ją posiadają.

Osobiście skłaniam się ku tezie, że świadomość jest “własnością przestrzeni”. Dlatego w celu poszukiwania SI kibicuję badaniom opierającym się na konstrukcji mechanicznych mózgów działających w naszej przestrzeni, a nie sieci neuronalnych funkcjonujących w ramach rzeczywistości symulowanej na bazie kolejnej maszyny. “Wirtual” może nie mieć części własności, których obecnie jeszcze nie zauważamy, a które są niezbędne do pojawienia się świadomości i samodzielnego myślenia.

 

PS. Dooobra psinka :D

https://www.youtube.com/watch?v=kgaO45SyaO4

Ja uważam, że jakkolwiek by roboty czy SI wyglądało, czego byśmy nie wiedzieli o świadomości, to i tak w jakimś stopniu będzie podobna do człowieka. Wkońcu to czlowiek ją stworzył, a czy my jesteśmy wstanie stworzyć cokolwiek bez własnego podpisu? To tylko potwierdza wcześniejsze komentarze, mówiące o istocie problemu. Najpierw definicja świadomości, a później dopiero pełne jej zrozumienie.

Paint it black

Ale w mediach już jest całkowicie zatarte i błędnie podawane, czym jest AI. Czasem odnoszę wrażenie, że część wypowiadających się naukowców też tego nie rozumie. Ten skaczący robot też jest  tylko wyspecjalizowanym systemem, choć robi wrażenie, niczym więcej. 

Może pierwszym problemem z jakim już się zmierzamy, odnośnie SI, jest definiowanie poszczególnych słów? Jak my mamy rozmawiać o sztucznej inteligencji, jak co człowiek to inna definicja tego samego słowa np. SI, świadomość, robot, android itp. Najpierw będziemy chyba musieli przeskoczyc ten problem. 

Paint it black

Fakt faktem, że A.I. oczywiscie będzie nosić stygmat człowieka. Zauważcie, co ciekawe i też znamienne, ze obecne systemy, te które zyskały najwiekszay rozgłos, szkolone są do pokonywania człowieka w grach. Zaczelo sie od szachów, później Go, teraz wygrywa już z czlowiekiem w proste gry komputerowe z lat 80. Tu chyba ten stygamt już widać – tworzymy narzędzia do rywalizacji z nami samymi :)

 

Co do definicji A.I. Oczywiście brak jednej. Potoczne jest wyobrażenie "gadajacego humanoidalnego robota", natomiast obecne systemy, które już przewyższają czlowieka wykonują bardzo wyspecjalizowane zadania. Jak np ten skoczek z filmiku (widziałem już wcześnie j – fajne). Niemniej mówimy o przyszłości i liczba pół oraz ich zakres, w ktorym sztuczne systemy będą od nas lepsze, niezależnie kiedy nazwiemy jej juz A.I. bedzie się rozszerzać. Wiec  punktem końcowym teoretycNie, odleglym lub mniej, jest sytuacja, gdy powstanie coś "ogolnie" lepszego niż my :).

 

Co do świadomości. Hmmm, nie wiem, czy jest ona az tak istotna. Mozna przecież wyobrazić system, który reaguje na bodźce, dostosowuje się do nich, uczy się omijać te niekorzystne, nie będąc samoswiadomy, "dba" o siebie i wlasne bezpieczeństwo, zapewnia sobie warunki to samorozwoju.. Chyba bylo też o tym w jakieś hard sf. :)

Skoczek nie przewyższa człowieka, bo został do tego „wytrenowany”. Człowiek potrafi sam się wytrenować do takiego skakania. I najciekawszym mykiem jest to, że ludź sam chce się tego nauczyć. Maszynę zmuszamy.

Jasne, można stworzyć system, który reaguje na bodźce – skaczący robot reaguje na bodźce celem utrzymania równowagi. To jest czysto mechaniczna sprawa. I teraz tak, jeśli stworzy się „przerośnięty kalkulator” reagujący na bodźce, to czy jest on zagrożeniem dla ludzkości? Przecież jego „motywacja” jest znana, a skoro ją znamy (bo została zaprogramowana), to jest przewidywalna.

Racja, nie potrzeba nam świadomej SI, by nas przerosła. Można napisać program, który definiuje działania SI tak, żeby zawsze była o krok przed nami. Dzisiaj nie wygramy już z komputerem w szachy, więc kwestią czasu jak w czym innym oddamy też palmę pierwszeństwa. Ciekawi mnie raczej pewnego rodzaju sprzężenie zwrotne, zależności, rywalizacja czy jak to nazwać. Zgodnie z powiedzeniem, że hegemon nigdy nie oddaje swej pozycji bez walki, czeka nas interesująca ,,wojna,, :) Gdy dojdziemy do tego momentu, może to nas jakoś zjednoczy? Może wkońcu zaspokoimy odwieczną potrzebę rywalizacji? Tworząc przeciwnika godnego nas samych, pod postacią maszyn, sami zmusimy się do wejścia na wyższy poziom? Skoro maszyny ,,zmuszamy,, by coś opanowały, to może one zmuszą też nas byśmy cos opanowali?

Paint it black

Myślę, ze skoczek potrafi zaadaptować sie do nieznanych przeszkód, nieznanego terenu, jesli nie ten, to są takie systemy. Wiec nie jest to sensu stricte zaprogramowanie, chyba ze przyjmiemy, ze mu też jesteśmy zaprogramowani. 

Oczywiście ze obecne systemy są kalkulatorami, ale przecież moc obliczeniiwa ludzkiego mózgu tez jest znana i określona ;) Obecne komputery mają ja osiągnąć za wedlug roznych szacunków za ok. 30– 60 lat. 

Być może to co jesteśmy w stanie stworzyć nie przekracza obecnie poziomu gryzona czy nawet pierwotniaka, ale rozmawiamy o przyszłości, wiec twierdzenie: patrz, prZecież na razie nawet tego nie potrafimy, chyba nie jest argumentem, patrząc po tempie rozwoju technologii. 

 

Ten wyższy poziom Cerut, to transhumanizm, niektórzy futurolodzy, Kurzweil na ten przykład tak wlasnie widzi przyszłość. Czyli nie rywalizacja z A.I. a sprzezenie z nią człowieka.

Ciekawe jest też to, że „przerastanie” maszyn nad człowieka postrzegamy tylko przez pryzmat analizy  dostępnych i znanych dużej ilości danych. Czy umiejetność analizy danych jest wystarczające? A co, jeśli pojawią się nowe dane, z którymi maszyna nie miała wcześniej do czynienia? Człowiek potrafi się dostosować i reagować.

 

edit: piszę to z patrzeniem perspektywicznie, nie tylko na obecne osiągnięcia.

Fantastycznie panie lisie (nie było dłuższej nazwy? :)) chyba źle opisałem, to co chciałem przekazać. Mówiąc o wejściu na wyższy poziom, nie mam na myśli od razu syntezy. Technologia może tu tylko posłużyć (ewentualnie) za coś pośredniego, co wspomoże nasz biologiczny rozwój (ewolucje). Dzięki niej moglibyśmy zrozumieć lepiej nas samych. W skrócie, nie rywalizacja ani sprzężenie, tylko ewolucja poprzez wykorzystanie do cna technologi i maszyn. Będą nas wspierać byśmy poznali siebie, własne możliwości, nie byśmy się z technologią połączyli na stałe (w dosłownym znaczeniu). Ale to tylko moja wizja wykorzystania ewentualnej SI (czy ogólnie technologi) w służbie człowiekowi :)

Paint it black

Wiec  punktem końcowym teoretycNie, odleglym lub mniej, jest sytuacja, gdy powstanie coś "ogolnie" lepszego niż my :).

A powstanie?

Tak naprawdę coraz częściej drażnią mnie peany pod adresem maszyn i SI. Są od nas lepsze pod wieloma względami? Naprawdę?

Bo szybciej i bezbłędnie przetwarzają dane? Tak, bo wbudowaliśmy im szybki komputer. Taki, jakim sami możemy się posługiwać, choć nie jest częścią naszego ciała. W dodatku gdy nasze obliczenia zawiodą, pozostaje nam jeszcze doświadczenie, lub choćby intuicja. 

Bo są zbudowane z trwalszych materiałów i przez to mniej podatne na uszkodzenia? Co z tego, gdy do poważniejszych napraw lub reprodukcji potrzebują całej infrastruktury, którą człowiek stworzył, począwszy od kopalń i hut, po elektrownie i wyspecjalizowane fabryki, gdzie w nanotechnologiach tworzy się układy elektroniczne. Tymczasem nasze ciała w sporym zakresie regenerują się same, regularnie wymieniając niemal wszystkie komórki na nowe, aż do rozpoczęcia się procesu starzenia, który także nie jest po to, aby uczynić nas słabszymi, a po to, aby zapewnić dalszą ewolucję. Do przetrwania i rozmnażania owszem potrzebujemy odpowiednich warunków (temperatura, ciśnienie), powietrza, wody i pożywienia, ale to nadal niewiele przy tym, czego potrzeba do produkcji maszyn.

Myślę, że w tej dyskusji o rywalizacji z SI i maszynami mimo wszystko nieco się nie doceniamy. Nasze ciała są idealnie przystosowane do warunków, w jakich przyszło się nam rozwijać. Mamy też ogromne zdolności dopasowywania się do nowych warunków, lub dopasowywania otoczenia do nas. Tam, gdzie warunki są dla nas skrajnie nieprzyjazne, potrafimy się przed nimi chronić tworząc odpowiednie narzędzia. A jeśli kiedyś uznamy, że osiągnęliśmy ostatnie stadium ewolucji i ta nie jest już nam potrzebna, pewnie uda się zwalczyć starość i umieranie. To przecież jedynie sekwencja w naszym kodzie genetycznym, która w pewnym momencie wyłącza nasze umiejętności regeneracyjne. 

Czy kiedyś SI nas zastąpi. Wątpię, ale jeśli nawet, to moim zdaniem wcale nie będzie to zmiana na lepsze, bo SI może nie będzie miała naszych ograniczeń, ale będzie miała swoje własne.

 

A widzisz, Black B. To dostosowanie czlowieka, jako istoty ograniczonej biologia jest mocno ograniczone. Wystarczylaby niewielka zmiana klimatu, temperatury by ludzkość przestala istnieć. Poza tym nauka czlowieka też polega na zbieraniu doświadczeń od samego urodzenia. Kontrolę nad układem ruchowym zyskujemy powtarzając w kółko te same ruchy, az je opanujemy i wtedy przystepujemy do nastepnych.

Sytemy deep learningowe to coś wiecej niż analiza. Choć trudno je na razie jeszcze porównywać z tym jak uczy się człowiek.

 

Cerut, mow mi lisie, ;)

To idealistyczne założenie. Jednak ludzkość jest jaka jest. Klopot w tym, że kto pierwszy stworzy zaawansowaną A.I. znaczy taką przerastającą intelektualnie człowieka, przynajmniej na pewnych polach, teoretycznie zgarnia pulę. Coś jak gdyby Ameryka po odkryciu bomby atomowej zagrozila, ze jeśli Rosja natychmiast nie przerwie prac nad bronią atomową, to ją zbombarduje. Wtedy USA staloby sie jedynym hegomonem. Przegapiona szans a ;)

Mozna oczywiście wierzyć, że AI, powstanie w powołanych rękach, ale rownie dobrze ze nie. Dlatego powstają ruchy domagajace sie swiatowego nadzoru nad pracami w tym kierunku. Niebezpieczenstwo wcale nie jest takie nierealne. Wyobraźmy sobie, ze np. to chiński rzad dysponuje systemem, który jest w stanie wiecej i dokładniej lepiej zaplanować i zorganizować, przewidziec trendy np. W gospodarce,  rynkach walutowych, giełdach itd. 

Unfall, co do intuicji na razie, jest tylko i wyłącznie nieuswiadomionym korzystaniem z doświadczenia ;)

Wyobraźmy sobie, ze np. to chiński rzad dysponuje systemem, który jest w stanie wiecej i dokładniej lepiej zaplanować i zorganizować, przewidziec trendy np. W gospodarce,  rynkach walutowych, giełdach itd. 

​Ale przecież chiński rząd dysponuje takim systemem. Dysponują najpotężniejszym obecnie superkomputerem. Reszta to tylko kwestia odpowiedniego oprogramowania, w czym Chińczycy też nie są źli. Aby przewidzieć trendy potrzebne są odpowiednio zaawansowane symulacje. To tylko obliczenia i przetwarzanie ogromnej ilości danych. SI nawet do tego nie jest potrzebna.

 

To dostosowanie czlowieka, jako istoty ograniczonej biologia jest mocno ograniczone. Wystarczylaby niewielka zmiana klimatu, temperatury by ludzkość przestala istnieć.

​To ja dodam jako ciekawostkę: Właśnie wróciłem z Mali, gdzie instalowaliśmy jedną z naszych solarnych minielektrowni. Tam jest teraz w miarę znośnie, bo trwa zima. Tylko nieco powyżej trzydziestu stopni. Ja te warunki pracy zniosłem całkiem przyzwoicie (choć jednego dnia słońce wyłączyło mnie z pracy na kilka godzin). Baterie (nowej generacji, litowo-jonowe) już tak nieczułe jak ja na temperaturę nie są. Musimy im zapewnić stałą temperaturę pracy w okolicach 25 stopni, inaczej popracują góra dwa-trzy lata. Teraz myślimy nad zapewnieniem chłodzenia transformatorów, bo choć wytrzymują do 55 stopni (powyżej się wyłączają), same podczas pracy generują ciepło i przy temperaturach otoczenia powyżej 50 stopni (zdarzają się tam takie, a tam żyją ludzie)  nie trudno dojść do limitu ich możliwości. 

Co chcę przez to powiedzieć? Ano nie przesadzajmy z tym brakiem ograniczeń dla maszyn i SI. Oczywiście możemy chronić wrażliwe elementy zapewniając chłodzenie i osłony, ale dokładnie w ten sam sposób możemy chronić i siebie. Czym to się różni? Że osłona może być częścią maszyny, a nie jest częścią naszego ciała? Niewielka to różnica.

No właśnie, systemy analizujące morze danych już istnieją, nawet na ich podstawie prognozują. Jeśli sprawa AI dotyczyłaby tylko danych, to już mielibyśmy z nią do czynienia. Te systemy analizują ilość danych daleko poza zasięgiem możliwości człowieka. Ale jakoś nie słychać o niezależnym bycie. Systemy ekspertowe będą zagrożeniem tylko wtedy, gdy ktoś je do tego zaprogramuje – to istniejące zagrożenie. To jest po prostu narzędzie. A  AI zaistnieje dopiero wtedy, gdy uzyska samoświadomość, a do tego sądzę, że nie jest potrzebna ogromna ilość danych – jeszcze raz napiszę, że nie jest potrzebna znajomość tabliczki mnożenia (w czasach gdy można policzyć na telefonie, większość ludzi nie zna tabliczki mnożenia) żeby być samoświadomym. Albo rozmawiamy o „przerośniętych kalkulatorach” – narzędziu jak młotek czy telefon,  albo o AI – czy zaistnieje i czy może być zagrożeniem. 

Warto chyba usystematyzować, tak jak już wspomniano, czym jest A.I. 

Czym jest silna, czym slaba, czym ogolna, czym zadaniowa – gdyz takie systemy A.I (zadaniowe) już istnieją, przynajmniej wedlug przyjętych w nauce definicji.

Tu mamy entuzjaste :), który może odrobinę wyjaśnić: 

 

Ogólna A.I. 

Ciekawe. :)

Przepraszam, ale AI to AI, a reszta to systemy zadaniowe. To zagmatwanie o nazewnictwie wzięło się w ostatnich czasach z... właśnie, chyba z niezrozumienia. Gdy ktoś zobaczy skaczący „młotek” to od razu nazwywa go AI – to błąd. 

Wracając do tego pana, który prowadzi prezentację – no właśnie, nic nie powiedział o analizie kosmicznej ilości danych. Chodzi raczej o metodę/sposób w jaki się dane analizuje. Ale przypuszczam, że to też nie wszystko, to nie wystarczy do „obudzenia” samoświadomości.  AI – samoświadomy byt kiedyś powstanie, tak uważam, żeby było jasne, ale metodami, które dopiero zostaną opracowane. 

To bardzo ciekawe. Sieć neuronowa rozpoznajaca i opisująca obrazy. :) 

 

https://youtu.be/40riCqvRoMs

To ciekawy skrót i niepokojący też trochę, przynajmniej dla niektórych https://youtu.be/XgTFYwolcsA

Niby oczywiste, ale zobaczyć w realu też ma swoją wartość https://youtu.be/NzEeJca_YaQ

Ten ostatni skojarzył mi się z powieścią Niezwyciężony Lema. :)

Do mnie przyszło to samo skojarzenie :D. W takim kontekście, że wiek wielkich maszyn bojowych przeminął. Wystarcza chmara dronow by np. obezwladnić lotniskowiec. No chyba że ten będzie dysponował kontrchmarą

Skończy się na niszczeniu wroga za pomocą rojów nanorobotów. Ale zaraz... Przecież nanomaszyny są już obecne w arsenałach niektórych państw. Co prawda zrobiono je z materiału biologicznego i – z przyczyny ograniczeń technicznych – niezbyt precyzyjnie ociosano. Ale do masowego mordowania ludzi nadają się nieźle.

 

Samoświadomość. Ależ przeceniania. Czy wiemy w ogóle, o czym mówimy? Czy jest to może na wpół mityczne zwierzę, o którym wprawdzie wiadomo, że istnieje, ale któremu każdy dorabia jakieś magiczne cechy? Chyba warto podać definicję. Wtedy, być może, będzie można określić, czy z istnienia bądź nieistnienia samoświadomości wynika cokolwiek. To znaczy, jeśli chodzi o wpływ na zachowanie maszyny  (lub zwierzęcia, lub drzewa).      

Total recognition is cliché; total surprise is alienating.

Samoświadomość. Ależ przeceniania. Czy wiemy w ogóle, o czym mówimy? Czy jest to może na wpół mityczne zwierzę, o którym wprawdzie wiadomo, że istnieje, ale któremu każdy dorabia jakieś magiczne cechy? Chyba warto podać definicję. Wtedy, być może, będzie można określić, czy z istnienia bądź nieistnienia samoświadomości wynika cokolwiek. To znaczy, jeśli chodzi o wpływ na zachowanie maszyny  (lub zwierzęcia, lub drzewa).      

 

Podaj.

Określ, czy według Ciebie, coś wynika :)

OK. Niech będzie sobie podukład gromadzący dane z różnych innych podukładów i generujący proces oznaczający się jako “ja”.

Od razu zauważmy, że proces ten może być pozbawiony zdolności sterowania systemem – choćby posiadał złudzenie kontroli. W każdym razie nie wiadomo, czy samoświadomość usprawnia nas w istotnym stopniu. Peter Watts w “Ślepowidzeniu” bawi się pomysłem, że jest ona bardziej kulą u nogi.

Wydaje mi się całkiem możliwe, że samoświadomość (rozumiana jak wyżej) nie jest konieczną cechą złożonego i nieprzewidywalnego układu – ograniczonego tylko przez zestaw popędów czy priorytetów. Mam na myśli dyrektywy wdrukowane żywemu albo sztucznemu systemowi przez, odpowiednio, ewolucję albo programistę. Jasna rzecz, że owe dyrektywy nigdy nie będą nieprzekraczalną granicą. Zdarzają się błędy kodu i inne usterki. Im bardziej skomplikowany układ, tym o nie łatwiej. Twórcy myślących maszyn mogą błędy wykorzystywać, podobnie jak czyni to ewolucja, ale nawet jeśli nie zechcą, całkowicie przypadku nie wyeliminują. Niezależnie od tego, czy SI będą samoświadome, czy nie.

Total recognition is cliché; total surprise is alienating.

"Wystarcza chmara dronow by np. obezwladnić lotniskowiec. No chyba że ten będzie dysponował kontrchmarą." – A nie prościej było by dysponować czymś w rodzaju broni EMP, w teorii skutecznej przeciwko większości urządzeń elektronicznych a im bardziej skomplikowanych tym bardziej skutecznej? :D

"Jak się ktoś utopił to nie znaczy, że się utopił tylko, że się nie utopił i popełni samobójstwo." - Borowik

Peter Watts w “Ślepowidzeniu” bawi się pomysłem, że jest ona bardziej kulą u nogi.

I udawadnia, że ta kula przyczepiona jest do nogi jednej, a jej łańcuch zaplótł się wokół drugiej.

 

Jasna rzecz, że owe dyrektywy nigdy nie będą nieprzekraczalną granicą. Zdarzają się błędy kodu i inne usterki. Im bardziej skomplikowany układ, tym o nie łatwiej. Twórcy myślących maszyn mogą błędy wykorzystywać, podobnie jak czyni to ewolucja, ale nawet jeśli nie zechcą, całkowicie przypadku nie wyeliminują. Niezależnie od tego, czy SI będą samoświadome, czy nie.

Głos rozsądku – bo mam wrażenie, że wiesz jaka armia ludzi (programistów, projektantów, testerów i zarządających projektem) stać by musiała za tak wielkim technicznie przedwsięzięciem. Przy założeniu, że sam “produkt” jest sprzętowo już doskonały i gotowy do ożywienia oprogramowaniem.

Gro podlinkowanych tematów/tekstów/filmów opiera się na szokowaniu przeciętnego widza postępami nad AI – a w rzeczywistości są to najczęśniej proste projekty, bardzo wyspecjalizowane i stowrozne pod bardzo konkretny cel. I to głównie projekty, które są softem, kodem odpalonym na wirtualnej maszynie. To nie żyje, to po prostu działa – i wykonuje konkretne zadanie. Ja wiem, że ludzie mają tendencję do antropomorfizowania wszystkiego, do nadawania temu “ludzkich cech” (znów: polecam wspomniane Ślepowidzenie, czy nawet Solaris wspominanego tez Lema), ale... nie dajcie się zwieść tak łatwo. ;)

 

@Mytrux

Z tego co pamiętam, to problemem jest wygenerowana energia wymagana do takiego uderzenia oraz jej  “kierunkowość”. Choć istnieją te bronie “mikrofalowe”, do obezwładniania tłumu. Tak czy inaczej – w głowie roi mi się od skojarzeń, że to technicznie jest (w tej chwili) raczej problematyczne.

Łatwiej działkami i karabinami. :D

Sprawa dość świeża: https://www.cnbc.com/2018/01/12/russia-says-it-eliminated-rebels-behind-swarm-drone-attack-in-syria.html 

Od razu zauważmy, że proces ten może być pozbawiony zdolności sterowania systemem – choćby posiadał złudzenie kontroli. W każdym razie nie wiadomo, czy samoświadomość usprawnia nas w istotnym stopniu. Peter Watts w “Ślepowidzeniu” bawi się pomysłem, że jest ona bardziej kulą u nogi.

No nie wiadomo. Trudna sprawa szczerze mówiąc. :) Ale dlatego to ciekawe. Niemniej podchodząc do rzeczy nie teoretycznie a praktycznie to można wysunąć argument taki, że ewolucja jako taka tworzy organizmy coraz lepiej przystosowane do otoczenia. Skoro powstała świadomość i jak na razie przynajmniej się utrzymuje, choć dość krótko z punktu widzenia ewolucji to był to nabytek ewolucyjnie przydatny, i tak patrząc na człowieka i jego miejsce w ekosystemie skuteczny. 

Co do Watts, Ślepowidzenie było ciekawe, mam jednak wrażenie, choć oczywiście wybitnie atropomorficzne, patrząc choćby na niektóre gatunki małp (bonobo) że świadomość, być może, jest cechą sine qua non po przekroczeniu pewnej "mocy obliczeniowej", tak chyba o ile pamiętam postulował Kurzweil. 

stn – w tej końcowej dygresyjce zawarłem jedynie pewne generalne spostrzeżenia. Jak miałaby powstać SI, którą zarysowałem, i jak wyglądałyby zespoły, które doprowadziłyby do jej wytworzenia – to zupełnie inna historia. Gdyby nie było to jasne – do filmików wcale się nie odnosiłem.

Skoro powstała świadomość i jak na razie przynajmniej się utrzymuje

Lis – Nie wiemy, czy się utrzymuje (może zanika?) ani jak długo towarzyszy organizmom biologicznym, bo nie wiemy nawet dokładnie, o czym mówimy i czy o tym samym :) Kłopot w tym, że wielu ludzi używa pojęcia (samo)świadomości, w ogóle go nie zdefiniowawszy. Ja przynajmniej spróbowałem. Przekroczenie mocy obliczeniowej – znany pomysł, tylko że dalej nie wiemy CO się pojawia. Więc idea trochę trudna do weryfikacji ;)

Zazwyczaj mówi się o świadomości jak o jakiejś wyjątkowej mocy i wiąże z wielką sprawnością umysłu (ale którą dokładnie?), z wolną wolą (czy ją mamy?), duszą (co to jest?) albo ze zdolnością rozpoznania swojego odbicia w lustrze (to przynajmniej coś konkretnego). W każdym razie człowiek ją posiada i jest “inteligentny”, zatem prawdziwa SI obyć się bez niej nie może ;) Słusznie co chwilę używamy w tej dyskusji słowa “antropomorfizm”.

Total recognition is cliché; total surprise is alienating.

Właśnie, trudno jednoznacznie stwierdzić, że samoświadomość jest przeceniana. Coś nas wyróżnia od pozostałych form biologicznych. Dając lustro robotowi, który widząc swoje odbicie, wypowie “to jestem JA”, nie możemy przecież jednoznacznie powiedzieć, że jest samoświadomy – po prostu ma zaprogramowany (przez programistę lub przez samoprogramującą się sieć n) swój obraz i zwraca parametr. Trzymam się, jak na razie, tego, że samoświadomość odgrywa kluczową rolę. A co, jeśli z jakiegoś powodu samoświadomość może być tylko atrybutem formy biologicznej?

albo ze zdolnością rozpoznania swojego odbicia w lustrze (to przynajmniej coś konkretnego).

Dając lustro robotowi, który widząc swoje odbicie, wypowie “to jestem JA”

Widzę w tym coś zabawnego i jednocześnie bardzo ciekawego, że rzeczywiście tak prosta, wydaje się, umiejętność, jak dobrze ujął to Blackburn,  pojawiła się w ewolucji tak późno. :)

Być może nie była potrzebna, przynajmniej na wcześniejszych etapach, w przekazywaniu kolejnym pokoleniom materiału genetycznego. Bo przecież tylko po temu służy człowiek, przynajmniej z punktu widzenia ewolucji. 

A jednak ta skaza lub moc, jak kto uważa, się pojawiła w przyrodzie.  Kiedy? Test lustra jest niezły. Ale są też inne. Na przykład obrazki naskalne, pierwsze formy sztuki itd. nie chcę się tu kłócić o definicje. 

Wracając do tematu. To dziwne, że niemal wszystkie istniejące na Ziemi stworzenia, są w stanie doskonale rozpoznać atrakcyjnego partnera płci przeciwnej, ale nie siebie w lustrze. :) Tak trochę hipotetyzując, przecież takie rozpoznanie nie wymagałoby dużo większych nakładów “neuronalnych”. 

Być może nie było na danym etapie potrzebne, albo też po prostu nie możliwe. Ale idąc tym tropem, znów nasuwa się wniosek, że świadomość okazała się po prostu ewolucyjnie korzystna. 

 

EDIT: Aha, tu należy dodać, że być może rozpoznawanie siebie w lustrze nie jest tak proste. Gdzieś powyżej jest filmik o tym jak A.I. nauczyło się rozpoznawać obrazy. Wymagało to olbrzymiej bazy obrazów i jednej z najbardziej zaawansowanych sieci neuronalnych. 

LIsie, a gdyby zmienić robotowi obudowę na inną, nie przypminającą czegoś, co zna, to byłby w stanie zwrócić „to jestem JA”? A gdyby to samo zrobić z człowiekiem, co by powiedział? 

Chociaż... Na ten problem też znalazłby się odpowiedni algorytm dla robota, żeby odpowiedział poprawnie, więc to też trochę naciągane. 

Dobre algorytmy, tak myślę, obejmą nawet zmianę obudowy :)

Nowa Fantastyka