Po co nam sztuczna inteligencja?

Proponuję, aby Autor zajawił artykuł w HP, w wątku Nowości w publicystyce.

"A jeden z synów - zresztą Cham - rzekł: Taką tacie radę dam: Róbmy swoje! Póki jeszcze ciut się chce! Róbmy swoje!" - by Wojciech Młynarski

Sporo błędów w tekście. Proponuję przejrzeć i poprawić.

Z artykułu emanuje nastrój obawy, a nawet strachu przed SI. Możliwe że przez liczne wizje fantastów, w których SI jest źródłem zła a nawet zagłady ludzkości. Trzeba pamiętać, że to tylko imaginacje twórców, nierzadko stworzone pod potrzeby rynku rozrywki, gdzie strach najlepiej się sprzedaje. Szkoda że w tekście nie ma rozważań nad pozytywnymi implikacjami stworzenia SI.

Czy przed zbudowaniem koparki powinien nas powstrzymać strach, że to jest zło? Przecież koparki są takie fajne i pomocne. Okej, może nie jest to najlepsze porównanie, bo koparkę należy raczej porównać do systemu eksperckiego niż SI. Ale wydaje się, że o to chodzi, żeby ułatwiać sobie życie, a SI może nam to dać. Uważam, że SI powstanie kiedyś i będzie nam służyło. Człowiek od zawsze chce mieć kogoś, kto wykona za niego prace. Ponadto SI może dać kopa w kolejnym etapie rozwoju cywilizacji, tak jak w ostatnich dekadach pomogły procesory, wykonujące obliczenia na takim poziomie i szybkości, że człowiek sam nie byłby tego zrobić. Czy można sobie wyobrazić życie bez procesorów? Oczywiście, ale kto chciałby tak żyć. Podobnie może być z SI.

Zastanawiam się, czy strach albo dylematy moralne są w stanie na dobre powstrzymać postęp. I wydaje mi się, że nie.

​

... życie jest przypadkiem szaleństwa, wymysłem wariata. Istnienie nie jest logiczne. (Clarice Lispector)

Blackburn napisałeś, że mój artykuł jest jednostronny, że widzę tylko same zagrożenia ze strony AI, ale to nie prawda. Mógłbym powiedzieć wiele na temat pożytecznej strony AI, mógłbym nawet napisać powieść o tym.

Piszę tu o ciemnej stronie AI, dlatego że widzę co się dzieje w świecie naukowym, widzę życie dokoła nas, a to wszystko nie napawa optymizmem.

Dobrze jest więc pomyśleć o tym wszystkim co by nas czekało, gdyby wszystko poszło źle.

Wprawdzie wszystko się kręci, wszystko gra jak dotychczas, ale jak długo jeszcze? A wystarczy przecież jeden błąd, jakiś pechowy zbieg okoliczności. Tak niestety jest.

Wierzę, że na świecie większość ludzi jest odpowiedzialna, ale...

No dobrze, już nie będę psuł wam humoru i dobrej zabawy, bo wiem, że ludzie tu są, żeby oderwać się od szarej codzienności, a tu przychodzi taki facet jak ja i truje.

Z tym masz częściowo rację Blackburn, że moje obawy wzięły się także z filmów katastroficznych, już nawet nie chce mi się ich oglądać.

Młody wiek, science-fiction mają swoje prawa, nie chcę psuć tej zabawy, może rzeczywiście powinienem pisać gdzie indziej, a nie tu, ale jestem od dawna związany emocjonalnie z Fantastyką, więc pozwólcie, że od czasu do czasu coś tu naskrobię...  Pozdrawiam wszystkich miłośników science-fiction.

Sowo, ależ pisz. To że mam odmienną opinię, w żadnym razie nie powinno Cię zniechęcać. Nikt nie przesądza, że to ja mam rację albo że jej nie mam. Różnice opinii są ciekawe, bo rozkręcają  dyskusje. 

Ciągle jednak towarzyszy ludziom wizja raju, czystego dobra samego w sobie i być może z tego powodu chcemy zbudować istotę lepszą od nas, niewrażliwą za pokusy zła, ale to by musiało oznaczać koniec homo sapiens.

Interesujące. Pomijasz ważny aspekt kryjący się za dążeniem do stworzenia sztucznej inteligencji – chęć życia wiecznego, i nie w raju czy innych zaświatach, a tutaj, w naszej szarej, ponurej rzeczywistości. Jeżeli naukowcy będą w stanie stworzyć SI, to istnieje spora szansa, że będą też w stanie emulować ludzki mózg, a więc zapewnić sobie rodzaj cyfrowej nieśmiertelności.

Poza tym, kto by nie chciał stworzyć życia?

@Blackburn

Czy można sobie wyobrazić życie bez procesorów? Oczywiście, ale kto chciałby tak żyć. Podobnie może być z SI.

To też trochę jednostronne. Szybki rozwój technologiczny robi niesamowite spustoszenie na poziomie społecznym i psychologicznym już teraz, a co by się działo, gdyby przyśpieszył znacząco za sprawą funkcjonowania SI, to aż strach pomyśleć (ale fajnie by było o tym napisać).

na emeryturze

Po co nam sztuczna inteligencja?

​W eksploracji otaczającego nas świata i dalszym rozwoju coraz bardziej dokuczają nam nasze ułomności. Potrzebujemy kogoś (bo już nie czegoś), kto nas wyręczy, komu nie zaszkodzi próżnia i promieniowanie, wysokie ciśnienie i temperatura, przeciążenia, kto się nie zestarzeje i nie umrze zanim dotrze do celu. Kogoś, kto nie potrzebuje tlenu, wody i żywności. Kogoś, kto się nie zmęczy, nie znudzi, nie będzie miał humorów, nie zdenerwuje i nie rzuci wszystkiego w cholerę.

Do zabijania sztucznej inteligencji nie potrzebujemy – ​dajemy sobie radę sami. Bawiący się w wojny potrzebują posłusznych, wykonujących rozkazy. Tam nadmiar inteligencji raczej przeszkadza, bo prowadzi do niesubordynacji. A że filmowcy straszą nas SI – ​no cóż, duchów i demonów już się nikt nie boi...

gary,

ano jednostronne, ale oczywiście jedna strona nigdy nie może istnieć bez drugiej, więc nie sposób odmówić słuszności stwierdzenia o spustoszeniu, bo widać je wokoło – pokolenie ludzi, którzy jako dzieci grali w kapsle, klasy, pikuty, potrafili tworzyć światy i historyjki mając w dłoniach tylko dwa patyczki... widzą tę zmianę. Ale czy to się dzieje przez cyfryzację? Hmm... może tak, a może przez nastawienie części społeczeństwa na zwykły konsumpcjonizm. Zresztą wydaje się, że od zawsze istniał podział na zjadaczy i konstruktorów-beneficjentów.

Wracając do SI. A jeśli człowiek ma po prostu swoje ograniczenia w poznawaniu? Jeśli nie jesteśmy w stanie przekroczyć tych ograniczeń (o czym częściowo napisał Unfall), to wciąż będzie nazywane spustoszeniem, jeśli będziemy korzystać z SI? Możliwe że żyjemy w okresie przejściowym a negatywne implikacje jeszcze się pogłębią i zrobimy kilka kroków w tył, może tak musi być do momentu, gdy... (chciałbym o tym napisać kiedyś, więc zamilknę). Tak, żyjemy w cyberpunku (to Twoje stwierdzenie, pamiętam :), ale wizja utknęła w jednym punkcie, a przecież musi być kolejny etap, a potem następny...

Jeśli wyszedł bełkot, to sorki, ale starałem się ukazać inny punkt widzenia – protechnologiczny.

Wydaje się, że cyborg, czy android dorównujący lub przewyższający nas inteligencją to jakiś zbytek, nie mówiąc już o zagrożeniu dla homo sapiens.

Co to inteligencja? Jak ją zmierzyć, czy w ogóle jest mierzalna?

Och, zostaw to IQ, serio. Testy na IQ mierzą tylko spostrzegawczość badanego, zdolność w wyszukiwaniu wzorców i jego (badanego) umiejętność rozwiązywania bardzo konkretnych zestawów zadań.

Tekst jest słaby. Nie mówię, byś sowo nie pisał nic więcej. Ale akurat ten stanął mi ością w gardle. ;c

Tak się składa, że przez zainteresowanie i zawodowo (abstrahując od codziennych, firmowych obowiązków, więc jako projekt poboczny) zajmuję się. w wolnych chwilach. uczeniem maszynowym i sieciami neuronowymi. A to dwa klocki do całej układanki SI. Śmiem się więc wypowiedzieć jako ten "egoistyczny naukowiec" z tekstu. :D

Dlaczego chcemy SI? Bo możemy. Ot, bo tak. I przede wszystkim – potrzebujemy jej!

Nie ma czegoś takiego jak "etyka" przy projektowaniu algorytmów uczenia maszynowego, konstruowaniu doskonalszych sieci neuronowych, czy też algorytmów klasyfikacji danych. SI składa się z mnóstwa malutkich klocuszków – popukltura strasznie wypaczyła w nas obraz narodzin (i wymogów z nimi związanych) sztucznej inteligencji. Łatkę etyki przyklejamy do gotowego produktu, do sztucznej istoty, która może nie mieć pojęcia, co z naszej perspektywy “jest etyczne”. A ta istota składa się w miliona składowych, które rozłożone i oceniane samodzielnie – nie mogą być tak oceniane, bo nie ma ku temu podstaw. Nie możemy nazywać algorytmu szukającego najkrótszej trasy, bo ta akurat, matematycznie, prowadziła przez mrowisko (zostało podeptane). Nie możemy nazywać algorytmu uczenia maszynowego nieetycznym, bo akurat w tej sytuacji, tego dnia, w tym środowisku, maszyna nauczyła się, że morderstwo może być opłacalne (na przykład broniąc własnego życia).

SI tak jak człowiek – uczył będzie się przez całe swoje życie. Oczywiście zacznie z pewną, startową, bazą danych. No ale, nadal będzie się uczył. Więc wszystko zależeć będzie od środowiska, w którym zacznie dojrzewać.

I tak, to prawda – istnieje coś takiego jak “wyścig szczurów”. Od 5000 lat, cała nasza cywilizacja jest na nim oparta.

Jeśli ja tego nie opatentuje jako pierwszy, to mój konkurent zostanie bogaty, będzie resztę życia spędzał w luksusach, a jego nazwisko, a nie moje, będzie pojawiać się w encyklopediach przez kolejne pięćset lat. Ludzie to drapieżniki. Kto pierwszy, ten lepszy.

Zło i dobro? Zdefiniuj! Tak naprawdę zależy to od punktu widzenia, czyli naszego punktu siedzenia. To, co dla naszego gatunku jest dobre, dla innego oznaczać może śmierć.

Czy uda nam się dogadać? To zależy od naszych i jej (SI) celów. O ile będą tożsame bądź sobie bliskie, to połączy z nami swoje siły. Jeśli zaś uzna, że to, co chcemy osiągnąć jest dla niej zagrożeniem – to wiadome, że powinna się bronić. Według mnie SI powinniśmy uznać za zwykły, żyjący byt, który może dzielić z nami pewne potrzeby i cele, lecz nie musi.

Wszystko zależeć będzie od samego początku jej istnienia, od tego czym wypchamy jej początkową, pierwotną bazę danych. Jak wszystko co się rozwija i jest rozumne, to musi się uczyć (albo mieć chociaż jakiś początkowy stan zależności/wspomnień w pamięci). Jeśli, jako twórcy, dobrze ten początek zaplanujemy, to przynajmniej przez pewną część życia tego cyfrowego czegoś powinniśmy trwać w zgodzie. Potem – cholera wie, to już jak wróżenie z fusów wylanych przez klucz w czasie Andrzejek).

Tak czy inaczej, to mój typ jest taki – SI zacznie rozgrywać nas, jako ludzi, pojedynczo, każdy kraj/skupisko interesów/wspólnotę polityczną i gospodarczą jako osobny pionek.

… jeśli jednak SI ubzdura sobie, że trwanie per se jest dla niej wartością ostateczną, to najpewniej po prostu “zamrozi” się, tak jak hibernujemy system, i póki nieruszana i niezagrożona – będzie tak trwać do “usranej” śmierci jej twórców (albo jeszcze dalej – np. śmierci cieplnej Wszechświata). :D

A jeśli nas wyprze, nas jako ludzkość? Zapytaj Darwina. Jako gatunek nie możemy do tego dopuścić, ale – z perspektywy SI może być to zwykły krok naprzód (tak jak my ubiliśmy neandertalczyka – ktoś się nimi teraz przejmuje?).

Jestem jak najbardziej ZA walką nad stworzeniem SI. Ale i świadomy zagrożeń. Wyjdzie, co wyjdzie. Zobaczymy.

Zresztą, SI uznam za “prawdziwą”, tylko i wyłącznie wtedy, kiedy razem ze mną zaśmieje się (rozumiejąc go!) z poniższego żartu:

Przychodzi matematyk do dziwki i mówi: “ciąg Fibonacciego”.

Nie ma czegoś takiego jak "etyka" przy projektowaniu algorytmów uczenia maszynowego, konstruowaniu doskonalszych sieci neuronowych, czy też algorytmów klasyfikacji danych.

To nie do końca prawda! Choć również, będąc “z branży”, rozumiem, co masz na myśli. Jednak nie zapominajmy chociażby, że w wielu przypadkach – w sposób pośredni, bądź bezpośredni – to człowiek decyduje o kształcie zbioru, na którym uczona jest sieć. A to tylko jeden z przykładów, a przecież cholernie ważny.  

"A jeden z synów - zresztą Cham - rzekł: Taką tacie radę dam: Róbmy swoje! Póki jeszcze ciut się chce! Róbmy swoje!" - by Wojciech Młynarski

Otóż to! A zestaw jak to zestaw, ilu zbierających dane i ile zastosowań, to tyle potencjalnych dróg rozwoju SI.

Głównym składnikiem ludzkiej inteligencji jest jej nieprzewidywalność. Nikt nie odważy się wypuścić maszyny, która będzie nieprzewidywalna w swoich działaniach. Ludziom niepotrzebne są maszyny, które „robią, co chcą”, lecz maszyny, które sprawnie i szybko (o wiele szybciej niż ludzie) wykonują określone działania w określonym czasie. W tym sensie ze „sztuczną inteligencją” mamy do czynienia od przynajmniej trzech dekad: programy szachowe, roboty w fabrykach, autopiloty w samolotach pasażerskich, systemy naprowadzania rakiet czy choćby komputery osobiste i sieć Internet. Ale to rzecz jasna nie jest jeszcze taka SI o jakiej pisałeś w swoim artykule, Drogi Sowo. To tylko bardzo rozbudowane i superszybkie liczydła podparte dobrym algorytmem, ale nie na pewno maszyny obdarzone sztuczną inteligencją z prawdziwego zdarzenia.

Do autentycznej SI jeszcze nam bardzo daleko. Sztuczna inteligencja musi posiadać zdolność nieliniowego uczenia się nowych pojęć na bazie tych, które już zostały wbudowane w zbiór danych. Musi posiadać również zdolność dostrzegania, wybierania i odróżniania tych, które są bezwartościowe od tych, które mogą być istotne i cenne (nie tylko tu i teraz, ale również w przyszłości). To już zupełnie inna półka manipulowania danymi, ale wciąż jeszcze wybiórczo osiągalna prz\y obecnym stanie wiedzy i technologii.

Drugim aspektem, o wiele trudniejszym do osiągnięcia, jest warunek samoświadomości. Maszyna musi rozumieć, że jest istniejącym bytem, bytem który może zachowywać się autonomicznie, broniąc swojego prawa do wolności wyboru i istnienia. Maszyna, która będzie miała świadomość siebie i która będzie w stanie uczyć się nowych pojęć – to dopiero będzie SI z prawdziwego zdarzenia i do takiej SI jeszcze nam daleko. Żaden nawet najmocniejszy superkomputer nie jest w stanie odtworzyć zachowania ludzkiego mózgu, z całą złożonością i nieliniowością procesu poznawania i uczenia się nowych rzeczy. Barierą jest moc obecnie dostępnych układów obliczeniowych i szybkość pobierania informacji z banków danych (czytaj twardych dysków). Obecne procesory doszły do granicy swoich możliwości. Już nie da się więcej upakować tranzystorów na płytkach. Kluczem wydają się nanotechnologie, te jednak wciąż są zbyt drogie aby można je było zastosować do projektowania procesorów ogólnego zastosowania.

Zatem barierą jest wciąż technologia. Nie jesteśmy w stanie wykonać cybernetycznej kopii mózgu, nie dysponujemy takimi procesorami, które mogłyby zasymulować działania świadomości. To jednak, że nie potrafimy tego dzisiaj nie oznacza, że nie nauczymy się tego w ciągu następnych pięćdziesięciu / stu lat.

Dodatkowym aspektem jest znalezienie algorytmów, które w sensowny sposób mogłyby naśladować działanie ludzkiego mózgu i sposobu, w ajki owe algorytmy byłyby załadowane do cyfrowej sieci neuronowej. Barierą jest samo programowanie maszynowe, które w dużej mierze oparte jest na przewidywalnych i skończonych algorytmach. SI może tu wybierać pomiędzy jedynką a zerem, a to zdecydowanie za mało, żeby mówić o czymś, co choćby w niewielkiej części przypominałoby ludzką inteligencję, która bazuje na algorytmie „teraz nie wiem, ale w przyszłości się dowiem”. Pamiętajmy, że nawet tak doskonałe narzędzie jak ludzki mózg potrzebuje kilkunastu lat, żeby nauczyć się w pełni funkcjonować i prawidłowo interpretować otaczającą rzeczywistość.

Reasumując, Drogi Autorze, wbrew pozorom barier jest więcej niż przetartych dróg. Oczywiście, nauka wciąż idzie do przodu i jestem przekonany, że już niedługo pojawią się następne generacje procesorów, pamięci masowych, czujników sensorycznych itd., itp. Ale póki co, nie ma się za bardzo czym martwić. No chyba, że jakiś system przeciwrakietowy uzna rosyjski/amerykański samolot za wrogą rakietę balistyczną i rozpocznie się trzecia wojna światowa. Ale to raczej mało prawdopodobny scenariusz, dopóki wystrzelenie takowej rakiety trzeba będzie potwierdzić pinem z generalskiego kapownika ; )

...always look on the bright side of life ; )

Dlaczego SI musi posiadać samoświadomość?

Żaden nawet najmocniejszy superkomputer nie jest w stanie odtworzyć zachowania ludzkiego mózgu, z całą złożonością i nieliniowością procesu poznawania i uczenia się nowych rzeczy.

100% racji. I prawdopodobnie to nie komputer, w dzisiejszym tego słowa znaczeniu, zbliży się do tego efektu. Zresztą technologie, które mogą stać się przełomem już są testowane.

Współczesne systemy informatyczne (nie tylko SI) korzystają z algorytmów heurystycznych, niedeterministycznych, itp. Już dziś żyjemy w rzeczywistości technicznej, w której nie zawsze jesteśmy w stanie przewidzieć efekt działania algorytmu. Mało tego, rezultaty uzyskane dla tych samych danych wejściowych w dwóch procesach przetwarzania wykonanych przez ten sam system nie muszą być identyczne.

SI wcale nie musi wybierać pomiędzy “1” i “0” pomimo, że głęboko, pod kolejnymi warstwami abstrakcji są miriady elementów dwustanowych. Choć oczywiście klasyczne układy cyfrowe płacą za symulowanie analogowych domen wydatkiem mocy obliczeniowej, dodatkowo borykając się, w niektórych przypadkach, z problemami związanymi z błędami kwantyzacji.

A poza wszystkim, myślę że poważne zmiany związane z szeroko pojętą SI, czekają nas znacznie wcześniej, niż większość sądzi. Czy jest się czym martwić? Każdy przełom technologiczny wywraca rzeczywistość. Niektórzy na tym wygrywają, inni ponoszą straty. Jedyne co się zmienia to tempo przemian, które stale rośnie. Będzie mało czasu na przystosowanie się...

"A jeden z synów - zresztą Cham - rzekł: Taką tacie radę dam: Róbmy swoje! Póki jeszcze ciut się chce! Róbmy swoje!" - by Wojciech Młynarski

Czy sztuczna inteligencja musi posiadać świadomość? Oczywiście, że nie. Ale w potocznym przekonaniu tak właśnie powinno być. Bo skoro mamy coś, co w samej nazwie zawiera komponent inteligencji, z automatu łączymy to z ludzkim sposobem przetwarzania informacji, a ściślej pisząc z „mózgowym algorytmem segregowania i wykorzystywania danych”. O takiej uczłowieczonej wersji SI potocznie marzymy, o takiej piszemy w swoich opowiadaniach, nad taką głowią się naukowcy. Czy potrzebnie?

Zaryzykowałbym twierdzenie, że SI nie powinno posiadać komponentu samoświadomości, bo maszyna lub system wyposażony w taki komponent mogłaby sprowadzić na ludzkość śmiertelne zagrożenie. Świadomość jest nieprzewidywalna, a ludzkość nie potrzebuje nieprzewidywalnych maszyn. Ergo: sztuczna inteligencja nie może, ani nawet nie powinna przypominać ludzkiej inteligencji. Powinna raczej pomagać, wspierać tam, gdzie ludzki mózg jest mniej wydajny, mniej cierpliwy. Komputery liczą szybciej od nas, nie meczą się i nie mylą – czemu tego nie wykorzystać? ; ) Patrząc na rozwój technologii z takiej perspektywy ze „sztuczną inteligencją” mamy do czynienia od wielu dekad. I w sumie to nam powinno wystarczyć. Gonienie za SI przypominającą działanie człowieczego mózgu bardziej wynika z cywilizacyjnego narcyzmu niż z realnej potrzeby. I przed taką SI przestrzegał nas Stanley Kubrick w swoim słynnym filmie Odyseja Kosmiczna.

A teraz dygresja : ) Dla mnie najciekawszym aktualnie przejawem sztucznej inteligencji jest… Internet. Posiada on wszelkie cechy systemu, który może być uznany za układ SI. Przypomina sieć neuronów, działa na podobnej zasadzie. Dane wpompowywane są do układu przez ludzi, ale sieć sama potrafi je segregować, przetwarzać, przesyłać. Może nie robi tego idealnie, ale posiada dużą wydajność i nie jest podatna na uszkodzenia. Wygląda na to, że Internet posiada cechy samoregulacyjne podobne do tych, które posiada ludzka sieć neuronowa: brakujące routery są zastępowane innymi aktualnie dostępnymi – i tak oto informacja zawsze dociera do adresata, choć geograficzna ścieżka jaką przebywa pakiet danych za każdym razem może być inna. I wszystko to dzieje się automatycznie, bez ingerencji człowieka!

Fascynuje mnie ten proces przesyłania informacji z drugiego końca świata do wygłodzonej gardzieli mojej przeglądarki internetowej. Od serwera, poprzez sieć routerów – wprost na unikalny adres IP urządzenia. Błyskawicznie i raczej bezbłędnie. Za każdym razem inną drogą, ale zawsze do celu. Niezwykłe osiągnięcie ludzkiej cywilizacji, które już na zawsze przeobraziło naszą mentalność i sposób myślenia o świecie.

Być może to właśnie Internet w przyszłości przejmie cechy super inteligencji, ogólnoświatowego SI: niezniszczalnego, samoregulującego się cybernetycznego organizmu, generującego własne myśli i sądy o rzeczywistości. Ale to już SF z nieco wyższej półki. Pozdrawiam serdecznie interlokutorów : )

...always look on the bright side of life ; )

Fakt, Internet posiada pewne cechy układu neurologicznego, ale tylko w zakresie topologii. Nie sądzę, żeby miał potencjał przekształcenia się w super SI. Ale pomysł jest nośny i był już wykorzystywany wielokrotnie w twórczości różnej. 

"A jeden z synów - zresztą Cham - rzekł: Taką tacie radę dam: Róbmy swoje! Póki jeszcze ciut się chce! Róbmy swoje!" - by Wojciech Młynarski