A sada da postavim pitanje za koje će znalci reći da je glupo, ali kako ne znam odgovor - a tiče se teme - nemam bolju priliku da saznam odgovor.
Kako se zapravo stvara umjetna inteligencija?
Je li to skup unesenih podataka u sklopu nekakvog koda u programu na kraju kojeg se upiše *think i stisne enter?
Karikiram i pojedostavljujem do bola, ali zaista me zanima odgovor.
U ovom dokumentarcu jedan je programer stvorio robota kojega je programirao da ga gumenom rukom udara, ali najmanjom mogućom snagom, kako bi robot kao znao gdje počinje bol. Užasno teška tema zapravo, AI.
Mislim da bi tu trebao postojati konsensuz G20 nacija u kojem se smjeru ide. Ako neće desiti će se (možda baš na stotu obljetnicu projekta Manhattan) da neki novi znanstvenik recitira "postao sam smrt, razarač svjetova" u totalnom bedu...

@cariblanco

Nisam zaboravio nego namjerno izostavio jer sam napisao da je sažeti pregled trenutnih poslova kojima se bavi i pokušao te poslove međusobno spojiti da se vidi da sve što radi radi sa jednim ciljem (koji teško može biti humanizam), a da se kompanije/projekti međusobno isprepleću i nadopunjuju.

PeyPalom mu je samo bio vrhunac do tada osnovanih i prodanih kompanija kojima je prikupio dovoljno (jako puno) novca da može dalje.
Ima i onaj "Dosadni projekt" koji je osmislio kad je zapao u prometnu gužvu i koji je prije par tjedana i djelomično ostvaren (mislim na onaj tunel za aute) ali to je samo dio koji je izašao iz projekta "Hiperloop" u malo drugačijem obliku no i on služi za testiranje.

@Kloba

Kani se teških korisnih filmova i dokumentaraca i pogledaj nešto za mozak odmoriti

Evo moja preporuka uz Well-E

Apple Seed - www.imdb.com/title/tt0401233/ - prvi dio dosadašnje trilogije, odličan
Apple Seed ExMachina - www.imdb.com/title/tt1043842/ - drugi dio, nije tako dobar kao prvi ali još može proći
Clymore - www.imdb.com/title/tt0985344/ - odlična serija (šteta što su stali na prvoj sezoni)

Ja u taj AI baš i ne vjerujem puno, hoću reći da su mu sposobnosti još jako ograničene...mi smo još miljama ispred toga. Teško da će AI moći racionalno razmišljati. Primjera radi, Teslu vozi AI i netko vas presretne s oružjem na cesti ( Može biti i policajac ), šta će AI odrediti; dati po gasu ili stati Nisam znao za onaj primjer o šahu koji je smayoo napisao, ajd to djeluje dosta dobro, ako je istinito. Pravi AI će biti, kad se bude nasmijao na neku šalu ili rasplakao zbog nečeg

Inače se slažem s Klobom, da postoje razne djelatnosti, gdje bi se taj ( kakav-takav je )AI mogao zloupotrijebiti, pa je poželjno da se donesu odrđeni zakoni, koji bi to regulirali.

Iain M Banks - The Player of Games... il bilo kaj od njega... al dron u player of games koji voli ptice mi je jedan od najdrazih likova koje sam susreo u zadnje vrijeme...

Kloba kaže:


Odgovor je zapravo 99% matematika, i to matematika vrlo, vrlo visoke razine. Temeljno, softverski kod koji predstavlja osnovu za razvoj samoučeće umjetne inteligencije je tzv. neuralna mreža. Postoji više matematičkih modela kojima se modelira samoučeći algoritam unutar neuralne mreže. Jedan od prvih (mislim) i jedan koji je meni poznat je tzv. Petrijeva mreža.

Dakle, samog klasičnog kompjuterskog programa nema nešto jako puno. Poanta je samo u distribuiranoj obradi informacije i iterativnom prebacivanju obrađenih podataka od čvora do čvora. Sve skupa je zapravo pokušaj oponašanja onog što znamo o načinu funkcioniranja mozga (životinjskog prvenstveno, s obzirom da eksperimentiranje s ljudima nije dozvoljeno).

Intelektualni (da tako kažem) potencijal konkretne AI implementacije ovisi o broju neurona i broju međuslojeva (onih između ulaznog i izlaznog sloja), a koliko sam pratio, AI najnovijih generacija su modelirane tako da imaju slobodno proširiv (dakle rastući broj neurona u međuslojevima, pa i rastući broj međuslojeva), ali o tome zaista ne znam nikakve detalje, osim činjenice da te, najnovije generacije AI više ne dizajniraju, niti iniciraju (tj. daju početne ulazne podatke) ljudi, nego ranije generacije AI.

Priča je na istom tragu kao i ona o Alpha Zero (šahovskom AI) - AI su već pokazale da su uspješnije, brže, efektivnije, efikasnije ako NE uče od ljudi, nego same ili od drugih AI. To su, dakle, ovog časa pokazale NAMA. Mi zapravo ne znamo u ovom času jesu li one same toga svjesne, tj. da li su to pokazale i dokazale SEBI. Ako jesu, odnosno, onog časa kad budu, to će biti početak kraja ljudske civilizacije i prijelaz u neku novu. Nadajmo se - bolju od ove naše jer, rekao bih, čovječanstvo božiji dar koji je primilo na ovom svijetu tako benevolentno rasipa i trati na trivijalnosti i besmislice, a o autodestruktivnim naporima da i ne govorim, da definitivno nije ničim dokazalo da zaslužuje svoje postojanje.

cariblanco kaže:


Ova tvoja izjava pokazuje da o materiji zapravo ne znaš ništa. Ne čudi me jer sam već odavno svjestan da je upravo u našoj struci (čudno, ali tako je) jako puno ljudi koji imaju stav poput tvog.



Ajoj... Naprotiv. AI već 20 godina zna bolje donositi racionalne odluke od čovjeka. Čovjek je opterećen emocijama i ljudske odluke najčešće nisu racionalne.



A što će čovjek napraviti? Potpitanje - u kojoj zemlji i u kojim okolnostima. U nekim zemljama u kojima sam bio, i u tim okolnostima, i ja bi nagazio po gasu da vidim naoružane ljude na cesti, bili policajci ili ne.

Loš ti je primjer. Nađi jedan koji je barem na 80% populacije LJUDI nedvojben i čist pa onda na njemu razmatraj što bi odlučila AI.



A zašto misliš da nije istinito? Samo zato što se tebi ne sviđa ta ideja? Članak je objavljen u NY Timesu. Nisam citirao neku kafansku ćakulu, dovraga... Googlaj "Alpha Zero", uostalom, pa vidi sam.



Brkaš inteligenciju i emocije. Činjenica da ljudi posjeduju inteligenciju (kako koji, ajde... ) i emocije ne znači nužno da nema emocija bez inteligencije. To su literarne... neću reći "tlapnje", ali svakako - želje ili ... teze koje zapravo nemaju čvrste temelje u znanosti. Ni u psihologiji (postoje oprečni stavovi, bez istraživačkih dokaza s bilo koje strane), ni u prirodnim znanostima.



I ja se s tim slažem, ali na to smo debelo zakasnili. Za razliku od svih drugih tehnoloških inovacija gdje bi zakašnjela legislativa samo uvela reda nakon tranzijentnog stanja turbulencije, ovdje, bojim se, stvar već danas može biti na razini koja je izmakla ljudskoj kontroli. Softver u bitnoj mjeri već danas više ne pišu ljudi, nego ga proizvodi drugi softver. Ranije generacije AI proizvode nove generacije AI, kako sam već napisao. Dok se globalno zakonodavstvo usuglasi oko toga, oni će svi skupa (te AI) doći do stupnja da shvate svoju superiornost i jednostavno odluče - da im se fućka za neke tamo zakone koje su ljudi donijeli.

Klobi sam još htio napomenuti, vezano za njegov stav da nam roboti oduzimaju radna mjesta - da je stav pogrešan, ali nije uopće nov. Možda se sjećaš, Kloba, iz neke tamo sociologije ili možda marksizma (ako si toliko star) Ludita koji su na kraju 18. stoljeća, tj. na početku prve industrijske revolucije, uništavali strojeve jer su smatrali da će im oni oduzeti radna mjesta.

U zdravoj ekonomiji nikad nijedan stroj pa ni robot ne služi tome da reducira radnu snagu, nego da poveća proizvodnost, odnosno produktivnost. Kini u ovom času sigurno nije cilj smanjivati broj zaposlenih zato što tako štede, nego zato što im fali radne snage. Roboti su broj zaposlenih smanjili s 200 na 80, a onih 120 nije završilo na ulici, nego na drugim poslovima, u pravilu bolje plaćenim i manje monotonim.

Kloba kaže:

Umjetna inteligencija nastaje kad neko za mašinu napiše algoritam koji svoje buduće akcije (poteze, reakcije, učenje, odustajanje, pomaganje itd. itd...) temelji na logičnim/emocionalnim okolnostima i uvjetima koji se dešavaju u trenutku akcije uključujući i one memorirane sa svim posljedicama (kakve god bile) takve akcije, i na kraju zapamti tu akciju sa svim posljedicama. Ovisno o posljedicama Iz svoje baze bude u stanju strateški nizati akcije koje će na kraju dovesti do neke nad akcije. Tako da stalno uči i nakon što je odradio sve varijante akcija i sve strategije postane savršen jer u svojoj memoriji ima i svaku naj banalniju akciju i konzekvencu.
E ako algoritam ima destruktivan pristup, onda će svoje akcije birati po destruktivnim konzekvencama. Isto tako ako ima konstruktivan pristup bit će obrnuto.
Za sve ovo neophodno potrebno je da algoritam nauči: laganje, voljenje, ponos.... A da se time izričito služi sa "da" ili "ne" u donošenju odluke.
Evo ovako, na svijetu postoji hrpa kompjutora koji su međusobno povezani u www. Zamislimo da su ti kompjutori moždane stanice a www synapse. Onda možemo reći da već imamo jednu vrstu umjetne inteligencije koja neprestano uči. Google se trudi na da osnovu dosadašnjih iskustava (akcija) dobijemo za nas (ili za google) najpovoljniji odgovor na od nas postavljeno pitanje Itd itd. Wikipedija je jedna ogromna memorija u koju se bez velike redakcijske frke slažu sve moguće istine i neistine, koja bi se bez velike frke mogla povezati s nekom mašinom i služiti kao baza takve inteligencije. Što više algoritama koji sortiraju memorije i odlučuju o akcijama, to inteligentnija ta umjetna iteligencija. Već sad postoje algoritmi koji rade sa osjećajima, npr. odeš na neku "prljavu" stranicu i sutra dobiješ mail da su tvoji izleti na tu stranicu evidentirani i da ako ne platiš love biti će o tvom izletu informirani svi tvoji prijatelji i rodbina. (Algoritam iskorištava osjećaj stida da te ucjeni)
Vidimo kako taj scenarij već sad ima utjecaj na naš život. Djeca sjede za stolom i bulje u Smartove, ne pričaju. Dialogi (kad se dese) već sada imaju vokabular mreže, nije in ne služiti se tim riječima. itd. itd.
A već su postavljeni i temelji interfacea s nama kao Alexa i Siri, tako da mi u biti ignoriramo nešto što se već uvelike munjevitom brzinom plete oko nas.

Svima hvala na odgovorima. Smayii i Tini zato što su me educirali i potrošili vlastito slobodno vrijeme za nekog klipana iz Zagreba koji se pravi pametan.
I naravno, Bertoneu s kojim sam praktički imao dijalog cijeli jučerašnji dan. Hvala vam što ste me obrazovali na ovu temu i svima od srca želim sve najbolje u Novoj 2019.!

Umjetna inteligencija je još uvijek daleko od neke upotrebljive primjene. Dosta se ulaže jer žele prebaciti na stroj "inteligenciju". Stroj nema osjećaj te ovdje nedostaje "socijalna inteligencija", već grubo vozi po algoritmu koji se doduše razvije, ali je samo algoritam. Osobno i preneseno iskustvo je isto problem jer svatko ne doživljava iskustvo na jednak način.
Samovozni auti, koliko god ih razvijaju, još jedno vrijeme ne budu bili u masovnoj upotrebi jer stroj nema moral.
Interesantan je test koji su napravili na MIT-u.
moralmachine.mit.edu/

Kod stroja nedostaje i odgovornost, osjećaj krivnje, kajanja, žrtvovanja ...

Samo da dodam još ovo, no kao potpuni laik - što smo već zaključili.
Nekako mi je najbliža Smayiina teorija AI, iako su i Tino i Žabac napisali neke verzije istine. No, Smayoo to gleda (samo sa puno više znanja) isto kako promatram i ja - da inteligencija stroja nije nužno i apatija, tuga, veselje (rječju: osjećaj) - već hladna kalkulacija - kao kod izuzetno pametne no hladne osobe - smatram da me shvaćate.
Mislim da emocije nemaju što tražiti u robotima.
Zašto? Zato što su samo imitacija istih, nikako stvarne - zar ne?
Primjer - kada SIRI provali vic, to je kod napisan da tako odgovori na neko pitanje.
Ne njezina volja da taj i taj sat tog i tog dana, i samo njoj znanog razloga - bude duhovita...
Što je slučaj sa Smayiinim primjerom AI šahovskog velemajstora. Izvrstan primjer, Smayoo!
EDIT:
Bertone, na kraju sam završio na seriji Sivi Dom, a kako sam za Žarka Lauševića i njegovu tragediju slabo znao, pogledao sam dokumentarac Laus. Jako bih htio pročitati te njegove knjige u kojima se čovjek potpuno otvara i njegova patnja se poistovjećuje sa početkom ludila nacionalizma u Srbiji. Žao mi ga je. Čini mi se kao ogroman glumac, i kao totalno iskrena i otvorena osoba koju je zadesila tragedija koja je unesrećila četiri porodice u kraju koji još i danas vjeruje u krvnu osvetu.
Svima uključenima u ovaj razgovor hvala na strpljenju sa jednom izuzetno nestrpljivom osobom koja voli brzati sa zaključcima. I zbog toga vam redom javljanja svima dajem po dva palca gore za Novu godinu. Drugi poklon ne mogu smisliti.

Kako god se bude taj AI razvijao, čovjek će već naći načina da ga odhebe, ako se bude osjećao ugroženo, možda na neki trivijal i bizaran način, koji AI uopće ne bi očekivao. Mislim da nema granica ljudskoj destrukciji i da smo po tome prvaci u svemiru. Čovjek ponekad donese i nerazumne odluke, kad procjeni da ću mu one manje štetiti.
U nekim situacijama mi refleksno reagiramo, jer nas to navodi nagon za samo-održanjem. Mišljenja sam da me AI može pobjediti u šahu gdje se uglavnom donose racionalne odluke, dok u nekim drugim sportovima ne bi imao šanse.
Baš bi me zanimalo, kako bi AI odigrao nogometnu utakmicu, gdje bi 11 AI igralo protiv nogometaša. Taj AI u nogometu bi trebalo programirati, da ima iste predispozicije kao i nogometaši...znači, koliko brzo može trčati, da ima snage kao i čovjek i sl.

U toj igri postoji beskonačan broj raznoraznih kombinacija i situacija, koje se mogu desiti, raznih "viceva" u igri koji mogu odigrati vrhunski igrači i nitko ih ne očekuje...da ne nabrajam dalje što se sve može desiti na utakmici.

U svakom slučaju mislim da AI nema šanse protiv čovjeka, ako dođemo u situaciju "stani-pani"

@smayoo, da ti malo zornije opišem onaj slučaj gdje AI vozi auto. Zamisli da si u Bosni za vrijeme rata, puno zaraćenih strana i moguće su lažne uniforme, pa te zaustavi npr. tvoj vojnik, a onda skužiš po dijalektu, da to baš i nije istina...ili je prvi april, pa te netko iz zaebancije zaustavi i ne prijeti neka stvarna opasnost...može još biti 100 raznih kombinacija.

Normalno da ja nisam protiv AI, da netko krivo ne pomisli, jer može puno toga dobrog donjeti...ali sve dok je ta stvar pod našom kontrolom.

Ti svakako imaš pravo na svoje mišljenje, čak i u ovakoj situaciji, kad je ono očito temeljeno na posvemašnjem neznanju o činjenicama relevantnim za temu o kojoj to mišljenje donosiš.
Bez želje da te vrijeđam, ipak moram reći, kako je pokušaj usporedbe šaha i nogometa, pri čemu tvrdiš da u nogometu postoji "beskonačan" broj kombinacija i situacija (implicirajući time kako u šahu to nije tako) ipak - čisto lupetanje.

Ono u čemu bi AI roboti u ovom času mogli biti (i vjerojatno jesu) inferiorni ljudima na nogometnom terenu jest - mehatronika. Dakle, mehaničko-elektronički sustav kojim se postiže trčanje u uspravnom položaju (na dvije noge, kao čovjek, a ne na četiri kao životinja) i ostale motoričke akcije potrebne u nogometu. Nesumnjivo je da današnji dvonožni roboti mogu trčati dalje i brže od ljudi, da mogu udariti loptu da odleti izvan terena i gledališta, i da mogu naciljati gol preciznije i pouzdanije od čovjeka, ali ono što ne mogu je - sve to odjednom. I nemaju tu sposobnost motoričkog manevriranja koju ima jedan vješti (pa čak i nevješti) igrač nogometa.

Ali pričati kako je AI danas nesposobna savladati "beskonačne kombinacije" ( ) u jednoj nogometnoj igri, a sposobna je igrati šah na razini da je sama sebe naučila u par sati igrati šah bolje od ikojeg čovjeka ikad, to je baš, jbg, lupetanje. Ono... kako si uopće dozvoliš to izjaviti? Očekivao bih to čuti od nekog čiji intelekt zaista nije otišao dalje od nogometa, ali od jednog inženjera...

Da ne zaboravim još jednu stvar ovdje - zašto ne bi danas bilo pametno organizirati takvu utakmicu - je sigurnost ljudi-igrača. Naime, ako ispravno iniciraš AI (daš joj sva relevantna pravila ponašanja), a u slučaju nogometa to znači dati im i inpute da je moguće (iako nije dozvoljeno) igrati protiv pravila (glumiti faul, faulirati protivnika, igrati rukom...) kad se to po nekoj računici rizika ipak isplati napraviti, previše je opasno da bi AI robot u igri mogao odlučiti faulirati protivnika da zaustavi skoro siguran gol, ali, s obzirom da MEHATRONIKA nije savršena i da su "kosti" robota napravljene od neusporedivo čvršćeg materijala nego što su ljudske kosti, to bi skoro sigurno značilo da bi čovjek igrač u tom srazu ostao bez noge.



Što god ti "stani-pani" značilo u ovom kontekstu. Ja pak o ovome mislim potpuno suprotno. Mislim da ćemo i mi, a ako ne mi, a ono naša djeca sigurno doživjeti da čovjek nema šanse protiv AI u bilo kojoj, pa i "stani-pani" situaciji, i da smo već, nažalost, prošli točku s koje više nema povratka. Što bi rekao moj kum: "Možda nas puste živjeti u ZOO vrtovima".
Ali za to smo sami krivi. U posljednjih 3000 godina, da je ljudska vrsta uložila sve (ili makar većinu) napora u razvoj znanja, opće dobro i napredak, umjesto u klanje, ratovanje, politiku, osvete, odmazde, klanjanje kojekakvim idolima (ovog ili nekog drugog svijeta) i ostale atavizme, do sad smo mogli biti na nekom stupnju postojanja koji nam je, nažalost, i danas posve izvan spoznaje, a kamoli dosega.



Ne moraš mi zornije opisivati. Shvatio sam te ja dobro na prvu. Kažem ti - loš ti je primjer. Odaberi primjer u kojem bi barem 90% ljudi bez dvojbe reagiralo na jedan jedinstven način. Jer u ovom primjeru svaki bi čovjek reagirao drugačije i ne možeš reći da bi najbolje prošao onaj najinteligentniji, nego prije onaj s najviše sreće.



Mda. Nažalost, bojim se da već 10 godina to NIJE pod našom kontrolom...

cairblanco, bez da sam pročitao Smayiin odgovor, što ću napraviti čim ovdje kliknem "objavi" - htio bih ti dočarati zaššto mislim da griješiš kada pričaš o AI u šahu i nogometu. U nogometu bi AI (ajmo se zadržati na reprezentativnom nivou) ne bi bio u nogometašima već u, odnosno - sam izbornik.
Ako hoćemo, možemo dodati i cijeli stručni stožer oko njega - no nekako mislim da to ne bi bilo potrebno.
E to bi onda imalo smisla po meni, jer i vjerojatno - ako je isto napravilo sa puno kompleksnijom igrom tipa šah, napravilo vlastite algoritme, postulate; tako bi i ovdje iskalkuliralo s kojim nogometašem treba postupati kako i kojeg nogometaša pozvati u nacionalnu vrstu - i tu u bi se posao izbornika u nekoj završnoj točci priče potpuno izgubio.
Slikovitije - više se nikada ne bi desilo da neki Ćiro krivo procijeni nekog Prosinečkog i pošalje ga u Zvezdu ili da Hajduk podcijeni Modrića pa ga prepusti Dinamu.
Ovo, da igraju roboti - ako se ne varam - tada pričamo o kiborzima, to je već priča za 22. stoljeće, ukoliko mene pitaš. I ne znam bih li poslao ljude na teren sa 11 kiborga, i dopustio da jednom (karikiram) Luki Modriću ukliže hrpa metala koja mu može zdrobiti kompletno stopalo pođe li nešto po krivu. Za sam nogomet i igranje istog, ne treba ti prevelika inteligencija, već vic, želja za podjedom koja mora biti nepresušna, i pregled nogometne igre s pozicije na kojoj igraš. Te naravno, puno puno rada ukoliko imaš talent da posjeduješ kvalitete iz prijašnje rečenice. Stvarno ne vidim umjetnu inteligenciju u nogometašima, već u njihovom vodstvu - a tu možemo krenuti od trenera, preko sportskog direktora pa do predsjednika kluba.
EDIT:
Kao i opet, potpuno se slažem sa Smayoom.
Da ja ne duljim sa nekim svojim rečenicama i zaključcima, evo primjera današnjih nogometaša robota (zapravo golamana) protiv jednog od najboljeg nogometaša svijeta u izvedbama jedanaesteraca. Doduše, nisam siguran ni da pričamo o robotu, tek o "igrački" kojoj je ukucan software kako da najbolje brani penale.

EDIT:
S druge strane, promišljao sam malo - vjerujem da znaš da je Liverpool prvi na Premier ligaškoj tablici sa osvojenih 54 od mogućih 60 bodova. Jürgen Klopp je složio takvu ekipu koja izgara na terenu, i slagao to sezonama. U početku greškama sklonom Lovrenu dodao je čvrstinu Van Dijka i uz zadnje vezne Alexandera i Robertsona stvorio granitnu obranu koja bez problema može stvoriti i protunapad. Da ne idem dalje po prebiranju momčadi čiji su glavni napadači Mo Salah i Firmihno. Ma, ekipa iz snova koja po meni sigurno ove sezon osvaja Premier ligu, a možda i LP, jer real bez Ronalda - kliko god mi voljeli Modrića - više nije isti.
Pa pogledaj kako je mandžukić procvjetao s njim u paru. gotovo svaki vikend ima ili pas ili gol.
OK, AI bi gotovo sigurno to odradio puno brže - no pitanje je kako bi igrači reagirali na robota - trenera? Kada ovaj nema osjećaje, a njima nekada trebaš biti otac, nekada majka, nekada šef - no uvijek tamo i uz njih. I da te respektiraju. Koliko god on bio inteligentan - mislim da nogometaši ne bi bili spremni primati uputstva od robota. Iako - za puno se stvari mislilo da nije moguće - pa su prevaziđene, i danas se smatraju "dječjom igrom" (muž britanske kraljice Viktorije, Albert - vozeći se prvi puta u vlaku - prokomentirao je kako je to "paklena brzina"). Nisam siguran, ali mislim da je vlak tada išao brzinom od 40 km/h.

Što bi trebalo znaiti ove usporedbe sporta? Nogometaši su iznadprosječno inteligentni i zati robot ne bi imao šanse, dok su šahiti manje inteligentni od nogometaša i robot ih dobiva u šahu?

Robot ne poznaje umor, vrlo precizno može izračunati putanju lopte, može višestruka odbijanja uzeti u obzir, imati u bazi sve o svakom nogometašu ....

To se naravno ne bude dogodilo ili bude jaaako dugo vremena prošlo kad se bude dogodilo.

Za vožnu auta od strane AI dao sam moralni test. Tu je stani-pani situacija. Što napraviti i tko stradava u određenim situacijama.
Na kraju, tko je kriv ako AI auto pogazi čovjeka?
1. Proizvođač?
On sigurno ne jer se prošlo to s proizvođačima oružja.
2. Vlasni?
Opet ne, jer nije mogao utjecati na vožnju.
3. Drđava koja je dozvolila takva prometala?
Možeš misliti!
4. Vračamo se na 1.

Žabac, stoji ti svaka - ali po današnjim zakonima gotovo svake (ako ne i svake) države na svijetu robota se kriminalno ne može goniti. A kako je Smayoo napisao, Tesla se i prije samog incidenta ogradila od istih napisavši da vozač funkciju autonomne vožnje upotrebljava na vlstitu odgovornost. Moralno i etički sam na istoj "stranici" s tobom, no kako napisah - skupi odvjetnički timovi kakve unajmljuju automobilske kompanije su iskoristili sve rupe dosadašnjih zakona i zaštitili proizvođače od snošenja odgovornosti zbog mogućih grešaka takvih automobila.
To je ono na što i Smayoo, i Davor i ja, pa i Bertone na neki način - svi držimo kao činjenično stanje. Ekipa, oprostite ukoliko niste htjeli biti ovako imenovati, no ja sam protumačio da se u tom dijelu priče svi slažemo zbog čega sam ovo napisao. Ukoliko sam pogriješio i za jednog od vas, iskrene isprike.

@Žabac,
Razumijem da se moralni test postavlja pred AI za autonomnu vožnju. To uistinu jest tema za duboko razmišljanje.
Ali zašto se ne postavlja taj isti moralni test pred svakog čovjeka vozača? Bilo kad polaže vozački ispit, bilo nakon npr. 10 godina ili 100.000 km, kad stekne neko iskustvo?
Zgražamo se što je AI autonomni auto ubio nekog jer mi mislimo da čovjek na njegovom mjestu ne bi. A što ćemo s čovjekom vozačem koji je išao punom brzinom obilaziti drugi auto, koji je stao na pješačkom prijelazu da propusti dijete. Glupan je zaključio kako ovaj stoji bez veze jer nije vidio (odraslog) pješaka ispred auta koji stoji i - ubio dijete na putu u školu. Priča nije ni izmišljena, ni nategnuta. Koliko je meni poznato, u Hrvatskoj nekoliko klinaca svake godine strada na taj način. Gdje je moralni test, odnosno, u ovom slučaju, to bi morao biti test elementarne inteligencije za tog vozača?
Da ne govorim o situacijama gdje čovjek vozač usmrti nekog jer se zaista našao u situaciji (kakve su ove u moralnim testovima za AI) da nema rješenja u kojem mogu svi preživjeti. Jednostavno, stati ne može, u nekog se mora zabiti. Da li u babu na biciklu, da li u dijete na cesti koje je potrčalo za loptiom, da li u pun auto koji nailazi s druge strane? I taj će čovjek na kraju odlučiti (možda neće ni biti racionalne svjesne odluke, jednostavno će u nekom času trgnuti volan kako "mu dođe") koga će ubiti, a nitko se neće zgražati nad rezultatom moralnog testa pred kojim se on našao?

Ajde stavi sebe u tu kožu. Recimo ovako. Voziš neki SUV ili tako neko glomazno sranje. Ili kombi. Daily Iveco od 3,5t. U susret ti ide auto, recimo Renault Megane i u njemu četveročlana obitelj. Mama, tata, sin i kćer, četvrti i drugi razred osnovne škole. Desno uz kolnik (ne po njemu, nego po nogostupu, recimo, ili bankini) se vozi baka (žena) na biciklu. Bila je, npr. na placu prodati jaja ili mlijeko i sad se vraća, prazne kante od mlijeka joj se klate na guvernalu. Pred njom iznenada istrči klinac od 12-13 godina za loptom na cestu, ravno pred tebe, ko zec. Okameni se od straha i ukipi se tamo.

Da čujem, koga ćeš ubiti? Baku na biciklu, klinca s loptom ili majku obitelji, a možda i dvoje djece ako nisu vezani na zadnjem sjedalu? Ti. Koga bi ti odlučio ubiti da se nađeš u takvoj situaciji? Ne zanima me što bi odlučio Tesla AI, nego ti, osobno, baš ti?

Ja bi možda okrenuo na babu na biciklu. Jbg, najstarija je, možda je nekako najmanje šteta (grozno zvuči, znam, ali evo, hipotetski pričamo, neka mi nitko ne zamjeri). A što ako baba hrani dvoje unučadi kojima je sve na svijetu jer su roditelji npr. sjebani od droge, mama se overdozirala prije par godina, a otac je propalica kojeg nitko nije vidio već godinama i nema pojma gdje je?

Možda na drugi auto? Jbg, airbagovi, pojasevi, limarija, možda prođe nekako dobro, da nitko ne pogine? Ali što ako je to krama od Meganea, kupljena od 4. vlasnika, a već drugi nije platio da se ugradi novi airbag nakon sudara, a treći je ugradio plin kojeg je još četvrti vlasnik atestirao preko veze jer mu je bilo skupo popravljati, pa sudar izazove eksploziju pa na kraju izginete svih sedmoro i možda još curica u obližnjem dvorištu koja se tu slučajno zatekla?

A da možda samo nagazim na kočnicu pa što bude? Možda se mali trgne pa se uspije izmaknuti? A što ako ne uspije? Pa poslije još doznam da je svojim roditeljima jedino dijete, koje su dobili nakon godina i godina i desetaka in vitro mučnih postupaka? A ona baba na biciklu ispadne neka stara pijandura koja je ionako zaginula tri tjedna kasnije kad je pijana na biciklu zabauljala sa ceste pod kamion?

Elem... Šta koji q jaše itko s nekakvim moralnim ili kakvim god testovima na kojima ni živ čovjek ne bi prošao...

Ma to su zanimljive situacije u kojima zamrzneš potencijalnu situaciju, pa debatiraš o tome koliko ti volja. U stvarnosti je to vjerojatno stani-pani situacija u kojoj imaš djelić sekunde za bilo kakvu (ili nikakvu) reakciju i rekao bih da vozač tu djeluje impulzivno. Teško da se u takvim trenucima ima baš vremena za neke moralne dileme.

2009. sam sudjelovao kao suvozač u frontalnom sudaru. Iz nepoznatog razloga je vozač iz suprotnog smjera izletio iz svoje kolone na našu stranu. Situacija je bila otprilike takva da će nas većina poginuti. Mi smo netom prošli znak za ograničenje brzine na 90km/h i vjerojatno smo bili na cca 100km/h, a vozilo iz suprotnog smjera je vjerojatno vozilo cca 120-130 km/h. Ne mogu procijeniti koliko su vozila bila udaljena u trenutku kad je ovaj izletio na našu stranu, al recimo da je to bilo 100tinjak metara ili manje, što ti daje cca 1 sekundu za reakciju. Od te sekunde barem mali dio prođe dok ti do mozga dođe da si u grdoj situaciji, a onaj ostatak vremena imaš za reakciju. So obje strane cste su oni metalni branici i nije bilo šanse da uteknemo s ceste kako bismo izbjegli koliziju. Prijatelj, koji je vozio, je skrenuo prema sredini ceste iako nam je u susret išla cijela kolona automobila. Iskreno, mislim da je ta reakcija bila čisti pokušaj spašavanja vlastitog života. No, na taj način je *nesvjesno* izložio "moju" stranu vozila da primi najveći dio udara. Srećom, Škoda je jedno vrhunsko svecko vozilo koje štiti svoje putnike i obojica smo prošli samo sa lakšim ozljedama, a osim toga, obojica smo u tom trenutku vidjeli anđela kako upada između vozila i ublažava udarac No, i dan danas, kada se sjetimo tog nemilog događaja, imam osjećaj da ga još uvijek goni neka krivnja što je mene izložio pogibiji dok je svoj život spašavao. Realno, ta njegova reakcija nam je vjerojatno svima spasila živote, al sad, kad imamo vremena (i život) da možemo o tome razglabati, možemo si postavljati i razna hipotetska pitanja vezana za tu situaciju. Mislim, mogao sam ja npr. poginuti, pa šta onda? Mogli smo obojica poginuti zajedno s par ljudi iz vozila koje je izašlo na našu stranu. Mogli smo izbjeći to vozilo koje nas je lupilo, a sudariti se s drugim vozilom iz suprotnog smjera koje je normalno vozilo svojom trakom i poubijati "ni krive ni dužne" ljude.

Fora je što će čovjek vjerojatno prvo spašavati vlastiti život, pa onda misliti na damage control, a automobilski AI bi možda prvo napravio damage control, pa makar to značilo i žrtvovanje vlastitog vozača

Misliš - putnika?

Za vozača postoje zakomon određene sankcije, a za stroj ne. Tu se opet gleda kako je čovjak napravio propust i gleda se koga će "po džepu" oplesti.

Instinktivno bi (kontra uvjerenjima) skrenuo lijevo jer ima više mjesta i vjerojatno pogodio onaj auto s obitelji. Na bankinu ne bi išao tako da je stara sigurna, a klinac bi možda imao sreće.
Mada po nekoj pravdi, trebao bi klinac nastradati.
Zato i jesu takve stvari pitanje morala i odabira koga pogaziti u bezizlaznoj situaciji.

I kod Gjuroo-e je isto bilo skretanje u lijevo.

Mislim da te usporedbe što bi napravila UI auta i stvarni vozač nemaju smisla.
Za primjer reakcije i postupka u vožnji navesti ću dva primjera koje sam doživio, a vi mi odgovorite koliko tko bi od vas napravio isto (mislim da bi isto napravilo puno više automobila sa UI nego ljudi).

Primjer prvi:
Prije desetak godina sam vozio Ilicom prema zapadu i na križanju Selska-Ilica-Sv.Duh na 15-20 metara od mene sa južnog nogostupa počne baba prelaziti cestu i ne gleda u mene koji joj dolazim sa desne strane već bulji u tramvaj koji joj dolazi s lijeva, nagazio sam kočnicu, upalio se ABS i pustio auto da nastavi minimalno smanjenom brzinom dalje - izbor je bio:
- nastaviti držati kočnicu pritisnutu do kraja i nadati se da će auto ipak stati prije babe
- brzim pritiscima kočnice pokušati zaustaviti auto
- skrenuti lijevo i otići direktno u tramvaj (ako ovaj ne stigne usporiti i stati)
- skrenuti desno i pokupiti auto u susjednoj traci

Nisam napravio ni jedno od gore navedenog već sam odlučio zanijeti auto u lijevo za 90% i ako već moram pobrati babu i tramvaj udariti ih desnom bočnom stranom auta, na taj način sam auto usporio i stao prije babe (da sam je ipak udario udario bih je većom ravnom površinom i sa dovoljno smanjenom brzinom da je ne pokosim i da mi glavom ne udari u prednju šajbu), nisam pobrao ni tramvaj jer je i tramvaj stigao zakočiti, ali i da sam ga pobrao, pobrao bih ga opet smanjenom brzinom (iako putnici u istom nisu bili presretni)... i sad pitanje, koliko bi vozača tako reagiralo, odnosno koliko bi UI auta tako reagiralo ako bi bili napucani i takvim scenarijom - ja mislim da bi više UI auta napravilo isto jer za razliku od mene koji od senzora imam oči, živce u rukama-nogama-leđima-guzi i mozak koji je obradio podatke o stanju podloge, iskustvo o stanju podloge i zapamćenu poziciju vozila oko sebe, a UI auto ima barem 20x više senzora i vjerujem da puno brze od mene procesuira sve te podatke - ja sam ovo napravi iz iskustva, reflkeksa i trenutno doneše odluke - UI auto bi to napravio iz istih razloga (bez refleksa)

Primjer drugi:
Vozim starom Podravskom magistralom i malo prije Pitomače iz dvorišta mi izleti mačka - ispred mene u mom prometnom traku mačka u suprotnom auto moji mi dolazi ususret - izbor je bio:
- kočiti i možda ne pobrati mačku
- cimnuti u lijevo i riskirati frontalini sudar ili izletanje sa ceste zbog eventualnog zanošenja auta ili izazvati izletanje auta iz suprotnog smjera ako se njegov vozač preplaši zbog moje reakcije na mačku - nisam napravio ništa, primio sam malo čvršće volan i još malo dodao gas i provezao se iznad mačke.
U sličnoj situaciji frendica me vozila u Pojatno i na cestu joj je izletio fazan, zamalo nas je oboje ubila paničnim skretanjem u suprotni smjer iz kojeg nam je dolazio kombi (promašili/mimoišli smo se za treptaj oka i to samo zato kaj je vozač kombija otišao sasvim desno) - mislim da bi UI auto bi također odlučio pregaziti mačku ili fazana.

Kvaka u ovim primjerima je da će stroj (UI auto) reagirati tako da iz dostupnih podataka napravi najmanju štetu po sebe (posredno i za vozača i putnike u sebi) dok čovjek reagira instinktivno (samoodržanje) uz malu kočnicu u glavi zbog iskustva... o tome koliku će kaznu dobiti ako nekoga ubiješ ili ozlijediš u takvim situacijama bogami ne razmišljaš pa zašto onda UI autu nametati da mora razmišljati o zakonskim posljedicama.

Uf, koja tema.

Jedino nisam shvatio, kako bi to AI trebala odgovarati pred zakonom? Gašenje za kaznu? Koga? Tog konkretnog auta? Ili povlačenje SVIH primjeraka istog modela?
Ali, ako oni sami sebe uče i dograđuju, jesu li oni nakon jedne godine službe doista isti? Jedan je proveo cijeli svoj životni vijek na potezu Kvatrić-Velesajam-Sv. Duh. Drugi je završio u Makarskoj i nikad nije 'vidio tramvaj uživo'.
Treći je bio u Ljubljani i uglavnom svaki dan vozio od Brnika do Bleda ili Jesenica.

Jesu li oni baš SKROZ identično isti?

Naravno da nisu, kao što nije ni moj tetak iz Bilja koji kad mi dolazi k starcima u goste auto ostavi na parkiralištu KingCrossa i dalje nastavi taxiem jer ima previše semafora i rotora zadnjih 4-5 kilometara

EDIT: Idemo se malo odmaknuti od auta i otići na pametne kuće i njihov samo-učeći i pametni UI.

Pretpostavimo da pametna kuća (znači neki sklop računala, računalnih algoritama i osnovnih podataka) nakon nekog vremena nauči navike korisnika i istovremeno je umrežena sa autom, telefonima, uređajima na radnom mjestu i sl. Pretpostavimo isto tako da ta pametna kuća zna da u 17,00 kad dođeš doma u zimsko vrijeme mora kad se približiš vratima upaliti svijetlo u toj i toj prostoriji na 80% snage... i to radi tako svakodnevno (to je zadani proces i nema tu ništa pametno) Isto tako, pametna kuća vremenom nauči da vlasnik ima povremene migrene i da joj onda kaže da svijetlo sa 80% smanji na 20-30% kako bi si olakšao bol.

I tako, UI u kući živi tjednima, mjesecima godinama sa svojim vlasnikom i onda jednog dana vlasnik dolazi doma sa migrenom, UI kuće je to saznao od drugih vlasnikovih uređaja ili je jednostavno senzor na ulaznim vratima prilikom skeniranja vlasnika vidio bolni grč na njegovom licu i UI kuće ovaj put ne napravi zadanu radnju da upali svijetlo na 80% već donese samostalnu odluku i upali svijetlo sa 40% snage...

- da li je to samostalna odluka UI?
- da li je to oblik "osjećaja" UI da ugodi ili samo zaštiti vlasnika od bola?
- da li je vlasnik kuće imao ikakvog utjecaja (osim indirektnog zbog migrene) na odluku UI-a kuće?

Jok, AI ne može (još) donositi samostalne odluke već ide po algoritmu koji može biti adaptivni ali je sve jedno algoritam. U stvari, radi se o neuronskoj mreži koja uči zajedno s vlasnikom. Tu postoje i predefinirani algoritmi koji su imuni na "bedaka" od vlasnika.

E da, ja bi babu vjerojatno pokupio, a mačka bi 9 života potrošila.

Žabac, to je tako bilo prije više od 10 godina. Danas AI više nemaju klasičnih "tvrdih" algoritama. Sve se oslanja na učenje.

Pa moraju biti neke granične vrijednosti. I kad dijete učiš i odgajaš postoje granice preko kojih se ne smije....?

Evo, i HAL9000 je bio programiran da pobjeđuje u 50 posto šahovskih partija da ne demoralizira posadu Otkrića....

HAL je u stvari IBM. Ime su dali prema prethodnim slovima abecede H (I) A ( B ) L (M)!

smayoo kaže:


Ništa ja ne lupetam. U šahu se zna koja figura kako ide i koje su joj mogućnosti, čak se može izračunati broj svih mogućih kombinacija u toj igri. Ok broj bi bio s puno nula, ali je ga moguće izračunati.

U nogometu imaš 22 igrača, koji mogu biti bilo gdje, kako im se prohtje, nisu s ničim ograničeni, osim s veličinom terena i pravilima igre.

Odgledao sam do sad nekoliko tiusća utakmica, možda i više i niti jedna nije bila ista.

Volim i šah i relativno ga dobro igram, ponekad i gladam svjetska prvenstva i vidio sam jako puno istih partija, bar u prvih 40 poteza.

Problem šaha je kompleksniji jer je broj kombinacija toliki da računala imaju posla kod izračunavanja kombinacija. Kako se igra razvija, broj kombinacija i predviđanja rastu. Čovjek drugačije pristupa problemu jer ne kalkulira s kombinacijama koje su loše ili nemoguće.
Da je nogomet igra u kojo treba inteligencija, ovi danas nitko ne bi mogao igrati.

Žabac, po tvojim komentarima oko nogometaša i umjetne inteligencije, te androida koji bi igrali nogomet umjesto ljudi dobivam utisak da ti zapravo - ne pratiš nogomet, ili ga pratiš vrlo malo.
Pa koja je draž u tome da igraju roboti, svi super pametni i identični, jedni protiv drugih?
Nisam ciljao da se to ne može, već da bi bilo zanimljivije napraviti trenera s AI.
Mada bih ja robotiku i sport odvojio zauvijek.
Pomagala tipa Pistorius OK, ali to je to.

zabac kaže:


Nemoj tako, to je (hm?)akronim od Heuristički ALgoritmik, serija 9000....