Dirbtinis intelektas

Ramesnės ir draugiškesnės diskusijos be politikos. Mažiau apie politines pažiūras, vertybes ar pan. bei labiau kurstomos smalsumo sau įdomia tema.
User avatar
vvv2
senbuvis
Posts: 1149
Joined: 2007-08-02 11:24

2019-02-21 12:05

melodetektorius wrote:
2019-02-14 21:49
Manau Jums įdomu?
- manau tiks prie intelekto:

"If at first, the idea is not absurd, then there is no hope for it." - Albert Einstein.
"Jei pradžioje idėja nėra absurdiška, tai jai nėra vilties." - Albertas Einšteinas.

"An idea, that is not dangerous, is unworthy of being called an idea at all." - Oscar Wilde.
„Idėja, kuri nėra pavojinga, yra neverta būti vadinama idėja“. - Oskaras Vaildas.

"The way to get good ideas is: get lots of ideas and throw the bad ones away." - Linus Pauling.
„Gerų idėjų gavimo būdas: gauti daug idėjų ir išmesti blogas.“ - Linus Pauling.

"There is one thing, stronger than all the armies in the world: that is an idea, whose time has come." - Victor Hugo.
"Yra vienas dalykas, stipresnis už visas pasaulio armijas: tai yra idėja, kurios laikas atėjo." - Viktoras Hugo.

"No grand idea was ever born in a conference, but a lot of grand ideas have died there." - F. Scott Fitzgerald.
„Konferencijose niekada nebuvo gimę jokios didžiosios idėjos, tačiau ten daug didžių idėjų mirė.“ - F. Scott Fitzgerald.

"It is the essence of genius: make use of the simplest ideas."- Charles Peguy.
„Genijaus esmė: naudokite paprasčiausias idėjas“. - Charles Peguy.

"Nothing is more dangerous than an idea, when it is the only one You have." - Emile Chartier.
„Nieko nėra pavojingiau nei idėja, kai ji yra vienintelė ką Jūs turit.“ - Emile Chartier.

"A pile of rocks ceases to be a rock, when somebody contemplates it with the idea of a cathedral in mind." - Antoine St. Exupery.
"Akmenų krūva nustoja būti krūva, kai kas nors apmąsto ją mintyje kaip naują katedrą." - Antoine St. Exupery.

"Money never starts an idea; it is the idea starts the money." - William J. Cameron.
„Pinigai niekada nepradeda idėjos; tai idėja pradeda pinigus“. - William J. Cameron.

"You can kill a man, but you can't kill his idea." - Medgar Evers.
"Jūs galite nužudyti žmogų, bet jūs negalite nužudyti jo idėjos." - Medgar Evers.

"An idea is salvation by imagination." - Frank Lloyd Wright.
"Idėja yra išsigelbėjimas vaizduotės dėka." - Frank Lloyd Wright.

:)
User avatar
Lionginas
senbuvis
Posts: 3311
Joined: 2011-10-03 09:35

2019-02-21 12:22

"I love quotations because it is a joy to find thoughts one might have, beautifully expressed with much authority by someone recognized wiser than oneself."  -  Marlene Dietrich

:)
User avatar
vvv2
senbuvis
Posts: 1149
Joined: 2007-08-02 11:24

2019-02-21 13:59

Lionginas wrote:
2019-02-21 12:22
"I love quotations because it is a joy to find thoughts one might have, beautifully expressed with much authority by someone recognized wiser than oneself."  -  Marlene Dietrich.
Vertimas apytikslis:

„Man patinka citatos, nes tai yra džiaugsmas rasti mintis, kurios gražiai išreikštos didžių autoritetu, kurie yra pripažinti išmintingesniais už mane“. - Marlene Dietrich.

:)
User avatar
Svetimas
administratorius
Posts: 2204
Joined: 2004-05-25 19:04
Location: Vilnius

2019-02-21 14:27

fizikanas wrote:
Svetimas wrote: 1. Kodėl priartinančius prie X, o ne prie Y?
Nes tada butu "Nores Y".
Iš esmės neatsakei į klausimą. :)
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs. :)
fizikanas wrote:
Svetimas wrote: 2. X aprašyti kokiu nors modeliu yra N būdų. Vadinasi "X supratimas" tarsi pagal tave išeina yra "informacijos apie X suvedimas į tam tikrą pasirinktą modelį" iš daugelio galimų? Ar įvairūs galimi "X suvedimai į modelį" kaip nors diferencijuotini tarpusavyje? Kas tada yra nesupratimas ir kuo jis iš esmės skiriasi nuo supratimo?
Na pavyzdys, sakykime du zmones mato sakmatu lenta, taciau tik vienas is ju moka zaisti ir zino taisykles. Vienas ta vaizda supras, kaip ismarginta lenta su keistom figurelem, kitas tai supras, kaip baltas arklys daro saka juodam karaliui. Vienas turi modeli, i kuri gali irasyti sita informacija, kitas ne. Toks ir skirtumas tarp supratimo ir nesupratimo. Nieko bendro su emocijomis.
Aš klausiau AI kontekste, o ne pavyzdžio žmonių kontekste, kas yra "supratimas". Kaip jį užprogramuoti? Įvairių intuityvių pasvarstymų žmogiškos patirties kontekste (kuo skiriasi supratimas nuo nesupratimo) aš ir pats galiu be vargo prigeneruoti. Bet kaip tą "supratimą" išversti į mašininę kalbą? Man, kaip nemažai susiduriančiam su algoritmizavimu savo darbe, šitas klausimas atrodo labai sudėtingas.

Man neįdomūs fiktyvūs scenarijai, kuomet, tarkim, viena iš dviejų programų, kurios tarpusavyje žaidžia šachmatais, "nežino" žaidimo taisyklių. Žaidimo taisykles "žino" ir paprasčiausia neapsimokanti (ne AI) šachmatų programa. Tai, ką tu vadini žaidimo taisyklių "supratimu", yra, sakyčiau, greičiau mechaniškas apribojimų ir "svirtelių" sudėliojimas ir "žaidimo lauko" apibrėžimas.

Šachmatų žaidimo taisyklės nėra adekvatus pavyzdys. Jei kalbame analogijomis, tai skirtingų žaidiminių kombinacijų šachmatuose buvimas kiekvienu žaidimo momentu, sugebėjimas jas diferencijuoti ir vertinti (kuo viena situacija yra geresnė ar blogesnė už kitą ir labiau verta dėmesio), bei sugebėjimas dinamiškai keisti (apmokyti) ir taikyti šituos vertinimus, ir būtų tai, ko aš klausiau. Sakykim, kad nusižiūrėję į gamtą (biologinių smegenų neuronus), šitą dinamišką apsimokymą AI išsprendžiame (nusikosėję "inžinerinį sprendimą" iš gamtos) pakeisdami kokio nors dirbtinio neuronų tinklo apsimokymu. Bet tuomet kalbėkim ir apie universalų AI, kuris išmoktų ir mokėtų žaisti ir šachmatais, ir Go, ir "StarCraft" (ant įvairių žemėlapių), ir sugebėtų dalyvauti debatuose, ir vairuoti mašiną ir t.t. ir pan. Ant kokio kamieno/šakų reikėtų "kabinti" visus tuos aukščiau minėtus specializuotus neuroninius tinklus ir kaip reikėtų reguliuoti jų valdymą?

Beje, kad jau pradėjom nusikosėti kai kuriuos inžinerinius sprendimus (neuroninius tinklus) iš gamtos, tai galime pasidomėti ir kitais.
Pvz. žmonėse ir gyvūnuose yra smegenų sritys, kurios siejamos su gana mįslinga Limbic system.
[+] show hidden text
The limbic system supports a variety of functions including emotion, behavior, motivation, long-term memory, and olfaction. Emotional life is largely housed in the limbic system, and it has a great deal to do with the formation of memories.
[...]
Academic dispute
There is controversy over the use of the term limbic system, with scientists such as LeDoux arguing that the term be considered obsolete and abandoned. Originally, the limbic system was believed to be the emotional center of the brain, with cognition being the business of the neocortex. However, cognition depends on acquisition and retention of memories, in which the hippocampus, a primary limbic interacting structure, is involved: hippocampus damage causes severe cognitive (memory) deficits. More important, the "boundaries" of the limbic system have been repeatedly redefined because of advances in neuroscience. Therefore, while it is true that limbic interacting structures are more closely related to emotion, the limbic system itself is best thought of as a component of a larger emotional processing plant, that is essentially responsible for sifting through, organizing, lower order processing, and relaying sensory information to other brain areas for higher order emotional processing.
fizikanas wrote:
Svetimas wrote: 3. Ir kas iš to plaukia? Gerai tai ar blogai? Kas tada yra "partneris"? Kuo jis skiriasi nuo "konkurento"? Ar apskritai tam AI egzistuoja toks dalykas kaip "partneris"? Kodėl? Ar lygiai toks pats AI klonas kitame superkompiuteryje yra "konkurentas", ar ne? Ar kuris nors to paties AI pakankamai stambus ir savarankiškas neuroninio tinklo segmentas tame pačiame superkompiuteryje yra "konkurentas", ar ne? Kodėl?
Kuo partneris skiriasi nuo konkurento apibrezia zaidimu teorija, kas yra sausa matematika, neturinti nieko benrdo su emocijomis. Gerio ir blogio savokos cia irgi nelabai i tema, juk visiskai nekalbame apie emocijas.
Pagal tave tarsi išeitų, jog AI naudoja žaidimų teoriją, kad atskirtų "partnerį" nuo "konkurento"?
Man atrodo, kad tu "žaidimų teoriją" čia naudoji kaip kokį burtažodį, kad atsimuštum nuo mano klausimo. :)
fizikanas wrote:
Svetimas wrote: 4. Ir kas iš to plaukia? Gerai tai ar blogai?
Buvo resursu X, liko resursu X - daug, reiskia iseikvota daug resursu. Pati sausiausia matematika, kokia tik gali buti savo sausumu. Nesuprantu prie ko cia gerio ir blogio savokos. Ar tuo labiau emocijos.
Kokiu būdu faktas, ar daug liko resursu, ar mažai, įtakoja AI sprendimus? Gal kaip tik gerai? Pvz. išnaudosim kiek įmanoma greičiau vienus resursus ir imsimės kitų. Vien tik pats šis faktas neturi prasmės be konteksto.
fizikanas wrote:
Svetimas wrote: 5. O kuo tie kiti tikslai tokie svarbūs? Jei egzistuoja tokio paties AI klonas kitame superkompiuteryje (siekia tų pačių tikslų) ir neužtenka resursų veikti jiems abiems?
Na jeigu tie kiti tikslai yra uzprogramuoti, kaip patys svarbiausi to AI tikslai, tai tuo jie ir yra svarbus. Cia tautologija.
Jei abu AI turi tiksla, "kad stovetu kuo didesnis kalnas" tai abu statys viena dideli kalna. Jei vienas turi tiksla "pastatyti kuo didesni kalna A", o kitas "pastatyti kuo didesni kalna B", tai konkuruos, ar kauriaus, ar deresis del resursu. Konkretus tikslo uzprogramavimas ir nulems ju elgesi.
Aš tavo pagrindinę mintį dėl AI pagrindinio bazinio tikslo, supratau. Bet aš tavęs klausiau dėl "turės tikslą išlikti" - savirefleksijos, kai abu AI siekia tokio paties bazinio tikslo.
Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
fizikanas wrote:
Svetimas wrote: 6. Ir kas iš to plaukia? Kuo tai blogiau/geriau už 2, 3 ir t.t.?
Vel, prie ko cia geris ir blogis? Cia tiesiog skaicius, paprasciausia matematine konstrukcija. Kur tu tuos gerius ir blogius vis matai?
Aš klausiu ne apie gėrį ir blogį, o apie sugebėjimą įvertinti, kaip ir koks sprendimas seka iš to, kad yra "1" (arba "2" arba "3"). Ir apskritai sugebėjimo interpretuoti, kas yra "1", "2" ar "3". Bepigu tau sakyti, kad čia paprasčiausia "matematinė konstrukcija", kai kalboje apie tą "matematinę konstrukciją" dalyvauja jų interpretatoriai ("tu" ir "aš"), kurie tas matematines konstrukcijas supranta (moka interpretuoti). Tokiu būdu po "matematinė konstrukcija" visa ta iterpretacijos sudėtingybė (kuri būtent mane ir domina) lieka gudriai "pakasta po kilimu".
fizikanas wrote:
Svetimas wrote:Ne vien jas minėjau. Kalbėjau ir apie tam tikrą prasminį informacijos įvertinimą. Be emocijų ir tam tikra fiziologinio diskomforto ar komforto patirtis (pvz. jau minėtas alkis; nebent tai irgi priskirsime prie emocijų) galbūt įtakoja tam tikrą vertinamąjį aspektą.
Tai ne diskomforto patirtis itakoja zmogaus tikslus, o zmogaus tikslas yra vengti diskomforto. Diskomforta gali apibrezti, kaip "patirtis, kurios zmogus yra uzprogramuotas vengti"
Iš kur žmogus žino ar prognozuoja, kas jam yra diskomfortas ar kas jam būtų, be patirties?
fizikanas wrote:
Svetimas wrote: Kiek supratau, net ir emocijos yra nemaža mįslė ir rimtesnių bei pakankamai solidžių, išbaigtų ir pilnesnių emocijų mechanizmų modelių mokslas irgi berods dar neturi.
Tai gerai, emocijos yra misle, tuo tarpu AI tikslai, zaidimu teorija, naudingumo funkcijos yra sausa matematika, be jokios mistikos ir ju uztenka pragraminei irangai priimti intelektualius sprendimus.
Ech, žaidimų teorija naudingumo funkcijos yra įdomūs dalykai. Esu šiek tiek su šitais dalykais susidūręs. Bet esu beveik tikras, kad nei tikslų, nei žaidimų teorijos (kurios, šiaip, pirminiai naudotojai ir interpretuotojai esam mes, žmonės) sudėtingybių nei naudingumo funkcijų (nebent tu neuroninius tinklus priskiri prie savotiškų naudingumo funkcijų) tas Google Deep Mind nenaudojo, kad išmoktų žaisti šachmatais, Go ir ant kažkurio "StarCraft" žemėlapio. Nebent tu paneigsi šitą mano nuomonę? Be to Google Deep Mind yra specializuotas AI. Didelis klausimas kaip viskas pasisuktų, jeigu būtų tikslas suprogramuoti universalesnį AI.
fizikanas wrote:
Svetimas wrote: Kuo remiesi, kad moterys turi daugiau emocijų nei vyrai? Lyg ir supratau, kad psichologijos mokslas tau kaip ir ne rodiklis, bet visgi įdomu, kuo grindi tokius savo teiginius?
Tikrai ne lyciu studijom, tiek pasakysiu. Siaip kartais gali ir pastebeti zmogus dalykus savo akimis. Nebutina neatsikartojanti psichologini "tyrima" surasti, kad tam pastebejimui "pagristi".
Tiek aš, tiek tu, surastume daugybę pavyzdžių, kuomet žmonės interpretuodami dalykus, "kuriuos pastebi savo akimis", labai smarkiai klysta. Beje, prie ko čia mini lyčių studijas? Kaip tai susiję su tuo, apie ką mes kalbam?

Beje, grįžtant šiek tiek labiau prie pirminio klausimo. Va, pavyzdžiui, aiškinimai, kad emocijos, jų spektras bei jų raiška pas vyrus ir moteris skiriasi. Argumentuoja tuo, kad būtų keista evoliucijos kontekste, jei vyrai ir moterys emociškai nesiskirtų. Pas moteris statistiškai didesnis neurotiškumas (jautrumas tam tikroms neigiamoms emocijoms). Bet iš to neseka, kad vyrai "turi mažiau emocijų" nei moterys. Viskas sudėtingiau.
fizikanas wrote:
Svetimas wrote: Kiek girdėjau, aukštesnis vyrų IQ iš esmės aiškinamas didesne gabumų dispersija nuo vidurkio (didesnis procentas su didesniu ir mažesniu IQ). Be to gali būti ir daugiau papildomų paaiškinimų (pvz. šiek tiek skirtingas mąstymo pobūdis, kitoks tikslų formavimas ir jų siekimas).
Sakyciau ieskai slieku, vienoje vietoje. Bet juk pats surpanti, kad jei intelektui butu butinos emocijos, tai greiciausiai akivaizdziai matytusi teigiama koreliacija tarp emocionalumo ir intelektualumo, bet realybeje taip paprasciausiai nera.
Iš kur žinai, kad realybėje taip paprasčiausiai nėra? Kuo remiesi? Galėtum bent paprasčiausiai paneigti kažkaip mano teiginius, jei "realybėje taip nėra".
fizikanas wrote:
Svetimas wrote: Neva vyrai tik dalies savo emocijų dėl kažkokių priežasčių neparodo, labiau kontroliuoja, užgniaužia, jas sunkiau interpretuoja ir galbūt prie kitokių sąlygų, aplinkybių jas išreiškia.
Ar nebusi cia jau kazkokiu lyciu studiju pasiskaites?
Nebūsiu. Kodėl taip pamanei? Gan keista iš tavęs girdėti tokias prielaidas, kai net mano anksčiau pateiktose nuorodose apie migdolinius kūnus smegenyse ir pan. (jeigu būtum žiūrėjęs), pakankamai aiškiai kalbama apie biologinius vyrų ir moterų skirtumus. Kiek žinau, populiariosioms "lyčių studijoms", kurios šiame forume dažnokai linksniuojamos, šitie išsakomi teiginiai nelabai pagal plauką.
User avatar
Svetimas
administratorius
Posts: 2204
Joined: 2004-05-25 19:04
Location: Vilnius

2019-02-21 14:35

melodetektorius wrote:
2019-02-14 21:49
Manau tai turetu buti jums idomu:

https://www.delfi.lt/mokslas/technologi ... d=80352831
Nu, va. Neužilgo galėsim ramiai išeiti į pensiją ir palikti diskusijų forumą AI. :)
User avatar
fizikanas
nenugalimas
Posts: 4034
Joined: 2004-05-27 19:45

2019-02-21 20:59

Svetimas wrote:
2019-02-21 14:27
Iš esmės neatsakei į klausimą. :)
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs. :)
Tai, kad ir Feinmanas cia neatsake i klausima, kodel magnetai stumia vienas kita :)
Svetimas wrote:
2019-02-21 14:27
Aš klausiau AI kontekste, o ne pavyzdžio žmonių kontekste, kas yra "supratimas". Kaip jį užprogramuoti?
Nesu AI programuotojas, tai i sita klausima neatsakysiu. Bet jeigu net zmoniu kontekste galime apibrezti "supratima" be emociju, tai tuo labiau galime buti tikri, kad tai imanoma padaryti AI atveju. Atsimink, kad visu imanomu AI aibe yra daug eiliu didesne uz visu imanomu zmoniu intelektu aibe. Tiksliau zmoniu intelektu aibe yra AI poaibis - simuliuotos zmogaus smegenys kompiuteryje butu tokio AI pavyzdys.
Svetimas wrote:
2019-02-21 14:27
Pagal tave tarsi išeitų, jog AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento"?
Beabejo, ka daugiau? https://en.wikipedia.org/wiki/Cooperative_game_theory
Svetimas wrote:
2019-02-21 14:27
Man atrodo, kad tu "žaidimo teoriją" čia naudoji kaip kokį burtažodį, kad atsimuštum nuo mano klausimo. :)
Zaidimu teorija turi formules, kurias gali imti ir serti kompiuteriui. Va "emocijos" tai tikras burtazodis.
Svetimas wrote:
2019-02-21 14:27
Kokiu būdu faktas, ar daug liko resursu, ar mažai, įtakoja AI sprendimus? Gal kaip tik gerai? Pvz. išnaudosim kiek įmanoma greičiau vienus resursus ir imsimės kitų. Vien tik pats šis faktas neturi prasmės be konteksto.
Tai zinoma, kad tai priklauso nuo AI. Vienas gal turi tiksla isnaudoti kuo daugiau resursu, kitas kuo maziau, trecias vartoja resursus pagal Rand() funkcija. Beabejo, kad AI kodas yra butinas kontekstas, kad nuspeti ka konkretus AI darys su faktu apie resursu kieki. Bet kodel mes apie tai kalbam? Kur ta vieta, kur tavo manymu magiskai atsiranda emocijos?
Svetimas wrote:
2019-02-21 14:27
Aš tavo pagrindinę mintį dėl AI pagrindinio bazinio tikslo, supratau. Bet aš tavęs klausiau dėl "turės tikslą išlikti" - savirefleksijos, kai abu AI siekia tokio paties bazinio tikslo.
Tai nuo bazinio tikslo ir priklauso ar tures tiksla islikti. Jei AI X bazinis tikslas yra pastatyti kalna A ir jis matys, kad AI Y irgi turi bazini tiksla pastatyti ta pati kalna A, ir savo buvimu AI X nepadeda, o trukdo AI Y pastatyti kalna A, tai teoriskai imanoma tokia situacija, kur AI X nusprestu susinaikinti. Bet tai sunkiai isivaizduojama realybeje, dazniausiai AI X greiciausiai gales buti naudingas kalno A statyme, todel nores uzsitikrinti savo egzistavima, tam, kad galetu uztikrinti kalno A pastatyma.
Svetimas wrote:
2019-02-21 14:27
Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
Gresmingas tuo, kad visi 4 zodziai sitame sakinyje yra burtazodziai, kuriuos yra N^100 budu istransliuoti i AI koda, kurie butu katastrofiski zmonijai ir koks vienas geras budas, kurio nezinome ir greiciausiai niekada nesuzinosime. Ir neturime prabangos jo suzinoti bandymu ir klaidu metodu, nes pirma klaida bus paskutine. Mazdaug tiek pesimizmo man dar pavyko neisbarstyti ;)
O del konkreciu pavyzdziu, tai AI sita tiksla gali suprasti, kaip kancios, kuria jaucia zmones minimizavima, is ko seka vienintelis loginis sprendimas. Ar itari koks?
Svetimas wrote:
2019-02-21 14:27
Aš klausiu ne apie gėrį ir blogį, o apie sugebėjimą įvertinti, kaip ir koks sprendimas seka iš to, kad yra "1" (arba "2" arba "3"). Ir apskritai sugebėjimo interpretuoti, kas yra "1", "2" ar "3". Bepigu tau sakyti, kad čia paprasčiausia "matematinė konstrukcija", kai kalboje apie tą "matematinę konstrukciją" dalyvauja jų interpretatoriai ("tu" ir "aš"), kurie tas matematines konstrukcijas supranta (moka interpretuoti). Tokiu būdu po "matematinė konstrukcija" visa ta iterpretacijos sudėtingybė (kuri būtent mane ir domina) lieka gudriai "pakasta po kilimu".
Na gerai, kad domina, bet as cia nelabai turiu ka pridurti. Galiu tik pasakyti, kad labiau pasigilines grieicausiai nerasi, kad kazkur tame interpretavime magiskai gimsta emocijos.
Svetimas wrote:
2019-02-21 14:27
Iš kur žmogus žino ar prognozuoja, kas jam yra diskomfortas ar kas jam būtų, be patirties?
Na is to ir zino - jei kazka patyres nori to vengti, vadinasi tai diskomfortas.
Svetimas wrote:
2019-02-21 14:27
Ech, žaidimų teorija naudingumo funkcijos yra įdomūs dalykai. Esu šiek tiek su šitais dalykais susidūręs. Bet esu beveik tikras, kad nei tikslų, nei žaidimų teorijos (kurios, šiaip, pirminiai naudotojai ir interpretuotojai esam mes, žmonės) sudėtingybių nei naudingumo funkcijų (nebent tu neuroninius tinklus priskiri prie savotiškų naudingumo funkcijų) tas Google Deep Mind nenaudojo, kad išmoktų žaisti šachmatais, Go ir ant kažkurio "StarCraft" žemėlapio. Nebent tu paneigsi šitą mano nuomonę? Be to Google Deep Mind yra specializuotas AI. Didelis klausimas kaip viskas pasisuktų, jeigu būtų tikslas suprogramuoti universalesnį AI.
Tai, ka tu manai, kad jei situ dalyku nenaudojo, tai naudojo emocijas? Butu labai magiskas spejimas.
Svetimas wrote:
2019-02-21 14:27
Tiek aš, tiek tu, surastume daugybę pavyzdžių, kuomet žmonės interpretuodami dalykus, "kuriuos pastebi savo akimis", labai smarkiai klysta.
Tai zinoma, as kazkada galvojau, kad pamaciau katina, o ten gulejo nesvari maike ant zemes. Aisku, kad tokiu pavyzdziu galime rasti ir daugiau. Ir kas is to? Nebesinaudoti savo regos sistema nuo siol?
Svetimas wrote:
2019-02-21 14:27
Beje, prie ko čia mini lyčių studijas? Kaip tai susiję su tuo, apie ką mes kalbam?
Nes is to kontingento sneketojai dazniausiai nori paneigti bet kokius biologinius skirtumus tarp vyru ir moteru.
Svetimas wrote:
2019-02-21 14:27
Viskas sudėtingiau.
Arba viskas paprasciau - vyrai patiria maziau emociju, nei moterys ir tiek.
Svetimas wrote:
2019-02-21 14:27
Iš kur žinai, kad realybėje taip paprasčiausiai nėra? Kuo remiesi?
Atspek: dvi sesutes, per kalneli nesueina.
Svetimas wrote:
2019-02-21 14:27
Galėtum bent paprasčiausiai paneigti kažkaip mano teiginius, jei "realybėje taip nėra".
Ar irodinejimo nasta jau niekam nebesventa sitam forume? Tu teigi apie kazkokia koreliacija tarp emociju ir intelekto, tai prasau ir pagrisk sita teigini.
User avatar
vvv2
senbuvis
Posts: 1149
Joined: 2007-08-02 11:24

2019-02-22 08:50

fizikanas wrote:
2019-02-21 20:59
Ar įrodinėjimo našta jau niekam nebešventa šitam forume?
- universalaus intelekto atžvilgiu, dirbtinio ar iškastinio, "įrodymas" nėra joks įrodymas.

Paaiškinimas: bet koks įrodymas remiasi pradiniais postulatais, bet kuris postulatas niekaip nėra įrodomas, tai ko vertas "įrodymas"?

:(
User avatar
Svetimas
administratorius
Posts: 2204
Joined: 2004-05-25 19:04
Location: Vilnius

2019-02-24 23:25

fizikanas wrote:
Svetimas wrote: Iš esmės neatsakei į klausimą. :)
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs. :)
Tai, kad ir Feinmanas cia neatsake i klausima, kodel magnetai stumia vienas kita :)
Bet užtat kaip pažiūrėjo į šitą klausimą. :) Gal tavo požiūriu ir neatsakė sukramtytai, bet apipynė šį klausimą naujais klausimais, atsakymais ir pavyzdžiais, kurie skatina giliau susimąstyti apie su juo susijusius dalykus ir pažiūrėti į jį ne taip įprastai kasdieniškai. Adventures of the currious character nuotaika trykšta jau vien iš šio epizodo. :)
fizikanas wrote:
Svetimas wrote: Aš klausiau AI kontekste, o ne pavyzdžio žmonių kontekste, kas yra "supratimas". Kaip jį užprogramuoti?
Nesu AI programuotojas, tai i sita klausima neatsakysiu. Bet jeigu net zmoniu kontekste galime apibrezti "supratima" be emociju, tai tuo labiau galime buti tikri, kad tai imanoma padaryti AI atveju.
Iš tavo atsakymų (visame komentare) įtariu, kad gal aš šitoje temoje tave šiek tiek klaidinu ir painioju, nes kontrastuoju tarp AI ir žmonių kontekstų. Šioje temoje aš kažkuria prasme bandžiau vienu ypu nušauti du zuikius, sugretindamas ir nagrinėdamas sau įdomius AI ir žmonių "mąstymo" klausimų kontekstus lygiagrečiai.
Tad bandau dar kartą pasiaiškinti dėl tau užkliuvusio "supratimo" ir emocijų.

[Kalbant žmonių kontekste:]
Jau minėjau, kad yra tokia mįslinga smegenų dalis (kartais siejama su "limbic system"), kuri "supports a variety of functions including emotion, behavior, motivation, long-term memory" ir "it has a great deal to do with the formation of memories".
Taip pat klausiau, kodėl evoliucijos eigoje emocijos žmonėms neapnyko, bet kaip tik jų padaugėjo, jos fragmentavosi ir pasudėtingėjo?
Taip pat, irgi minėjau, neužsiciklink vien ant emocijų (eliminuodamas diskomforto/komforto patirtį, kitus instinktyvius stimulus ir pan.) ir neįsivaizduok emocijų kontekstuose, kuriuose aš jų neminėjau. Niekur griežtai netvirtinau, kad kažko "supratimas", kaipo toks, privalo rutuliotis iš "emocijų".
Dėžutė "supratimas" gali būti apibrėžiama žmonių kalboje, neįtraukiant emocijų, ir greičiausiai yra kažkoks gan atskiras savarankiškas dalykas.
Bet aš hipotetizavau apie tam tikrą ryšį (ne 100% ir net ne tiesioginį) tarp "supratimo" ir "emocijų". T.y. nesant "supratimo" nebūtų ant ko "užmauti" "emocijų" ar kitokio vertinamojo "gerai tai, ar blogai" aspekto. Pvz. šitoj vietoj man į pagalba gana neblogai ateina mano jau minėtos paskaitos "How the Wiring of Our Brains Shapes Who We Are - with Kevin Mitchell" kelių minučių epizodas nuo 34:33.
Gal dalis "supratimo" proceso gali rastis ir be ryšio su "emocijomis" ir "gerai/blogai" patirties. Pvz. dalis to proceso galėtų būti paprasčiausias informacijos klasifikavimas ar pan. Bet net ir nedidelis procentas to "supratimo" proceso, "užsimaunantis" ant "emocijų" ir "gerai/blogai" patirties, gali būti reikšmingas mūsų sprendimams ar elgesiui.

[Kalbant AI kontekste:]
Jeigu AI bukai simuliuos/mėgdžios "supratimą", aš hipotetizuoju (remdamasis savo hipotetizavimais aukščiau), kad AI negalima bus "įtaisyti" efektyvaus "limbic system" analogo ir dėl to išlaužti bent kiek universalesnį ir adekvačiau prisitaikantį (tarkim, žmonių pasauliui ir jų problemoms) AI.
fizikanas wrote:
Svetimas wrote: Pagal tave tarsi išeitų, jog AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento"?
Beabejo, ka daugiau? https://en.wikipedia.org/wiki/Cooperative_game_theory
Šiaip, žaidimų teorija labai plati, įdomi sritis ir prašosi atskiros temos. Bet nematau ryšio tarp tavo nuorodos ir to, kad AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento". Gal tu gali man padėti tą ryšį pamatyti? Jau minėjau, jog manau, kad Google Deep Mind AI žaidimų teorijos nenaudojo. Nebent ja galėjo pasinaudoti žmonių komanda, kad apibrėžtų "žaidimų aikštelę" AI.
fizikanas wrote:
Svetimas wrote: Man atrodo, kad tu "žaidimo teoriją" čia naudoji kaip kokį burtažodį, kad atsimuštum nuo mano klausimo. :)
Zaidimu teorija turi formules, kurias gali imti ir serti kompiuteriui. Va "emocijos" tai tikras burtazodis.
fizikanas wrote:
Svetimas wrote: Kokiu būdu faktas, ar daug liko resursu, ar mažai, įtakoja AI sprendimus? Gal kaip tik gerai? Pvz. išnaudosim kiek įmanoma greičiau vienus resursus ir imsimės kitų. Vien tik pats šis faktas neturi prasmės be konteksto.
Tai zinoma, kad tai priklauso nuo AI. Vienas gal turi tiksla isnaudoti kuo daugiau resursu, kitas kuo maziau, trecias vartoja resursus pagal Rand() funkcija. Beabejo, kad AI kodas yra butinas kontekstas, kad nuspeti ka konkretus AI darys su faktu apie resursu kieki. Bet kodel mes apie tai kalbam? Kur ta vieta, kur tavo manymu magiskai atsiranda emocijos?
Pagal paaiškinimus aukščiau, manau, jog AI nesugebės efektyviai formuoti savo "tikslų" be "supratimo", dėl kurio aš čia laužau galvą, ir kažkokio "limbic system" analogo. Tiesiog pasiklys informacijos jūroje ir pradės generuoti neadekvačią išvestį, mūsų žmonių akimis. Tai kažkuria prasme kaip ir sutaptų su tavo mintim, kad rezultatas bus ne tas, kuris mums patiktų. Bet, skirtingai nei tu, aš manau, kad "sustrateguoti" pasaulio užvaldymo planų, tokiam AI su "mimikriniu intelektu" neužteks išmonės.
Beje, šiek tiek nukrypstant į šoną dėl užvaldymo. Jau dabar mes turime sąlyginai bukas technologijas, kurios sugebėjo nejučia "užvaldyti" pasaulį, keisti žmonių visuomenes ir kai kuriais atvejais kelti nelabai malonias pasekmes (užterštumas ir etc.). Vat šitas dalykas, sakyčiau, kol kas aktualesnis ir labiau vertas dėmesio.
fizikanas wrote:
Svetimas wrote: Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
Gresmingas tuo, kad visi 4 zodziai sitame sakinyje yra burtazodziai, kuriuos yra N^100 budu istransliuoti i AI koda, kurie butu katastrofiski zmonijai ir koks vienas geras budas, kurio nezinome ir greiciausiai niekada nesuzinosime. Ir neturime prabangos jo suzinoti bandymu ir klaidu metodu, nes pirma klaida bus paskutine. Mazdaug tiek pesimizmo man dar pavyko neisbarstyti ;)
O del konkreciu pavyzdziu, tai AI sita tiksla gali suprasti, kaip kancios, kuria jaucia zmones minimizavima, is ko seka vienintelis loginis sprendimas. Ar itari koks?
Aha. Ir tas AI nesiteiks komunikuoti su žmonija, kad išsiaiškintų, ar artėja prie bazinio savo tikslo? :)
Šiaip, jau rašydamas šitą klausimą, numaniau, kad tavo atsakymas ir bus toks. Tu čia neitin originalus, nes ir fantastikos žanro autoriai šitą motyvą mėgsta. Priminei man vieną Stanislavo Lemo kūrinį, kur vienoje planetoje optimizuojanti mašina užsimojo žmonių kūnus perdirbti ir išdėlioti planetą gražiomis geometrinėmis simetriškomis figūromis. Bet tie fantastikos kūriniai labiau skirti žmonėms metaforiškai pamąstyti apie tam tikrus dalykus, o ne apie tiesiogines AI grėsmes.
User avatar
fizikanas
nenugalimas
Posts: 4034
Joined: 2004-05-27 19:45

2019-02-27 23:06

Svetimas wrote:
2019-02-21 14:35
Nu, va. Neužilgo galėsim ramiai išeiti į pensiją ir palikti diskusijų forumą AI. :)
Delfi zurnalistai jau gali: https://blog.openai.com/better-language-models/
User avatar
Vilius
emeritas
Posts: 5021
Joined: 2004-04-19 12:28

2019-02-28 00:01

fizikanas wrote:
2019-02-27 23:06
Delfi zurnalistai jau gali: https://blog.openai.com/better-language-models/
Paskui reikės dar vieno AI, kad galėtų perskaityt, kas ten parašyta.. Ir žmonija bus išgelbėta iš rašto vergovės.
User avatar
fizikanas
nenugalimas
Posts: 4034
Joined: 2004-05-27 19:45

2019-02-28 05:42

Vilius wrote:
2019-02-28 00:01
Paskui reikės dar vieno AI, kad galėtų perskaityt, kas ten parašyta.. Ir žmonija bus išgelbėta iš rašto vergovės.
O ko ten negalima perskaityt?
User avatar
Vilius
emeritas
Posts: 5021
Joined: 2004-04-19 12:28

2019-02-28 12:37

fizikanas wrote:
2019-02-28 05:42
O ko ten negalima perskaityt?
Perskaityt tai galima.. Bet kam taip vargti? Jei tie žmonės net nesivargina patys surašyti savo mintis - o patiki šį darbą kompiuteriui, tai kodėl kiti žmonės turėtų švaistyti laiką bandydami jas perskaityti? Gal geriau skaitymą irgi patikėti mašinoms. Žmonės tuo tarpu galės užsiimti kitais svarbiais ir dar neautomatizuotais darbais, kaip pvz.. Hmmm?
User avatar
fizikanas
nenugalimas
Posts: 4034
Joined: 2004-05-27 19:45

2019-02-28 14:48

Vilius wrote:
2019-02-28 12:37
Žmonės tuo tarpu galės užsiimti kitais svarbiais ir dar neautomatizuotais darbais, kaip pvz.. Hmmm?
Gales uzsiimti buvimu isnykusia civilizacija ;)
User avatar
Vilius
emeritas
Posts: 5021
Joined: 2004-04-19 12:28

2019-02-28 15:50

fizikanas wrote:
2019-02-28 14:48
Gales uzsiimti buvimu isnykusia civilizacija ;)
Nežinau, ar čia juokauji.. Bet taip rimtai gali atsitikti. Jei mes automatizuosim viską, ką galim padaryti, tai galiausiai patys tapsim nebereikalingi.
User avatar
vvv2
senbuvis
Posts: 1149
Joined: 2007-08-02 11:24

2019-02-28 18:44

Vilius wrote:
2019-02-28 00:01
.. Ir žmonija bus išgelbėta iš rašto vergovės.
- žmonijos "rašto vergovė" yra ne tame, kad reikia skaityti "skeptikas.org", o tame, kad viskas tapo raide. Tuo tarpu pati raidė neturi jokios prasmės. Iš čia kyla "žodžio baimė": vieni bijo "homofobas" termino, nors nesuvokia, kiti bijo "fašistas", nors irgi nežino, kad fašizmas reiškia "vienybė", todėl vieninga CCCP buvo giliai fašistinė. Dar galima senovės Indijos swastiką paminėti, kuri su Hitleriu neturi nieko bendro, tai Saulės kelionės galaktikoje simbolis.

:(
User avatar
Vilius
emeritas
Posts: 5021
Joined: 2004-04-19 12:28

2019-02-28 22:51

vvv2 wrote:
2019-02-28 18:44
CCCP
There you go again....
User avatar
Lionginas
senbuvis
Posts: 3311
Joined: 2011-10-03 09:35

2019-02-28 23:18

Dar visi labai bijo žodžio "kretinas", nors jo kilmė iš tiesų yra nuo prancūzų "crétin", alpių dialekto "chrétien", lotynų "christianus".

https://en.m.wiktionary.org/wiki/crétin

Ką reiškia "christianus" nežiūrėjau, bet spėju, kad arba "krikščionis", arba Christi + Anus, t.y. "Kristaus užpakalis".
Post Reply