Re: Dirbtinis intelektas
Posted: 2019-02-14 21:49
abejojame nuo 2004-ųjų
https://www.skeptikas.org/forum/
- manau tiks prie intelekto:
Vertimas apytikslis:
Iš esmės neatsakei į klausimą.fizikanas wrote:Nes tada butu "Nores Y".Svetimas wrote: 1. Kodėl priartinančius prie X, o ne prie Y?
Aš klausiau AI kontekste, o ne pavyzdžio žmonių kontekste, kas yra "supratimas". Kaip jį užprogramuoti? Įvairių intuityvių pasvarstymų žmogiškos patirties kontekste (kuo skiriasi supratimas nuo nesupratimo) aš ir pats galiu be vargo prigeneruoti. Bet kaip tą "supratimą" išversti į mašininę kalbą? Man, kaip nemažai susiduriančiam su algoritmizavimu savo darbe, šitas klausimas atrodo labai sudėtingas.fizikanas wrote:Na pavyzdys, sakykime du zmones mato sakmatu lenta, taciau tik vienas is ju moka zaisti ir zino taisykles. Vienas ta vaizda supras, kaip ismarginta lenta su keistom figurelem, kitas tai supras, kaip baltas arklys daro saka juodam karaliui. Vienas turi modeli, i kuri gali irasyti sita informacija, kitas ne. Toks ir skirtumas tarp supratimo ir nesupratimo. Nieko bendro su emocijomis.Svetimas wrote: 2. X aprašyti kokiu nors modeliu yra N būdų. Vadinasi "X supratimas" tarsi pagal tave išeina yra "informacijos apie X suvedimas į tam tikrą pasirinktą modelį" iš daugelio galimų? Ar įvairūs galimi "X suvedimai į modelį" kaip nors diferencijuotini tarpusavyje? Kas tada yra nesupratimas ir kuo jis iš esmės skiriasi nuo supratimo?
Pagal tave tarsi išeitų, jog AI naudoja žaidimų teoriją, kad atskirtų "partnerį" nuo "konkurento"?fizikanas wrote:Kuo partneris skiriasi nuo konkurento apibrezia zaidimu teorija, kas yra sausa matematika, neturinti nieko benrdo su emocijomis. Gerio ir blogio savokos cia irgi nelabai i tema, juk visiskai nekalbame apie emocijas.Svetimas wrote: 3. Ir kas iš to plaukia? Gerai tai ar blogai? Kas tada yra "partneris"? Kuo jis skiriasi nuo "konkurento"? Ar apskritai tam AI egzistuoja toks dalykas kaip "partneris"? Kodėl? Ar lygiai toks pats AI klonas kitame superkompiuteryje yra "konkurentas", ar ne? Ar kuris nors to paties AI pakankamai stambus ir savarankiškas neuroninio tinklo segmentas tame pačiame superkompiuteryje yra "konkurentas", ar ne? Kodėl?
Kokiu būdu faktas, ar daug liko resursu, ar mažai, įtakoja AI sprendimus? Gal kaip tik gerai? Pvz. išnaudosim kiek įmanoma greičiau vienus resursus ir imsimės kitų. Vien tik pats šis faktas neturi prasmės be konteksto.fizikanas wrote:Buvo resursu X, liko resursu X - daug, reiskia iseikvota daug resursu. Pati sausiausia matematika, kokia tik gali buti savo sausumu. Nesuprantu prie ko cia gerio ir blogio savokos. Ar tuo labiau emocijos.Svetimas wrote: 4. Ir kas iš to plaukia? Gerai tai ar blogai?
Aš tavo pagrindinę mintį dėl AI pagrindinio bazinio tikslo, supratau. Bet aš tavęs klausiau dėl "turės tikslą išlikti" - savirefleksijos, kai abu AI siekia tokio paties bazinio tikslo.fizikanas wrote:Na jeigu tie kiti tikslai yra uzprogramuoti, kaip patys svarbiausi to AI tikslai, tai tuo jie ir yra svarbus. Cia tautologija.Svetimas wrote: 5. O kuo tie kiti tikslai tokie svarbūs? Jei egzistuoja tokio paties AI klonas kitame superkompiuteryje (siekia tų pačių tikslų) ir neužtenka resursų veikti jiems abiems?
Jei abu AI turi tiksla, "kad stovetu kuo didesnis kalnas" tai abu statys viena dideli kalna. Jei vienas turi tiksla "pastatyti kuo didesni kalna A", o kitas "pastatyti kuo didesni kalna B", tai konkuruos, ar kauriaus, ar deresis del resursu. Konkretus tikslo uzprogramavimas ir nulems ju elgesi.
Aš klausiu ne apie gėrį ir blogį, o apie sugebėjimą įvertinti, kaip ir koks sprendimas seka iš to, kad yra "1" (arba "2" arba "3"). Ir apskritai sugebėjimo interpretuoti, kas yra "1", "2" ar "3". Bepigu tau sakyti, kad čia paprasčiausia "matematinė konstrukcija", kai kalboje apie tą "matematinę konstrukciją" dalyvauja jų interpretatoriai ("tu" ir "aš"), kurie tas matematines konstrukcijas supranta (moka interpretuoti). Tokiu būdu po "matematinė konstrukcija" visa ta iterpretacijos sudėtingybė (kuri būtent mane ir domina) lieka gudriai "pakasta po kilimu".fizikanas wrote:Vel, prie ko cia geris ir blogis? Cia tiesiog skaicius, paprasciausia matematine konstrukcija. Kur tu tuos gerius ir blogius vis matai?Svetimas wrote: 6. Ir kas iš to plaukia? Kuo tai blogiau/geriau už 2, 3 ir t.t.?
Iš kur žmogus žino ar prognozuoja, kas jam yra diskomfortas ar kas jam būtų, be patirties?fizikanas wrote:Tai ne diskomforto patirtis itakoja zmogaus tikslus, o zmogaus tikslas yra vengti diskomforto. Diskomforta gali apibrezti, kaip "patirtis, kurios zmogus yra uzprogramuotas vengti"Svetimas wrote:Ne vien jas minėjau. Kalbėjau ir apie tam tikrą prasminį informacijos įvertinimą. Be emocijų ir tam tikra fiziologinio diskomforto ar komforto patirtis (pvz. jau minėtas alkis; nebent tai irgi priskirsime prie emocijų) galbūt įtakoja tam tikrą vertinamąjį aspektą.
Ech, žaidimų teorija naudingumo funkcijos yra įdomūs dalykai. Esu šiek tiek su šitais dalykais susidūręs. Bet esu beveik tikras, kad nei tikslų, nei žaidimų teorijos (kurios, šiaip, pirminiai naudotojai ir interpretuotojai esam mes, žmonės) sudėtingybių nei naudingumo funkcijų (nebent tu neuroninius tinklus priskiri prie savotiškų naudingumo funkcijų) tas Google Deep Mind nenaudojo, kad išmoktų žaisti šachmatais, Go ir ant kažkurio "StarCraft" žemėlapio. Nebent tu paneigsi šitą mano nuomonę? Be to Google Deep Mind yra specializuotas AI. Didelis klausimas kaip viskas pasisuktų, jeigu būtų tikslas suprogramuoti universalesnį AI.fizikanas wrote:Tai gerai, emocijos yra misle, tuo tarpu AI tikslai, zaidimu teorija, naudingumo funkcijos yra sausa matematika, be jokios mistikos ir ju uztenka pragraminei irangai priimti intelektualius sprendimus.Svetimas wrote: Kiek supratau, net ir emocijos yra nemaža mįslė ir rimtesnių bei pakankamai solidžių, išbaigtų ir pilnesnių emocijų mechanizmų modelių mokslas irgi berods dar neturi.
Tiek aš, tiek tu, surastume daugybę pavyzdžių, kuomet žmonės interpretuodami dalykus, "kuriuos pastebi savo akimis", labai smarkiai klysta. Beje, prie ko čia mini lyčių studijas? Kaip tai susiję su tuo, apie ką mes kalbam?fizikanas wrote:Tikrai ne lyciu studijom, tiek pasakysiu. Siaip kartais gali ir pastebeti zmogus dalykus savo akimis. Nebutina neatsikartojanti psichologini "tyrima" surasti, kad tam pastebejimui "pagristi".Svetimas wrote: Kuo remiesi, kad moterys turi daugiau emocijų nei vyrai? Lyg ir supratau, kad psichologijos mokslas tau kaip ir ne rodiklis, bet visgi įdomu, kuo grindi tokius savo teiginius?
Iš kur žinai, kad realybėje taip paprasčiausiai nėra? Kuo remiesi? Galėtum bent paprasčiausiai paneigti kažkaip mano teiginius, jei "realybėje taip nėra".fizikanas wrote:Sakyciau ieskai slieku, vienoje vietoje. Bet juk pats surpanti, kad jei intelektui butu butinos emocijos, tai greiciausiai akivaizdziai matytusi teigiama koreliacija tarp emocionalumo ir intelektualumo, bet realybeje taip paprasciausiai nera.Svetimas wrote: Kiek girdėjau, aukštesnis vyrų IQ iš esmės aiškinamas didesne gabumų dispersija nuo vidurkio (didesnis procentas su didesniu ir mažesniu IQ). Be to gali būti ir daugiau papildomų paaiškinimų (pvz. šiek tiek skirtingas mąstymo pobūdis, kitoks tikslų formavimas ir jų siekimas).
Nebūsiu. Kodėl taip pamanei? Gan keista iš tavęs girdėti tokias prielaidas, kai net mano anksčiau pateiktose nuorodose apie migdolinius kūnus smegenyse ir pan. (jeigu būtum žiūrėjęs), pakankamai aiškiai kalbama apie biologinius vyrų ir moterų skirtumus. Kiek žinau, populiariosioms "lyčių studijoms", kurios šiame forume dažnokai linksniuojamos, šitie išsakomi teiginiai nelabai pagal plauką.fizikanas wrote:Ar nebusi cia jau kazkokiu lyciu studiju pasiskaites?Svetimas wrote: Neva vyrai tik dalies savo emocijų dėl kažkokių priežasčių neparodo, labiau kontroliuoja, užgniaužia, jas sunkiau interpretuoja ir galbūt prie kitokių sąlygų, aplinkybių jas išreiškia.
Nu, va. Neužilgo galėsim ramiai išeiti į pensiją ir palikti diskusijų forumą AI.melodetektorius wrote: ↑2019-02-14 21:49Manau tai turetu buti jums idomu:
https://www.delfi.lt/mokslas/technologi ... d=80352831
Tai, kad ir Feinmanas cia neatsake i klausima, kodel magnetai stumia vienas kitaSvetimas wrote: ↑2019-02-21 14:27Iš esmės neatsakei į klausimą.
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs.
Nesu AI programuotojas, tai i sita klausima neatsakysiu. Bet jeigu net zmoniu kontekste galime apibrezti "supratima" be emociju, tai tuo labiau galime buti tikri, kad tai imanoma padaryti AI atveju. Atsimink, kad visu imanomu AI aibe yra daug eiliu didesne uz visu imanomu zmoniu intelektu aibe. Tiksliau zmoniu intelektu aibe yra AI poaibis - simuliuotos zmogaus smegenys kompiuteryje butu tokio AI pavyzdys.
Beabejo, ka daugiau? https://en.wikipedia.org/wiki/Cooperative_game_theory
Zaidimu teorija turi formules, kurias gali imti ir serti kompiuteriui. Va "emocijos" tai tikras burtazodis.
Tai zinoma, kad tai priklauso nuo AI. Vienas gal turi tiksla isnaudoti kuo daugiau resursu, kitas kuo maziau, trecias vartoja resursus pagal Rand() funkcija. Beabejo, kad AI kodas yra butinas kontekstas, kad nuspeti ka konkretus AI darys su faktu apie resursu kieki. Bet kodel mes apie tai kalbam? Kur ta vieta, kur tavo manymu magiskai atsiranda emocijos?
Tai nuo bazinio tikslo ir priklauso ar tures tiksla islikti. Jei AI X bazinis tikslas yra pastatyti kalna A ir jis matys, kad AI Y irgi turi bazini tiksla pastatyti ta pati kalna A, ir savo buvimu AI X nepadeda, o trukdo AI Y pastatyti kalna A, tai teoriskai imanoma tokia situacija, kur AI X nusprestu susinaikinti. Bet tai sunkiai isivaizduojama realybeje, dazniausiai AI X greiciausiai gales buti naudingas kalno A statyme, todel nores uzsitikrinti savo egzistavima, tam, kad galetu uztikrinti kalno A pastatyma.
Gresmingas tuo, kad visi 4 zodziai sitame sakinyje yra burtazodziai, kuriuos yra N^100 budu istransliuoti i AI koda, kurie butu katastrofiski zmonijai ir koks vienas geras budas, kurio nezinome ir greiciausiai niekada nesuzinosime. Ir neturime prabangos jo suzinoti bandymu ir klaidu metodu, nes pirma klaida bus paskutine. Mazdaug tiek pesimizmo man dar pavyko neisbarstytiSvetimas wrote: ↑2019-02-21 14:27Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
Na gerai, kad domina, bet as cia nelabai turiu ka pridurti. Galiu tik pasakyti, kad labiau pasigilines grieicausiai nerasi, kad kazkur tame interpretavime magiskai gimsta emocijos.Svetimas wrote: ↑2019-02-21 14:27Aš klausiu ne apie gėrį ir blogį, o apie sugebėjimą įvertinti, kaip ir koks sprendimas seka iš to, kad yra "1" (arba "2" arba "3"). Ir apskritai sugebėjimo interpretuoti, kas yra "1", "2" ar "3". Bepigu tau sakyti, kad čia paprasčiausia "matematinė konstrukcija", kai kalboje apie tą "matematinę konstrukciją" dalyvauja jų interpretatoriai ("tu" ir "aš"), kurie tas matematines konstrukcijas supranta (moka interpretuoti). Tokiu būdu po "matematinė konstrukcija" visa ta iterpretacijos sudėtingybė (kuri būtent mane ir domina) lieka gudriai "pakasta po kilimu".
Na is to ir zino - jei kazka patyres nori to vengti, vadinasi tai diskomfortas.
Tai, ka tu manai, kad jei situ dalyku nenaudojo, tai naudojo emocijas? Butu labai magiskas spejimas.Svetimas wrote: ↑2019-02-21 14:27Ech, žaidimų teorija naudingumo funkcijos yra įdomūs dalykai. Esu šiek tiek su šitais dalykais susidūręs. Bet esu beveik tikras, kad nei tikslų, nei žaidimų teorijos (kurios, šiaip, pirminiai naudotojai ir interpretuotojai esam mes, žmonės) sudėtingybių nei naudingumo funkcijų (nebent tu neuroninius tinklus priskiri prie savotiškų naudingumo funkcijų) tas Google Deep Mind nenaudojo, kad išmoktų žaisti šachmatais, Go ir ant kažkurio "StarCraft" žemėlapio. Nebent tu paneigsi šitą mano nuomonę? Be to Google Deep Mind yra specializuotas AI. Didelis klausimas kaip viskas pasisuktų, jeigu būtų tikslas suprogramuoti universalesnį AI.
Tai zinoma, as kazkada galvojau, kad pamaciau katina, o ten gulejo nesvari maike ant zemes. Aisku, kad tokiu pavyzdziu galime rasti ir daugiau. Ir kas is to? Nebesinaudoti savo regos sistema nuo siol?
Nes is to kontingento sneketojai dazniausiai nori paneigti bet kokius biologinius skirtumus tarp vyru ir moteru.
Arba viskas paprasciau - vyrai patiria maziau emociju, nei moterys ir tiek.
Atspek: dvi sesutes, per kalneli nesueina.
Ar irodinejimo nasta jau niekam nebesventa sitam forume? Tu teigi apie kazkokia koreliacija tarp emociju ir intelekto, tai prasau ir pagrisk sita teigini.
- universalaus intelekto atžvilgiu, dirbtinio ar iškastinio, "įrodymas" nėra joks įrodymas.
Bet užtat kaip pažiūrėjo į šitą klausimą. Gal tavo požiūriu ir neatsakė sukramtytai, bet apipynė šį klausimą naujais klausimais, atsakymais ir pavyzdžiais, kurie skatina giliau susimąstyti apie su juo susijusius dalykus ir pažiūrėti į jį ne taip įprastai kasdieniškai. Adventures of the currious character nuotaika trykšta jau vien iš šio epizodo.fizikanas wrote:Tai, kad ir Feinmanas cia neatsake i klausima, kodel magnetai stumia vienas kitaSvetimas wrote: Iš esmės neatsakei į klausimą.
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs.
Iš tavo atsakymų (visame komentare) įtariu, kad gal aš šitoje temoje tave šiek tiek klaidinu ir painioju, nes kontrastuoju tarp AI ir žmonių kontekstų. Šioje temoje aš kažkuria prasme bandžiau vienu ypu nušauti du zuikius, sugretindamas ir nagrinėdamas sau įdomius AI ir žmonių "mąstymo" klausimų kontekstus lygiagrečiai.fizikanas wrote:Nesu AI programuotojas, tai i sita klausima neatsakysiu. Bet jeigu net zmoniu kontekste galime apibrezti "supratima" be emociju, tai tuo labiau galime buti tikri, kad tai imanoma padaryti AI atveju.Svetimas wrote: Aš klausiau AI kontekste, o ne pavyzdžio žmonių kontekste, kas yra "supratimas". Kaip jį užprogramuoti?
Šiaip, žaidimų teorija labai plati, įdomi sritis ir prašosi atskiros temos. Bet nematau ryšio tarp tavo nuorodos ir to, kad AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento". Gal tu gali man padėti tą ryšį pamatyti? Jau minėjau, jog manau, kad Google Deep Mind AI žaidimų teorijos nenaudojo. Nebent ja galėjo pasinaudoti žmonių komanda, kad apibrėžtų "žaidimų aikštelę" AI.fizikanas wrote:Beabejo, ka daugiau? https://en.wikipedia.org/wiki/Cooperative_game_theorySvetimas wrote: Pagal tave tarsi išeitų, jog AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento"?
fizikanas wrote:Zaidimu teorija turi formules, kurias gali imti ir serti kompiuteriui. Va "emocijos" tai tikras burtazodis.Svetimas wrote: Man atrodo, kad tu "žaidimo teoriją" čia naudoji kaip kokį burtažodį, kad atsimuštum nuo mano klausimo.
Pagal paaiškinimus aukščiau, manau, jog AI nesugebės efektyviai formuoti savo "tikslų" be "supratimo", dėl kurio aš čia laužau galvą, ir kažkokio "limbic system" analogo. Tiesiog pasiklys informacijos jūroje ir pradės generuoti neadekvačią išvestį, mūsų žmonių akimis. Tai kažkuria prasme kaip ir sutaptų su tavo mintim, kad rezultatas bus ne tas, kuris mums patiktų. Bet, skirtingai nei tu, aš manau, kad "sustrateguoti" pasaulio užvaldymo planų, tokiam AI su "mimikriniu intelektu" neužteks išmonės.fizikanas wrote:Tai zinoma, kad tai priklauso nuo AI. Vienas gal turi tiksla isnaudoti kuo daugiau resursu, kitas kuo maziau, trecias vartoja resursus pagal Rand() funkcija. Beabejo, kad AI kodas yra butinas kontekstas, kad nuspeti ka konkretus AI darys su faktu apie resursu kieki. Bet kodel mes apie tai kalbam? Kur ta vieta, kur tavo manymu magiskai atsiranda emocijos?Svetimas wrote: Kokiu būdu faktas, ar daug liko resursu, ar mažai, įtakoja AI sprendimus? Gal kaip tik gerai? Pvz. išnaudosim kiek įmanoma greičiau vienus resursus ir imsimės kitų. Vien tik pats šis faktas neturi prasmės be konteksto.
Aha. Ir tas AI nesiteiks komunikuoti su žmonija, kad išsiaiškintų, ar artėja prie bazinio savo tikslo?fizikanas wrote:Gresmingas tuo, kad visi 4 zodziai sitame sakinyje yra burtazodziai, kuriuos yra N^100 budu istransliuoti i AI koda, kurie butu katastrofiski zmonijai ir koks vienas geras budas, kurio nezinome ir greiciausiai niekada nesuzinosime. Ir neturime prabangos jo suzinoti bandymu ir klaidu metodu, nes pirma klaida bus paskutine. Mazdaug tiek pesimizmo man dar pavyko neisbarstytiSvetimas wrote: Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
O del konkreciu pavyzdziu, tai AI sita tiksla gali suprasti, kaip kancios, kuria jaucia zmones minimizavima, is ko seka vienintelis loginis sprendimas. Ar itari koks?
Delfi zurnalistai jau gali: https://blog.openai.com/better-language-models/
Paskui reikės dar vieno AI, kad galėtų perskaityt, kas ten parašyta.. Ir žmonija bus išgelbėta iš rašto vergovės.fizikanas wrote: ↑2019-02-27 23:06Delfi zurnalistai jau gali: https://blog.openai.com/better-language-models/
Perskaityt tai galima.. Bet kam taip vargti? Jei tie žmonės net nesivargina patys surašyti savo mintis - o patiki šį darbą kompiuteriui, tai kodėl kiti žmonės turėtų švaistyti laiką bandydami jas perskaityti? Gal geriau skaitymą irgi patikėti mašinoms. Žmonės tuo tarpu galės užsiimti kitais svarbiais ir dar neautomatizuotais darbais, kaip pvz.. Hmmm?
- žmonijos "rašto vergovė" yra ne tame, kad reikia skaityti "skeptikas.org", o tame, kad viskas tapo raide. Tuo tarpu pati raidė neturi jokios prasmės. Iš čia kyla "žodžio baimė": vieni bijo "homofobas" termino, nors nesuvokia, kiti bijo "fašistas", nors irgi nežino, kad fašizmas reiškia "vienybė", todėl vieninga CCCP buvo giliai fašistinė. Dar galima senovės Indijos swastiką paminėti, kuri su Hitleriu neturi nieko bendro, tai Saulės kelionės galaktikoje simbolis.