Dirbtinis intelektas

[senis]

Tačiau Evaluation function nėra vienintelis skirtumas. Gali skirtis paieškos strategijos

Savaime suprantama. Plius visokiu kitokiu optimizaciju yra daroma. As ir neteigiau, kad evaluation function yra vienintelis skirtumas.

Beje vis tiek neatsisakau idejos, kad JEI zaidejas labiau vertina figuru mobiluma, nei centro kontrole,- tai ta ir galima uzprogramuoti lentos ivercio funkcijoje.
O ar sita dalyka vadinsime stiliaus / zaidimo strategijos / protelio perkelimu i programos algoritma - visiskai dzin.
Tai nepaneigia idejos, kad lentos ivercio funkcija galima uzprogramuoti taip, kad ji atspindetu konkretaus zaidejo norimus prioritetus.

Visiškai sutinku.

Liuks. Tai ir buvo mano pagrindine ideja, kuria gyniau. Chessmaster man nesvarbu, t.y. ar sia ideja galima implementuoti chessmaster`yje ar kokioj kitokioj sachmatu programoje.

Aš manau tu nelabai supratai, kame aš prieštarauju Chessmaster. Be abejo, kažkokią savybę galima užprogramuoti, ar netgi kelias savybes ir netgi suteikti kuriai nors savybei prioritetą. Dėl to aš niekada ir nesiginčijau. Mano prieštaravimas yra tame, kad tos užprogramoutos savybės neatitiks realaus grosmeisterio, nes realus grosmeisteris A) per daug įvairus, kad būtų galima išreikšti keliomis savybėmis, B) kartais elgiasi priešingai nei jam būdinga. Tai yra tam tikrais atvejais gynybinio plano grosmeisteris gali imtis atakos kombinacijų, vadinasi tam tikros būdingos tendencijos anksčiau išskirtos jo žaidime, gali ir nepasireikšti.

Viska as supratau. Del chessmaster "personazu" realumo as irgi niekada nesigincijau ir neteigiau, kad jie bus identiski realiems.
As tiesiog galvojau apie grosmeisterio "kai kuriu tendenciju" pamegdziojima ir tiek. Todel drysciau teigti, kad gal kiek ir tu mane blogai supratai.

Reziume:
Siulau fleima baigti idant sudeliojome taskus ant "i". O ateiciai palinkeciau visiems, kad nesusipratimu butu kuo maziau -
tam reikalui reikia stengtis issiaiskinti oponento ginamas tezes,- o tik po to jas kritikuoti.

[Apostatas]

As tiesiog galvojau apie grosmeisterio "kai kuriu tendenciju" pamegdziojima ir tiek.

Matai, tiesiog mano oponavimas ( oponavimas Chessmaster kūrėjams) iš esmės buvo gal kiek emocinio pobūdžio arba kažkiek susijęs su etiniais dalykais. Man pasirodė, kad jei kažkokia tai programa sugeba pamėgdžiot tam tikras tendencijas, ji neverta vadintis pasaulio čempiono vardu. Tiesiog aš šiuo atveju gal kiek piktinausi (kaip koks antiglobalistas ir antikapitalistas) tokiais įžūliais komerciniais sprendimais - pavadinti kelių savybių rinkinį pasaulio čempiono vardu. Juk iš esmės, tam kad sukurt dirbtinį intelektą lygų Aliochinui, reikia turėti tiek daug pradinių duomenų - praktiškai išanalizuoti visus veiksnius, suformavusius Aliochiną kaip asmenybę.

Reziume:
Siulau fleima baigti idant sudeliojome taskus ant "i". O ateiciai palinkeciau visiems, kad nesusipratimu butu kuo maziau -
tam reikalui reikia stengtis issiaiskinti oponento ginamas tezes,- o tik po to jas kritikuoti.

Aš tikiuosi, kad vis tik fleimo nebuvo. Bent jau mano supratimu apie fleimą:
" Flaming is a hostile and insulting interaction between Internet users" http://en.wikipedia.org/wiki/Flaming_(Internet)
bent jau kiek aš suprantu fleimingas nėra konstruktyvi diskusija, o greičiau bandymas išvesti oponentą iš kantrybės ar įžeisti ir pagrindinis fleimo ginklas - "ad hominem"
O dėl, to kad kažkiek nesupratom vienas kito, tai ko gero daugumos diskusijų pagrindinis variklis, idant gana dažnai oponentai daugiausia laiko užima aiškindamiesi vienas kito pozicijas ar supratimą apie terminus ( ar tą patį terminą supranta vienodai), o ne pateikdami argumentus, pagrindžiančius jų teiginius. Ką padarysi.

[senis]

Aš tikiuosi, kad vis tik fleimo nebuvo. Bent jau mano supratimu apie fleimą:
" Flaming is a hostile and insulting interaction between Internet users" http://en.wikipedia.org/wiki/Flaming_(Internet)
bent jau kiek aš suprantu fleimingas nėra konstruktyvi diskusija, o greičiau bandymas išvesti oponentą iš kantrybės ar įžeisti ir pagrindinis fleimo ginklas - "ad hominem"

Nu Liucipher, tavo noras gincytis - nesutramdomas Taip, ko gero pritarciau - siukslemis lyg ir nesimetem

[Vilius]

Kad nekurti naujos temos apie AI, pabandysiu atgaivinti šitą.

Visai juokingas filmukas, kaip dirbtinis intelektas mokosi vaikščioti: Emergence of Locomotion Behaviours in Rich Environments.

Ką šiaip manote apie AI? Kaip ten bus su tuo singuliarumu? Ar bus? Kada bus? Kaip tai paveiks žmonijos ateitį?.. ir t.t.

[fizikanas]

Kaip ten bus su tuo singuliarumu? Ar bus? Kada bus? Kaip tai paveiks žmonijos ateitį?

Bus, greitai, pakeis zmonijos ateiti taip, kad nebus zmonijos ateities po to.

[Augustas]

Kaip ten bus su tuo singuliarumu? Ar bus? Kada bus? Kaip tai paveiks žmonijos ateitį?

Bus, greitai, pakeis zmonijos ateiti taip, kad nebus zmonijos ateities po to.

Mūsų Fizikanas, įtariu, čia labai negražiai juokauja. O jeigu rimtai, Fizikane? Kaip Tamstai atrodo, kodėl mašina negalėtų ar neturėtų pralenkti žmogaus savo intelektu?

[fizikanas]

Mūsų Fizikanas, įtariu, čia labai negražiai juokauja. O jeigu rimtai, Fizikane? Kaip Tamstai atrodo, kodėl mašina negalėtų ar neturėtų pralenkti žmogaus savo intelektu?

Tai, kad as cia rimtai

[Vilius]

Bus, greitai, pakeis zmonijos ateiti taip, kad nebus zmonijos ateities po to.

Kaip greitai? Kaip galėtų atrodyti tas žmonijos išnykimo scenarijus?

[fizikanas]

Bus, greitai, pakeis zmonijos ateiti taip, kad nebus zmonijos ateities po to.

Kaip greitai? Kaip galėtų atrodyti tas žmonijos išnykimo scenarijus?

Taip greitai, kaip tik kasnors pagamins dirbtini intelekta, galinti save tobulinti (specialistai spekuliuoja apie ~50 metu laiko tarpsni), kas jam leis pasigerinti saves tobulinimo sugebejimus ir t.t. kas lems eksponentini to intelekto tobulejima, be virsutines ribos. O zmonijos isnykimo scenarijus seks naturaliai: busime arba isnakinti, kaip gresme DI egzistavimui, panasiai, kaip mes isnaikinom, koki ten maro virusa, arba isnyksim, kaip salutine pasekme DI veiklos, panasiai, kaip mes esame netycia isnaikine daugybe rusiu, tersdami gamta ar kirsdami medzius. Ir uzbegant uz akiu: ne dirbtinis intelektas netures morales normu, kurios ji sulaikys nuo zmoniu isnaikinimo.

[Augustas]

Ir uzbegant uz akiu: ne dirbtinis intelektas netures morales normu, kurios ji sulaikys nuo zmoniu isnaikinimo.

Ir kas mums trukdo įdiegti dirbtiniam intelektui tas moralės normas, kad žmonių neliestų?

[fizikanas]

Ir kas mums trukdo įdiegti dirbtiniam intelektui tas moralės normas, kad žmonių neliestų?

Gal zinai, kokios yra tos normos, kurias reiketu idiegti? Arba kurio zmogaus, atsizvelgiant, kad jos yra subjektyvios? Net jei tai isvis teoriskai imanoma padaryti (kas yra dar neatsakytas klausimas), tai padaryti bus vistiek kurkas sudetingiau, nei dirbtini intelekta be morales normu. Todel greiciausiai pirmesnis bus sukurtas butent toks.

[Sejanus]

O DI automatiškai turės kažkokius išlikimo instinktus, ar juos irgi reikės programuoti atskirai?

[fizikanas]

O DI automatiškai turės kažkokius išlikimo instinktus, ar juos irgi reikės programuoti atskirai?

Atskirai programuoti nereikes. Sakykime DI turi vieninteli tiksla - pagaminti kuo daugiau kopeciu. Kadangi yra intelektualus, jis supras, kad jei jis pats neegzistuos, tai kopeciu nepagamins, todel islikimo "instinktas" atsiras savaime, kaip sub-tikslas is kopeciu gaminimo tikslo.

[Augustas]

Ir kas mums trukdo įdiegti dirbtiniam intelektui tas moralės normas, kad žmonių neliestų?

Gal zinai, kokios yra tos normos, kurias reiketu idiegti? Arba kurio zmogaus, atsizvelgiant, kad jos yra subjektyvios? Net jei tai isvis teoriskai imanoma padaryti (kas yra dar neatsakytas klausimas), tai padaryti bus vistiek kurkas sudetingiau, nei dirbtini intelekta be morales normu. Todel greiciausiai pirmesnis bus sukurtas butent toks.

Jei pirmesnis bus pagamintas toks be moralės normų, tai jį bus galima paprasčiausiai išjungti, kol moralės normos bus sukurtos ir įdiegtos. O moralės norma iš esmės tik viena - neliesti (t.y., nežaloti, nežudyti) žmonių.

[Sejanus]

O DI automatiškai turės kažkokius išlikimo instinktus, ar juos irgi reikės programuoti atskirai?

Atskirai programuoti nereikes. Sakykime DI turi vieninteli tiksla - pagaminti kuo daugiau kopeciu. Kadangi yra intelektualus, jis supras, kad jei jis pats neegzistuos, tai kopeciu nepagamins, todel islikimo "instinktas" atsiras savaime, kaip sub-tikslas is kopeciu gaminimo tikslo.

Bet kadangi jis yra „intelektualus“, tai supras, kad kopėčių reikia žmonėms, ir jei nebus žmonių, kopėčių gamyba praras prasmę.

Žinok, siaubo B-filmuose esu matęs mažiau pritemptų paaiškinimų dėl AI keliamos grėsmės nei tu čia mėgini pateikti

AI yra įrankis kaip ir bet koks kitas, kokį pasidarysime, tokį turėsime. Bet jei nesusinaikinome branduolinėmis bombomis, tai turiu vilties, kad ir AI programuos ne visiški moronai. Ir resursų kiekis bei kitos galimybės AI disponavimui bus pakankamai apribotos.

Ta proga norėčiau visiems rekomenduoti Robert Sheckley apsakymą „Watchbird“ (1953), lietuviškai atrodo buvo išleistas kaip „paukštsargiai“. Fantastinė komedija apie AI keliamus pavojus. Santrauką pateikčiau jei tik būtų galimybė ją paslėpti po kokiu nors [spoiler] tagu *atsikosėja, truputį pakelia balsą* sakau jei šiame forume būtų spoiler tagas *apsidairo pažiūrėti ar Vilius išgirdo*

[fizikanas]

Jei pirmesnis bus pagamintas toks be moralės normų, tai jį bus galima paprasčiausiai išjungti, kol moralės normos bus sukurtos ir įdiegtos.

Jei jis jau bus sukurtas ir veikiantis, tai kas ji isjungs? Nebent kazkas protingesnis uz ji, bet jis juk eksponentiskai protingejantis dirbtinis intelektas. Kas bus uz ji protingesnis?

O moralės norma iš esmės tik viena - neliesti (t.y., nežaloti, nežudyti) žmonių.

O, kad viskas butu taip paprasta. Nejau nematei nei vieno filmo, kur robotui uzprogramuoja taisykle nedaryti zalos zmogui ir tada jis isnaikina visa zmonija, nes suvokia, kad zmogui daugiausiai zalos daro zmogus? Esme, kad tai, kas mums skamba savaime suprantama (pvz. nezudyk) mums yra suprantama del visos kompleksines morales normu sistemos, kuria turime (kuri dar maza to yra subjektyvi ir kiekvienam zmogui skiriasi). Bet mes patys jos tiek gerai nesuprantame, ka jau kalbeti apie jos uzprogramavima dirbtiniui intelektui. Atsimink, kad hitlerio morales normos buvo kurkas artimesnes vidutinio zmogaus morales normoms, nei kokionors roboto kadanors bus.

[fizikanas]

Bet kadangi jis yra „intelektualus“, tai supras, kad kopėčių reikia žmonėms, ir jei nebus žmonių, kopėčių gamyba praras prasmę.

Turbut praleidai sakini, tai pakartosiu: "Sakykime DI turi vieninteli tiksla - pagaminti kuo daugiau kopeciu."
Ir ne, sitas dirbtinis intelektas neturi magiskai zmogisku morales normu ir zinojimo kaip elgtis yra "teisinga". "Kuo daugiau kopeciu" jam reiskia, "kuo daugiau kopeciu". O ne "kuo daugiau kopeciu, su salyga, kad bus kas jas naudos, nu nes kam tada jas gamint, jei ne del zmogaus". Cia tau ne kokia lsdp partija, kur viskas del zmogaus.

Žinok, siaubo B-filmuose esu matęs mažiau pritemptų paaiškinimų dėl AI keliamos grėsmės nei tu čia mėgini pateikti

Oho, taip anksti diskusijoje, taip zemai puolam?

AI yra įrankis kaip ir bet koks kitas, kokį pasidarysime, tokį turėsime.

Kalbi apie narrow DI, ale paveiksliuku atpazinimas. As kalbu apie general DI, ty savarankiskai mastyti gebanti koda, turinti uzprogramuota kazkoki tiksla, taciau ne tai, kaip jis turetu ta tiksla pasiekti.

Bet jei nesusinaikinome branduolinėmis bombomis, tai turiu vilties, kad ir AI programuos ne visiški moronai. Ir resursų kiekis bei kitos galimybės AI disponavimui bus pakankamai apribotos.

Na noreciau ir as tureti tiek optimizmo. Deja branduoline bomba, net labai didele, gali sunaikinti vos viena miesta, o jai pagaminti reikia sodrinto urano, kurio gamyba reikalauja milzinisku resursu. Tuo tarpu suprogramuoti AI uztenka kompo, tokio galingumo, kuri mooro desnio deka anksciau ar veliau, kiekvienas piplys tures savo kiseneje.

(1953)

Na gal ten ir idomus filmas, bet zinok per 64 metus buvo padaryta siektiek progreso kompiuteriu moklso srityje. Manau verta apsvarstyti sioki toki ziniu atsinaujinima.

[vapula]

Gerai, sakykime tas DI yra zilijoną kartų pranašesnis už žmogaus inteleką, per kelias minutes parašys kokią grand unified theory. Bet kurioje vietoje iš to pradeda plaukti pesimizmas ir panika apie žmonijos išnaikinimą? Ką jis kopėčiomis tą žmoniją negyvai apmėtys? Ta prasme, nesuprantu, kodėl nebus galimą į tą super intelektą žiūėti kaip į eilinį žmonių sukurtą dalyką, kurį galima išjungi ir įjungti, net jei jis apeis kokius nors kitokius sukurtus saugiklius vien dėl to kad protingas. Tas intelektas turės būti mašina, o mašinos paprastai turi fizinį off mygtuką, jai reikia energijos ir t.t. Ką rimtai tie fizikano ekspertai mano, kad po 50 metų bus sukurtas toks DI, kuris sau pasistatys elektrinę?