Manau tai turetu buti jums idomu:
https://www.delfi.lt/mokslas/technologi ... d=80352831
Dirbtinis intelektas
-
melodetektorius
- pradedantis
- Posts: 248
- Joined: 2013-10-14 13:54
- Contact:
- manau tiks prie intelekto:
"If at first, the idea is not absurd, then there is no hope for it." - Albert Einstein.
"Jei pradžioje idėja nėra absurdiška, tai jai nėra vilties." - Albertas Einšteinas.
"An idea, that is not dangerous, is unworthy of being called an idea at all." - Oscar Wilde.
„Idėja, kuri nėra pavojinga, yra neverta būti vadinama idėja“. - Oskaras Vaildas.
"The way to get good ideas is: get lots of ideas and throw the bad ones away." - Linus Pauling.
„Gerų idėjų gavimo būdas: gauti daug idėjų ir išmesti blogas.“ - Linus Pauling.
"There is one thing, stronger than all the armies in the world: that is an idea, whose time has come." - Victor Hugo.
"Yra vienas dalykas, stipresnis už visas pasaulio armijas: tai yra idėja, kurios laikas atėjo." - Viktoras Hugo.
"No grand idea was ever born in a conference, but a lot of grand ideas have died there." - F. Scott Fitzgerald.
„Konferencijose niekada nebuvo gimę jokios didžiosios idėjos, tačiau ten daug didžių idėjų mirė.“ - F. Scott Fitzgerald.
"It is the essence of genius: make use of the simplest ideas."- Charles Peguy.
„Genijaus esmė: naudokite paprasčiausias idėjas“. - Charles Peguy.
"Nothing is more dangerous than an idea, when it is the only one You have." - Emile Chartier.
„Nieko nėra pavojingiau nei idėja, kai ji yra vienintelė ką Jūs turit.“ - Emile Chartier.
"A pile of rocks ceases to be a rock, when somebody contemplates it with the idea of a cathedral in mind." - Antoine St. Exupery.
"Akmenų krūva nustoja būti krūva, kai kas nors apmąsto ją mintyje kaip naują katedrą." - Antoine St. Exupery.
"Money never starts an idea; it is the idea starts the money." - William J. Cameron.
„Pinigai niekada nepradeda idėjos; tai idėja pradeda pinigus“. - William J. Cameron.
"You can kill a man, but you can't kill his idea." - Medgar Evers.
"Jūs galite nužudyti žmogų, bet jūs negalite nužudyti jo idėjos." - Medgar Evers.
"An idea is salvation by imagination." - Frank Lloyd Wright.
"Idėja yra išsigelbėjimas vaizduotės dėka." - Frank Lloyd Wright.
Vertimas apytikslis:
„Man patinka citatos, nes tai yra džiaugsmas rasti mintis, kurios gražiai išreikštos didžių autoritetu, kurie yra pripažinti išmintingesniais už mane“. - Marlene Dietrich.
Iš esmės neatsakei į klausimą.fizikanas wrote:Nes tada butu "Nores Y".Svetimas wrote: 1. Kodėl priartinančius prie X, o ne prie Y?
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs.
Aš klausiau AI kontekste, o ne pavyzdžio žmonių kontekste, kas yra "supratimas". Kaip jį užprogramuoti? Įvairių intuityvių pasvarstymų žmogiškos patirties kontekste (kuo skiriasi supratimas nuo nesupratimo) aš ir pats galiu be vargo prigeneruoti. Bet kaip tą "supratimą" išversti į mašininę kalbą? Man, kaip nemažai susiduriančiam su algoritmizavimu savo darbe, šitas klausimas atrodo labai sudėtingas.fizikanas wrote:Na pavyzdys, sakykime du zmones mato sakmatu lenta, taciau tik vienas is ju moka zaisti ir zino taisykles. Vienas ta vaizda supras, kaip ismarginta lenta su keistom figurelem, kitas tai supras, kaip baltas arklys daro saka juodam karaliui. Vienas turi modeli, i kuri gali irasyti sita informacija, kitas ne. Toks ir skirtumas tarp supratimo ir nesupratimo. Nieko bendro su emocijomis.Svetimas wrote: 2. X aprašyti kokiu nors modeliu yra N būdų. Vadinasi "X supratimas" tarsi pagal tave išeina yra "informacijos apie X suvedimas į tam tikrą pasirinktą modelį" iš daugelio galimų? Ar įvairūs galimi "X suvedimai į modelį" kaip nors diferencijuotini tarpusavyje? Kas tada yra nesupratimas ir kuo jis iš esmės skiriasi nuo supratimo?
Man neįdomūs fiktyvūs scenarijai, kuomet, tarkim, viena iš dviejų programų, kurios tarpusavyje žaidžia šachmatais, "nežino" žaidimo taisyklių. Žaidimo taisykles "žino" ir paprasčiausia neapsimokanti (ne AI) šachmatų programa. Tai, ką tu vadini žaidimo taisyklių "supratimu", yra, sakyčiau, greičiau mechaniškas apribojimų ir "svirtelių" sudėliojimas ir "žaidimo lauko" apibrėžimas.
Šachmatų žaidimo taisyklės nėra adekvatus pavyzdys. Jei kalbame analogijomis, tai skirtingų žaidiminių kombinacijų šachmatuose buvimas kiekvienu žaidimo momentu, sugebėjimas jas diferencijuoti ir vertinti (kuo viena situacija yra geresnė ar blogesnė už kitą ir labiau verta dėmesio), bei sugebėjimas dinamiškai keisti (apmokyti) ir taikyti šituos vertinimus, ir būtų tai, ko aš klausiau. Sakykim, kad nusižiūrėję į gamtą (biologinių smegenų neuronus), šitą dinamišką apsimokymą AI išsprendžiame (nusikosėję "inžinerinį sprendimą" iš gamtos) pakeisdami kokio nors dirbtinio neuronų tinklo apsimokymu. Bet tuomet kalbėkim ir apie universalų AI, kuris išmoktų ir mokėtų žaisti ir šachmatais, ir Go, ir "StarCraft" (ant įvairių žemėlapių), ir sugebėtų dalyvauti debatuose, ir vairuoti mašiną ir t.t. ir pan. Ant kokio kamieno/šakų reikėtų "kabinti" visus tuos aukščiau minėtus specializuotus neuroninius tinklus ir kaip reikėtų reguliuoti jų valdymą?
Beje, kad jau pradėjom nusikosėti kai kuriuos inžinerinius sprendimus (neuroninius tinklus) iš gamtos, tai galime pasidomėti ir kitais.
Pvz. žmonėse ir gyvūnuose yra smegenų sritys, kurios siejamos su gana mįslinga Limbic system.
Pagal tave tarsi išeitų, jog AI naudoja žaidimų teoriją, kad atskirtų "partnerį" nuo "konkurento"?fizikanas wrote:Kuo partneris skiriasi nuo konkurento apibrezia zaidimu teorija, kas yra sausa matematika, neturinti nieko benrdo su emocijomis. Gerio ir blogio savokos cia irgi nelabai i tema, juk visiskai nekalbame apie emocijas.Svetimas wrote: 3. Ir kas iš to plaukia? Gerai tai ar blogai? Kas tada yra "partneris"? Kuo jis skiriasi nuo "konkurento"? Ar apskritai tam AI egzistuoja toks dalykas kaip "partneris"? Kodėl? Ar lygiai toks pats AI klonas kitame superkompiuteryje yra "konkurentas", ar ne? Ar kuris nors to paties AI pakankamai stambus ir savarankiškas neuroninio tinklo segmentas tame pačiame superkompiuteryje yra "konkurentas", ar ne? Kodėl?
Man atrodo, kad tu "žaidimų teoriją" čia naudoji kaip kokį burtažodį, kad atsimuštum nuo mano klausimo.
Kokiu būdu faktas, ar daug liko resursu, ar mažai, įtakoja AI sprendimus? Gal kaip tik gerai? Pvz. išnaudosim kiek įmanoma greičiau vienus resursus ir imsimės kitų. Vien tik pats šis faktas neturi prasmės be konteksto.fizikanas wrote:Buvo resursu X, liko resursu X - daug, reiskia iseikvota daug resursu. Pati sausiausia matematika, kokia tik gali buti savo sausumu. Nesuprantu prie ko cia gerio ir blogio savokos. Ar tuo labiau emocijos.Svetimas wrote: 4. Ir kas iš to plaukia? Gerai tai ar blogai?
Aš tavo pagrindinę mintį dėl AI pagrindinio bazinio tikslo, supratau. Bet aš tavęs klausiau dėl "turės tikslą išlikti" - savirefleksijos, kai abu AI siekia tokio paties bazinio tikslo.fizikanas wrote:Na jeigu tie kiti tikslai yra uzprogramuoti, kaip patys svarbiausi to AI tikslai, tai tuo jie ir yra svarbus. Cia tautologija.Svetimas wrote: 5. O kuo tie kiti tikslai tokie svarbūs? Jei egzistuoja tokio paties AI klonas kitame superkompiuteryje (siekia tų pačių tikslų) ir neužtenka resursų veikti jiems abiems?
Jei abu AI turi tiksla, "kad stovetu kuo didesnis kalnas" tai abu statys viena dideli kalna. Jei vienas turi tiksla "pastatyti kuo didesni kalna A", o kitas "pastatyti kuo didesni kalna B", tai konkuruos, ar kauriaus, ar deresis del resursu. Konkretus tikslo uzprogramavimas ir nulems ju elgesi.
Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
Aš klausiu ne apie gėrį ir blogį, o apie sugebėjimą įvertinti, kaip ir koks sprendimas seka iš to, kad yra "1" (arba "2" arba "3"). Ir apskritai sugebėjimo interpretuoti, kas yra "1", "2" ar "3". Bepigu tau sakyti, kad čia paprasčiausia "matematinė konstrukcija", kai kalboje apie tą "matematinę konstrukciją" dalyvauja jų interpretatoriai ("tu" ir "aš"), kurie tas matematines konstrukcijas supranta (moka interpretuoti). Tokiu būdu po "matematinė konstrukcija" visa ta iterpretacijos sudėtingybė (kuri būtent mane ir domina) lieka gudriai "pakasta po kilimu".fizikanas wrote:Vel, prie ko cia geris ir blogis? Cia tiesiog skaicius, paprasciausia matematine konstrukcija. Kur tu tuos gerius ir blogius vis matai?Svetimas wrote: 6. Ir kas iš to plaukia? Kuo tai blogiau/geriau už 2, 3 ir t.t.?
Iš kur žmogus žino ar prognozuoja, kas jam yra diskomfortas ar kas jam būtų, be patirties?fizikanas wrote:Tai ne diskomforto patirtis itakoja zmogaus tikslus, o zmogaus tikslas yra vengti diskomforto. Diskomforta gali apibrezti, kaip "patirtis, kurios zmogus yra uzprogramuotas vengti"Svetimas wrote:Ne vien jas minėjau. Kalbėjau ir apie tam tikrą prasminį informacijos įvertinimą. Be emocijų ir tam tikra fiziologinio diskomforto ar komforto patirtis (pvz. jau minėtas alkis; nebent tai irgi priskirsime prie emocijų) galbūt įtakoja tam tikrą vertinamąjį aspektą.
Ech, žaidimų teorija naudingumo funkcijos yra įdomūs dalykai. Esu šiek tiek su šitais dalykais susidūręs. Bet esu beveik tikras, kad nei tikslų, nei žaidimų teorijos (kurios, šiaip, pirminiai naudotojai ir interpretuotojai esam mes, žmonės) sudėtingybių nei naudingumo funkcijų (nebent tu neuroninius tinklus priskiri prie savotiškų naudingumo funkcijų) tas Google Deep Mind nenaudojo, kad išmoktų žaisti šachmatais, Go ir ant kažkurio "StarCraft" žemėlapio. Nebent tu paneigsi šitą mano nuomonę? Be to Google Deep Mind yra specializuotas AI. Didelis klausimas kaip viskas pasisuktų, jeigu būtų tikslas suprogramuoti universalesnį AI.fizikanas wrote:Tai gerai, emocijos yra misle, tuo tarpu AI tikslai, zaidimu teorija, naudingumo funkcijos yra sausa matematika, be jokios mistikos ir ju uztenka pragraminei irangai priimti intelektualius sprendimus.Svetimas wrote: Kiek supratau, net ir emocijos yra nemaža mįslė ir rimtesnių bei pakankamai solidžių, išbaigtų ir pilnesnių emocijų mechanizmų modelių mokslas irgi berods dar neturi.
Tiek aš, tiek tu, surastume daugybę pavyzdžių, kuomet žmonės interpretuodami dalykus, "kuriuos pastebi savo akimis", labai smarkiai klysta. Beje, prie ko čia mini lyčių studijas? Kaip tai susiję su tuo, apie ką mes kalbam?fizikanas wrote:Tikrai ne lyciu studijom, tiek pasakysiu. Siaip kartais gali ir pastebeti zmogus dalykus savo akimis. Nebutina neatsikartojanti psichologini "tyrima" surasti, kad tam pastebejimui "pagristi".Svetimas wrote: Kuo remiesi, kad moterys turi daugiau emocijų nei vyrai? Lyg ir supratau, kad psichologijos mokslas tau kaip ir ne rodiklis, bet visgi įdomu, kuo grindi tokius savo teiginius?
Beje, grįžtant šiek tiek labiau prie pirminio klausimo. Va, pavyzdžiui, aiškinimai, kad emocijos, jų spektras bei jų raiška pas vyrus ir moteris skiriasi. Argumentuoja tuo, kad būtų keista evoliucijos kontekste, jei vyrai ir moterys emociškai nesiskirtų. Pas moteris statistiškai didesnis neurotiškumas (jautrumas tam tikroms neigiamoms emocijoms). Bet iš to neseka, kad vyrai "turi mažiau emocijų" nei moterys. Viskas sudėtingiau.
Iš kur žinai, kad realybėje taip paprasčiausiai nėra? Kuo remiesi? Galėtum bent paprasčiausiai paneigti kažkaip mano teiginius, jei "realybėje taip nėra".fizikanas wrote:Sakyciau ieskai slieku, vienoje vietoje. Bet juk pats surpanti, kad jei intelektui butu butinos emocijos, tai greiciausiai akivaizdziai matytusi teigiama koreliacija tarp emocionalumo ir intelektualumo, bet realybeje taip paprasciausiai nera.Svetimas wrote: Kiek girdėjau, aukštesnis vyrų IQ iš esmės aiškinamas didesne gabumų dispersija nuo vidurkio (didesnis procentas su didesniu ir mažesniu IQ). Be to gali būti ir daugiau papildomų paaiškinimų (pvz. šiek tiek skirtingas mąstymo pobūdis, kitoks tikslų formavimas ir jų siekimas).
Nebūsiu. Kodėl taip pamanei? Gan keista iš tavęs girdėti tokias prielaidas, kai net mano anksčiau pateiktose nuorodose apie migdolinius kūnus smegenyse ir pan. (jeigu būtum žiūrėjęs), pakankamai aiškiai kalbama apie biologinius vyrų ir moterų skirtumus. Kiek žinau, populiariosioms "lyčių studijoms", kurios šiame forume dažnokai linksniuojamos, šitie išsakomi teiginiai nelabai pagal plauką.fizikanas wrote:Ar nebusi cia jau kazkokiu lyciu studiju pasiskaites?Svetimas wrote: Neva vyrai tik dalies savo emocijų dėl kažkokių priežasčių neparodo, labiau kontroliuoja, užgniaužia, jas sunkiau interpretuoja ir galbūt prie kitokių sąlygų, aplinkybių jas išreiškia.
Nu, va. Neužilgo galėsim ramiai išeiti į pensiją ir palikti diskusijų forumą AI.melodetektorius wrote: ↑2019-02-14 21:49Manau tai turetu buti jums idomu:
https://www.delfi.lt/mokslas/technologi ... d=80352831
Tai, kad ir Feinmanas cia neatsake i klausima, kodel magnetai stumia vienas kitaSvetimas wrote: ↑2019-02-21 14:27Iš esmės neatsakei į klausimą.
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs.
Nesu AI programuotojas, tai i sita klausima neatsakysiu. Bet jeigu net zmoniu kontekste galime apibrezti "supratima" be emociju, tai tuo labiau galime buti tikri, kad tai imanoma padaryti AI atveju. Atsimink, kad visu imanomu AI aibe yra daug eiliu didesne uz visu imanomu zmoniu intelektu aibe. Tiksliau zmoniu intelektu aibe yra AI poaibis - simuliuotos zmogaus smegenys kompiuteryje butu tokio AI pavyzdys.
Beabejo, ka daugiau? https://en.wikipedia.org/wiki/Cooperative_game_theory
Zaidimu teorija turi formules, kurias gali imti ir serti kompiuteriui. Va "emocijos" tai tikras burtazodis.
Tai zinoma, kad tai priklauso nuo AI. Vienas gal turi tiksla isnaudoti kuo daugiau resursu, kitas kuo maziau, trecias vartoja resursus pagal Rand() funkcija. Beabejo, kad AI kodas yra butinas kontekstas, kad nuspeti ka konkretus AI darys su faktu apie resursu kieki. Bet kodel mes apie tai kalbam? Kur ta vieta, kur tavo manymu magiskai atsiranda emocijos?
Tai nuo bazinio tikslo ir priklauso ar tures tiksla islikti. Jei AI X bazinis tikslas yra pastatyti kalna A ir jis matys, kad AI Y irgi turi bazini tiksla pastatyti ta pati kalna A, ir savo buvimu AI X nepadeda, o trukdo AI Y pastatyti kalna A, tai teoriskai imanoma tokia situacija, kur AI X nusprestu susinaikinti. Bet tai sunkiai isivaizduojama realybeje, dazniausiai AI X greiciausiai gales buti naudingas kalno A statyme, todel nores uzsitikrinti savo egzistavima, tam, kad galetu uztikrinti kalno A pastatyma.
Gresmingas tuo, kad visi 4 zodziai sitame sakinyje yra burtazodziai, kuriuos yra N^100 budu istransliuoti i AI koda, kurie butu katastrofiski zmonijai ir koks vienas geras budas, kurio nezinome ir greiciausiai niekada nesuzinosime. Ir neturime prabangos jo suzinoti bandymu ir klaidu metodu, nes pirma klaida bus paskutine. Mazdaug tiek pesimizmo man dar pavyko neisbarstytiSvetimas wrote: ↑2019-02-21 14:27Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
O del konkreciu pavyzdziu, tai AI sita tiksla gali suprasti, kaip kancios, kuria jaucia zmones minimizavima, is ko seka vienintelis loginis sprendimas. Ar itari koks?
Na gerai, kad domina, bet as cia nelabai turiu ka pridurti. Galiu tik pasakyti, kad labiau pasigilines grieicausiai nerasi, kad kazkur tame interpretavime magiskai gimsta emocijos.Svetimas wrote: ↑2019-02-21 14:27Aš klausiu ne apie gėrį ir blogį, o apie sugebėjimą įvertinti, kaip ir koks sprendimas seka iš to, kad yra "1" (arba "2" arba "3"). Ir apskritai sugebėjimo interpretuoti, kas yra "1", "2" ar "3". Bepigu tau sakyti, kad čia paprasčiausia "matematinė konstrukcija", kai kalboje apie tą "matematinę konstrukciją" dalyvauja jų interpretatoriai ("tu" ir "aš"), kurie tas matematines konstrukcijas supranta (moka interpretuoti). Tokiu būdu po "matematinė konstrukcija" visa ta iterpretacijos sudėtingybė (kuri būtent mane ir domina) lieka gudriai "pakasta po kilimu".
Na is to ir zino - jei kazka patyres nori to vengti, vadinasi tai diskomfortas.
Tai, ka tu manai, kad jei situ dalyku nenaudojo, tai naudojo emocijas? Butu labai magiskas spejimas.Svetimas wrote: ↑2019-02-21 14:27Ech, žaidimų teorija naudingumo funkcijos yra įdomūs dalykai. Esu šiek tiek su šitais dalykais susidūręs. Bet esu beveik tikras, kad nei tikslų, nei žaidimų teorijos (kurios, šiaip, pirminiai naudotojai ir interpretuotojai esam mes, žmonės) sudėtingybių nei naudingumo funkcijų (nebent tu neuroninius tinklus priskiri prie savotiškų naudingumo funkcijų) tas Google Deep Mind nenaudojo, kad išmoktų žaisti šachmatais, Go ir ant kažkurio "StarCraft" žemėlapio. Nebent tu paneigsi šitą mano nuomonę? Be to Google Deep Mind yra specializuotas AI. Didelis klausimas kaip viskas pasisuktų, jeigu būtų tikslas suprogramuoti universalesnį AI.
Tai zinoma, as kazkada galvojau, kad pamaciau katina, o ten gulejo nesvari maike ant zemes. Aisku, kad tokiu pavyzdziu galime rasti ir daugiau. Ir kas is to? Nebesinaudoti savo regos sistema nuo siol?
Nes is to kontingento sneketojai dazniausiai nori paneigti bet kokius biologinius skirtumus tarp vyru ir moteru.
Arba viskas paprasciau - vyrai patiria maziau emociju, nei moterys ir tiek.
Atspek: dvi sesutes, per kalneli nesueina.
Ar irodinejimo nasta jau niekam nebesventa sitam forume? Tu teigi apie kazkokia koreliacija tarp emociju ir intelekto, tai prasau ir pagrisk sita teigini.
- universalaus intelekto atžvilgiu, dirbtinio ar iškastinio, "įrodymas" nėra joks įrodymas.
Paaiškinimas: bet koks įrodymas remiasi pradiniais postulatais, bet kuris postulatas niekaip nėra įrodomas, tai ko vertas "įrodymas"?
Bet užtat kaip pažiūrėjo į šitą klausimą.fizikanas wrote:Tai, kad ir Feinmanas cia neatsake i klausima, kodel magnetai stumia vienas kitaSvetimas wrote: Iš esmės neatsakei į klausimą.
Pažiūrėk į Richardą Feinmaną šiame pavyzdyje. Aš pageidaučiau daugiau Feinmaniško įkvėpimo ir mąstymo būdo iš tavęs.
Gal tavo požiūriu ir neatsakė sukramtytai, bet apipynė šį klausimą naujais klausimais, atsakymais ir pavyzdžiais, kurie skatina giliau susimąstyti apie su juo susijusius dalykus ir pažiūrėti į jį ne taip įprastai kasdieniškai. Adventures of the currious character nuotaika trykšta jau vien iš šio epizodo. Iš tavo atsakymų (visame komentare) įtariu, kad gal aš šitoje temoje tave šiek tiek klaidinu ir painioju, nes kontrastuoju tarp AI ir žmonių kontekstų. Šioje temoje aš kažkuria prasme bandžiau vienu ypu nušauti du zuikius, sugretindamas ir nagrinėdamas sau įdomius AI ir žmonių "mąstymo" klausimų kontekstus lygiagrečiai.fizikanas wrote:Nesu AI programuotojas, tai i sita klausima neatsakysiu. Bet jeigu net zmoniu kontekste galime apibrezti "supratima" be emociju, tai tuo labiau galime buti tikri, kad tai imanoma padaryti AI atveju.Svetimas wrote: Aš klausiau AI kontekste, o ne pavyzdžio žmonių kontekste, kas yra "supratimas". Kaip jį užprogramuoti?
Tad bandau dar kartą pasiaiškinti dėl tau užkliuvusio "supratimo" ir emocijų.
[Kalbant žmonių kontekste:]
Jau minėjau, kad yra tokia mįslinga smegenų dalis (kartais siejama su "limbic system"), kuri "supports a variety of functions including emotion, behavior, motivation, long-term memory" ir "it has a great deal to do with the formation of memories".
Taip pat klausiau, kodėl evoliucijos eigoje emocijos žmonėms neapnyko, bet kaip tik jų padaugėjo, jos fragmentavosi ir pasudėtingėjo?
Taip pat, irgi minėjau, neužsiciklink vien ant emocijų (eliminuodamas diskomforto/komforto patirtį, kitus instinktyvius stimulus ir pan.) ir neįsivaizduok emocijų kontekstuose, kuriuose aš jų neminėjau. Niekur griežtai netvirtinau, kad kažko "supratimas", kaipo toks, privalo rutuliotis iš "emocijų".
Dėžutė "supratimas" gali būti apibrėžiama žmonių kalboje, neįtraukiant emocijų, ir greičiausiai yra kažkoks gan atskiras savarankiškas dalykas.
Bet aš hipotetizavau apie tam tikrą ryšį (ne 100% ir net ne tiesioginį) tarp "supratimo" ir "emocijų". T.y. nesant "supratimo" nebūtų ant ko "užmauti" "emocijų" ar kitokio vertinamojo "gerai tai, ar blogai" aspekto. Pvz. šitoj vietoj man į pagalba gana neblogai ateina mano jau minėtos paskaitos "How the Wiring of Our Brains Shapes Who We Are - with Kevin Mitchell" kelių minučių epizodas nuo 34:33.
Gal dalis "supratimo" proceso gali rastis ir be ryšio su "emocijomis" ir "gerai/blogai" patirties. Pvz. dalis to proceso galėtų būti paprasčiausias informacijos klasifikavimas ar pan. Bet net ir nedidelis procentas to "supratimo" proceso, "užsimaunantis" ant "emocijų" ir "gerai/blogai" patirties, gali būti reikšmingas mūsų sprendimams ar elgesiui.
[Kalbant AI kontekste:]
Jeigu AI bukai simuliuos/mėgdžios "supratimą", aš hipotetizuoju (remdamasis savo hipotetizavimais aukščiau), kad AI negalima bus "įtaisyti" efektyvaus "limbic system" analogo ir dėl to išlaužti bent kiek universalesnį ir adekvačiau prisitaikantį (tarkim, žmonių pasauliui ir jų problemoms) AI.
Šiaip, žaidimų teorija labai plati, įdomi sritis ir prašosi atskiros temos. Bet nematau ryšio tarp tavo nuorodos ir to, kad AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento". Gal tu gali man padėti tą ryšį pamatyti? Jau minėjau, jog manau, kad Google Deep Mind AI žaidimų teorijos nenaudojo. Nebent ja galėjo pasinaudoti žmonių komanda, kad apibrėžtų "žaidimų aikštelę" AI.fizikanas wrote:Beabejo, ka daugiau? https://en.wikipedia.org/wiki/Cooperative_game_theorySvetimas wrote: Pagal tave tarsi išeitų, jog AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento"?
fizikanas wrote:Zaidimu teorija turi formules, kurias gali imti ir serti kompiuteriui. Va "emocijos" tai tikras burtazodis.Svetimas wrote: Man atrodo, kad tu "žaidimo teoriją" čia naudoji kaip kokį burtažodį, kad atsimuštum nuo mano klausimo.
Pagal paaiškinimus aukščiau, manau, jog AI nesugebės efektyviai formuoti savo "tikslų" be "supratimo", dėl kurio aš čia laužau galvą, ir kažkokio "limbic system" analogo. Tiesiog pasiklys informacijos jūroje ir pradės generuoti neadekvačią išvestį, mūsų žmonių akimis. Tai kažkuria prasme kaip ir sutaptų su tavo mintim, kad rezultatas bus ne tas, kuris mums patiktų. Bet, skirtingai nei tu, aš manau, kad "sustrateguoti" pasaulio užvaldymo planų, tokiam AI su "mimikriniu intelektu" neužteks išmonės.fizikanas wrote:Tai zinoma, kad tai priklauso nuo AI. Vienas gal turi tiksla isnaudoti kuo daugiau resursu, kitas kuo maziau, trecias vartoja resursus pagal Rand() funkcija. Beabejo, kad AI kodas yra butinas kontekstas, kad nuspeti ka konkretus AI darys su faktu apie resursu kieki. Bet kodel mes apie tai kalbam? Kur ta vieta, kur tavo manymu magiskai atsiranda emocijos?Svetimas wrote: Kokiu būdu faktas, ar daug liko resursu, ar mažai, įtakoja AI sprendimus? Gal kaip tik gerai? Pvz. išnaudosim kiek įmanoma greičiau vienus resursus ir imsimės kitų. Vien tik pats šis faktas neturi prasmės be konteksto.
Beje, šiek tiek nukrypstant į šoną dėl užvaldymo. Jau dabar mes turime sąlyginai bukas technologijas, kurios sugebėjo nejučia "užvaldyti" pasaulį, keisti žmonių visuomenes ir kai kuriais atvejais kelti nelabai malonias pasekmes (užterštumas ir etc.). Vat šitas dalykas, sakyčiau, kol kas aktualesnis ir labiau vertas dėmesio.
Aha. Ir tas AI nesiteiks komunikuoti su žmonija, kad išsiaiškintų, ar artėja prie bazinio savo tikslo?fizikanas wrote:Gresmingas tuo, kad visi 4 zodziai sitame sakinyje yra burtazodziai, kuriuos yra N^100 budu istransliuoti i AI koda, kurie butu katastrofiski zmonijai ir koks vienas geras budas, kurio nezinome ir greiciausiai niekada nesuzinosime. Ir neturime prabangos jo suzinoti bandymu ir klaidu metodu, nes pirma klaida bus paskutine. Mazdaug tiek pesimizmo man dar pavyko neisbarstytiSvetimas wrote: Jei dar neišbarstei viso pesimizmo dėl AI šioje diskusijoje, gal gali pateikti pavyzdžių, kuo galėtų būti grėsmingas AI su baziniu tikslu - "padėti žmonijai siekti gerovės"?
Man įdomi tavo nuomonė, situacijos mątymas ir kokius tu negerus kabliukus matai šitoje vietoje.
O del konkreciu pavyzdziu, tai AI sita tiksla gali suprasti, kaip kancios, kuria jaucia zmones minimizavima, is ko seka vienintelis loginis sprendimas. Ar itari koks?
Šiaip, jau rašydamas šitą klausimą, numaniau, kad tavo atsakymas ir bus toks. Tu čia neitin originalus, nes ir fantastikos žanro autoriai šitą motyvą mėgsta. Priminei man vieną Stanislavo Lemo kūrinį, kur vienoje planetoje optimizuojanti mašina užsimojo žmonių kūnus perdirbti ir išdėlioti planetą gražiomis geometrinėmis simetriškomis figūromis. Bet tie fantastikos kūriniai labiau skirti žmonėms metaforiškai pamąstyti apie tam tikrus dalykus, o ne apie tiesiogines AI grėsmes.
Perskaityt tai galima.. Bet kam taip vargti? Jei tie žmonės net nesivargina patys surašyti savo mintis - o patiki šį darbą kompiuteriui, tai kodėl kiti žmonės turėtų švaistyti laiką bandydami jas perskaityti? Gal geriau skaitymą irgi patikėti mašinoms. Žmonės tuo tarpu galės užsiimti kitais svarbiais ir dar neautomatizuotais darbais, kaip pvz.. Hmmm?
- žmonijos "rašto vergovė" yra ne tame, kad reikia skaityti "skeptikas.org", o tame, kad viskas tapo raide. Tuo tarpu pati raidė neturi jokios prasmės. Iš čia kyla "žodžio baimė": vieni bijo "homofobas" termino, nors nesuvokia, kiti bijo "fašistas", nors irgi nežino, kad fašizmas reiškia "vienybė", todėl vieninga CCCP buvo giliai fašistinė. Dar galima senovės Indijos swastiką paminėti, kuri su Hitleriu neturi nieko bendro, tai Saulės kelionės galaktikoje simbolis.
Dar visi labai bijo žodžio "kretinas", nors jo kilmė iš tiesų yra nuo prancūzų "crétin", alpių dialekto "chrétien", lotynų "christianus".
https://en.m.wiktionary.org/wiki/crétin
Ką reiškia "christianus" nežiūrėjau, bet spėju, kad arba "krikščionis", arba Christi + Anus, t.y. "Kristaus užpakalis".
https://en.m.wiktionary.org/wiki/crétin
Ką reiškia "christianus" nežiūrėjau, bet spėju, kad arba "krikščionis", arba Christi + Anus, t.y. "Kristaus užpakalis".