fizikanas wrote: ↑2019-01-22 22:56
Svetimas wrote: ↑2019-01-20 15:00
Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?
Kazkokio tikslo egzistavimas jau isplaukia is pacios intelekto savokos. Ka isvis daro intelektas, jei nesiekia kazkokio tikslo? Ar tai butu laimeti sakmatu partija, ar isspresti matematini uzdavini ar nuvaziuoti nuo tasko A i taska B. Emocijas uzprogramuoti butu kurkas sunkiau ir nereikalinga.
Man beskaitant diskusiją tam tikra intuityvi mintis kilo. Dėl to ir uždaviau šį klausimą.
Įprastinėse programose, tai, ką tu vadini programos tikslu (pvz. šachmatų partijos laimėjimas), dažniausiai jau būna "įsiūta" (vienokiu ar kitokiu būdu) į programos veikimo algoritmą. T.y. suprogramuojamos tam tikros sąlygos, kad programos veikimas tą suprogramuotą programos "tikslą" ar paskirtį įgyvendintų. Tai gal ir neliečia kokių "apsimokančių" genetinių algoritmų ar pan., bet, net ir tokiu atveju, tam tikras preliminarus "tikslas" ar apribojimų sąlygos programai yra užduodamos, kad programa apsimokytų ir duotų pageidautiną outputą ar pasiektų reikiamą rezultatą.
Bet, va, aš matau problemą, kad pakankamai universaliai veikiančio AI atveju, algoritmas veiks ne vien tik kažkokio iš anksto įsiūto "tikslo" ar sąlygų erdvėje, bet turės interpretuoti aplinkos inputą ir pats savarankiškai kurti, formuoti savo "tikslus", įtikslinti savo veiklą.
Pvz. net ten, kur kolegos keliais postais aukščiau hipotetizavo, kaip AI elgsis, buvo naudojami žodžiai: "norės", "supras", "konkurentas", "išeikvota daug resursų", "turės tikslą išlikti", "tik vienas" (o tai yra tam tikras prasminis, pažintinis ir ne pasyvus santykis į tam tikrą iš aplinkos gaunamą informaciją). Pabandyk sau mintyse transformuoti tuos žodžius į kokią nors sausą matematinę loginę formą ar atitikmenį, nesuteikdamas jokio emocinio ar prasminio interpretacinio krūvio, ir papasakok man, kaip tau sekėsi.
Aš hipotetizuoju, kad kaip ir žmonėms - kurie interpretuodami informaciją (kas reiškia ne vien tik nešališką informacijos apdorojimą, klasifikavimą ar pan.), spėju, dažnai yra beveik nepajėgus nesuteikti tam tikro emocinio santykio ar vertinamojo prasminio krūvio jai, iš ko galbūt vėliau ir formuojasi nauji jų "tikslai" - taip ir AI be šito negalės lanksčiai formuoti savo naujų "tikslų" ir į temą, nepaskęsdamas informacijos jūroje.
Dėl to man atrodo, kad kaip Seianus sakė, būsimi AI pakankamai lanksčiai ir efektyviai veiks tik tam tikrose siaurose srityse ar rėžiuose. Tie AI bus tik labai sudėtingos ir/arba lanksčiau apsimokančios brute force skaičiavimo galią išnaudojančios specializuotos programos, o ne AI. Universalaus AI, kuris galėtų lengvai persiorentuoti prie pačių įvairiausių gyvenimiškų užduočių sprendimų ir nepradėtų pjauti grybo ne į temą, įtariu, teks laukti daug daug ilgiau, nei daugelis AI pranašų galvoja. Kai kažkas sako, kad va, va, jau ne už kalnų, už kokių 10, 20 ar keliasdešimt metų, bus sukurtas universalus AI, kuris visais atžvilgiais bus kietesnis už žmogų, tai aš į tai žiūriu gan skeptiškai. Pavyzdžiui, vien jau dėl tam tikrų iššūkių, kurie kyla bandant susitvarkyti su
kodo rašymu sudėtingoms sistemoms, kad išvengti bug'ų infliacijos.
Man atrodo, kad tam tikro emocinio ar pažintinio vertinamojo santykio (pvz. gerai-blogai ašyje) suteikimas įvairiems dalykams labai svarbus protaujančiam agentui, priimančiam sprendimus. Galbūt emocijos ir tas vertinamasis santykis bet kokiam informacijos inputui užima svarbesnį vaidmenį mūsų mąstyme, nei mes įsivaizduojame. Jei emocijos tokios nesvarbios mąstymui, tai, prisiminus
emocijų temą, kodėl žmonių emocijų tiek daug ir jos tokios sudėtingos, jeigu lygintume su kitais gyvūnais, kurie primityvesni, nei mes? Kodėl emocijos neapnyko, sudėtingėjant smegenims, o priešingai - jų padaugėjo ir jos pasudėtingėjo?
Gal be tam tikro vertinamojo santykio apskritai nepavyktų interpretuoti informacijos ir suteikti jai prasmę, kad galima būtų ja remtis? Gal be šito vertinamojo santykio tas tariamas AI, žvelgiant plačiau, dar ilgai gaus į klyną nuo žmonių informacijos interpretavime (o ne bukame jos apdorojime), kas svarbu aktyvių į kažką orientuotų sprendimų priėmime?