- Čia tikrai geras! Patiko.
Natūralus Lietuvio intelektas irgi sako: "nedaryk to tuoj, ką gali padaryt rytoj, nes rytoj tikėtina visai nereikės".
- Čia tikrai geras! Patiko.
Tai taip išeina gali būti, kad užuot kūręs/gaminęs kopėčias pats tiesiogiai, jis iš tiesų imsis kurti tobulesnius AI kuriems paves kopėčių gamybą. Bet šie savu ruožtu...
Bet tikriausiai bus ir kitų AI, kurie gamins kažką kita, tačiau, tikėtina, iš tų pačių resursų. Todėl didžiausia grėsmė AI yra ne žmonės, o AI. Įdomu, kaip ateityje AI spręs šią problemą - ar padarys kažkokius ribojimus, kiek AI gali tobulėti, ar eksponentiškai tobulės, kol liks tik vienas. Manau, pastarasis variantas nenaudingas nei vienam AI, nes likti tuo vienu šansų mažai.Tai taip išeina gali būti, kad užuot kūręs/gaminęs kopėčias pats tiesiogiai, jis iš tiesų imsis kurti tobulesnius AI kuriems paves kopėčių gamybą. Bet šie savu ruožtu...
Tai turbūt ir yra esmė ta, jog kažkas gali įmesti kodo eilutę kur jiems bus liepta daryti tai, ko gal 99,9% populiacijos visai nenori
Jau debuginti šiuolaikinius AI yra labai sudėtinga, ateityje bus turbūt nebeįmanoma.
O gal ateityje bus kaip tik lengviau.
O kame čia problema?Stormas wrote: Tai turbūt ir yra esmė ta, jog kažkas gali įmesti kodo eilutę kur jiems bus liepta daryti tai, ko gal 99,9% populiacijos visai nenori
Tai problema yra ta, kad ta kodo eilutė gali liepti AI tapti dominuojančiu pasaulyje, išnaikinti žmones ar kopėčias ir t.t. ir panašiai
Kazkokio tikslo egzistavimas jau isplaukia is pacios intelekto savokos. Ka isvis daro intelektas, jei nesiekia kazkokio tikslo? Ar tai butu laimeti sakmatu partija, ar isspresti matematini uzdavini ar nuvaziuoti nuo tasko A i taska B. Emocijas uzprogramuoti butu kurkas sunkiau ir nereikalinga.Svetimas wrote: ↑2019-01-20 15:00Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?
Tai, kad tau sita problema zinoma, aisku dziugina, bet tai nereiskia, kad ji visiems yra zinoma. Pvz net tau ji panasu, kad dar nebuvo zinoma sios diskusijos pradzioje. O net jei problema ir butu visiems zinoma, tai deja nereiskia, kam nors yra zinoma, kaip ja isspresti. O tai, kad nezinoma, kaip ja isspresti deja nereiskia, kad kasnors vistiek nepabandys. Va ir turim.
Greičiau atvirkščiai - bus tik sunkiau.
Iš tiesų tai net debuginti labai siauros specializacijos AI gali būti labai sunku. Dažnai niekas net nežinos, kad yra kažkokia problema. Net ir šiuo metu, su dabartiniu AI išsivystmu ta problema yra aktuali. Pavyzdžiui, jei AI pagal kažkokias ten išmoktas taisykles išdavinėja kreditus, tai mes kartais galime net nesigilinti, kodėl jis taip daro. Kokių nors neuroninių tinklų atveju mes nes nesuprasime, kas tai per taisyklės, nes viskas bus tik įvairių išmoktų koeficientų rinkinys, niekaip racionaliai neištransliuojamas į mums suprantamą jei-tai taisyklių kalbą.Seianus wrote: ↑2019-01-22 19:00Jei neįmanoma debuginti tiesiogiai randant kur problema kode ar pan., visada įmanomas bandymų/klaidų metodas. Kitam panašiam AI duos kitokį apmokymą stebės, ar ir jis norės užversti Visatą kopėčiomis. Manau vaikų smegenis debuginti dar sunkiau, bet vis tiek pastebimi šiokie tokie dėsningumai, kaip auklėjant koks rezultatas gaunamas. Su AI turėtų būti tik lengviau ir patikimiau.
Aš šią problemą žinojau kai tamsta dar stačias po stalu vaikščiojote (not literally). Tiesiog laikau ją problema moksliniu požiūriu, panašiai kaip P=NP problema, o ne problema as in žmoniją sunaikinsianti problema. Visi, kas domisi AI ar tuo labiau dirba prie jo kūrimo šituos dalykus žino, ir jei nepavyks jų išspręsti, nieks neduos AI priemonių sunaudoti visus žmonijos resursus kopėčioms. Easy.fizikanas wrote: ↑2019-01-22 23:01Tai, kad tau sita problema zinoma, aisku dziugina, bet tai nereiskia, kad ji visiems yra zinoma. Pvz net tau ji panasu, kad dar nebuvo zinoma sios diskusijos pradzioje. O net jei problema ir butu visiems zinoma, tai deja nereiskia, kam nors yra zinoma, kaip ja isspresti. O tai, kad nezinoma, kaip ja isspresti deja nereiskia, kad kasnors vistiek nepabandys. Va ir turim.
Kalbi apie AI, kaip apie 5kiu metu vaika, is kurio galima atimti saldaini, jeigu neklauso. Geriau isivaizduok, kuri nors James Bond antagonista evil geniju, kuris tik atrodo, kaip 5metu vaikas, bet zino visus nuclear launch kodus, nes per tas 5 sekundes, kol buvo pajungtas prie interneto, isihakino i pentagono serverius ir dar spejo atrasti prarasta milijona Satoshi Nakamoto bitkoinu.Seianus wrote: ↑2019-01-23 17:34Tiesiog laikau ją problema moksliniu požiūriu, panašiai kaip P=NP problema, o ne problema as in žmoniją sunaikinsianti problema. Visi, kas domisi AI ar tuo labiau dirba prie jo kūrimo šituos dalykus žino, ir jei nepavyks jų išspręsti, nieks neduos AI priemonių sunaudoti visus žmonijos resursus kopėčioms. Easy.
Man beskaitant diskusiją tam tikra intuityvi mintis kilo. Dėl to ir uždaviau šį klausimą.fizikanas wrote: ↑2019-01-22 22:56Kazkokio tikslo egzistavimas jau isplaukia is pacios intelekto savokos. Ka isvis daro intelektas, jei nesiekia kazkokio tikslo? Ar tai butu laimeti sakmatu partija, ar isspresti matematini uzdavini ar nuvaziuoti nuo tasko A i taska B. Emocijas uzprogramuoti butu kurkas sunkiau ir nereikalinga.Svetimas wrote: ↑2019-01-20 15:00Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?
Kaip žiūrėti į AI, ar 5 metų vaiką ar evil genijų, ar kažkaip kitaip, ir yra šių diskusijų objektasfizikanas wrote: ↑2019-01-23 19:49Kalbi apie AI, kaip apie 5kiu metu vaika, is kurio galima atimti saldaini, jeigu neklauso. Geriau isivaizduok, kuri nors James Bond antagonista evil geniju, kuris tik atrodo, kaip 5metu vaikas, bet zino visus nuclear launch kodus, nes per tas 5 sekundes, kol buvo pajungtas prie interneto, isihakino i pentagono serverius ir dar spejo atrasti prarasta milijona Satoshi Nakamoto bitkoinu.Seianus wrote: ↑2019-01-23 17:34Tiesiog laikau ją problema moksliniu požiūriu, panašiai kaip P=NP problema, o ne problema as in žmoniją sunaikinsianti problema. Visi, kas domisi AI ar tuo labiau dirba prie jo kūrimo šituos dalykus žino, ir jei nepavyks jų išspręsti, nieks neduos AI priemonių sunaudoti visus žmonijos resursus kopėčioms. Easy.
Na, jei neįvilkai tų žodžių į jokį kontekstą, tau gal ir galėjo kažkas pavykti. O pabandyk panaudoti tuo žodžius keliuose skirtinguose kontekstuose ar situacijose. Gal net užčiuopsi, kaip tų žodžių interpretacija šiek tiek keičiasi priklausomai nuo kontekstų, kuriuose jie panaudoti.