Re: Dirbtinis intelektas
Posted: 2018-03-29 18:59
[Pravaliau temą iki paskutinės žinutės, kuri bent iš tolo buvo susijusi su dirbtiniu intelektu.. kuri kaip tyčia buvo mano žinutė. Koks sutapimas ]
abejojame nuo 2004-ųjų
https://www.skeptikas.org/forum/
Bet tai yra problema, nes žmones tai mokytis skatina jų noras išlikti. O DI kas skatina arba skatintų mokytis?
O jo nereikia skatinti, tiesiog įjungi, duoti gausybę inputo, nurodai siektiną rezultatą, automatinį feedbacką, paleidi ir mokosi. Ar tu manai, Alpha Go buvo kaip nors skatinamas patapšnojimais per virtualų petį ir saldainiu?O DI kas skatina arba skatintų mokytis?
Vis tiek turi užprogramuoti DI, kad jis siektų to rezultato. Nes jei nurodysi tik siektiną rezultatą, tai net primityvus kompiuteris nesieks to rezultato, jei nebus atitinkamos komandos - siek to nurodyto rezultato. Ar Tamsta galvoja, kad DI automatiškai taip elgsis, kaip, pvz., koks nors šuo, kuris nori įtikti savo šeimininkui, ir dėl to noro įtikti mokosi tinkamai reaguoti šeimininko komandas?
- supainiotos dvi atskiros problemos: a) išmokyti vaiką to, ką visuomenė moka. b) išmokti vaikui pačiam, kaip Maugliui, nors atsimenu Mauglį mokė mokytas lokys.
Taip, elgsis kaip suprogramuotas. Jokių skatinimų nereikia.Ar Tamsta galvoja, kad DI automatiškai taip elgsis,
Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?fizikanas wrote: ↑2017-07-29 15:01Atskirai programuoti nereikes. Sakykime DI turi vieninteli tiksla - pagaminti kuo daugiau kopeciu. Kadangi yra intelektualus, jis supras, kad jei jis pats neegzistuos, tai kopeciu nepagamins, todel islikimo "instinktas" atsiras savaime, kaip sub-tikslas is kopeciu gaminimo tikslo.
Aš manau AI kai/jei bus sukurtas, bus žymiai tobulesnis už natūralų intelektą dauguma aspektų. Kaip ir viskas, kas sukurta mokslininkų/inžinierių iš pradžių gerai apgalvojus ir suplanavus, būna tobulesni už natūralios atrankos būdu išsivysčiusį crap'ą. Ir viena to tobulumo išraiškų bus šitų visų „motyvacijų“ pranykimas. Užduoto tikslo siekimas bus savaime motyvacija, gyvenimo prasmė, tikslas ir visa kita viename. Iš principo nematau kodėl AI reikėtų kartu pridėti visus tuos papildomus žingsnius, kaip kad alkio, pavydo, skausmo ir kiti kvaili pojūčiai. Tačiau siekdamas užduoto tikslo AI turės atsižvelgti ir į papildomus apribojimus / šalutinius tikslus, kaip kad kokios priemonės yra adekvačios kokios ne, kokios priemonės yra net kontraproduktyvios, kada tikslas de facto pasiektas ir tolimesnis užduoties vykdymas būtų žalingas ir panašiai.Svetimas wrote: ↑2019-01-20 15:00Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?fizikanas wrote: ↑2017-07-29 15:01
Atskirai programuoti nereikes. Sakykime DI turi vieninteli tiksla - pagaminti kuo daugiau kopeciu. Kadangi yra intelektualus, jis supras, kad jei jis pats neegzistuos, tai kopeciu nepagamins, todel islikimo "instinktas" atsiras savaime, kaip sub-tikslas is kopeciu gaminimo tikslo.
- Čia tikrai geras! Patiko.
Tai taip išeina gali būti, kad užuot kūręs/gaminęs kopėčias pats tiesiogiai, jis iš tiesų imsis kurti tobulesnius AI kuriems paves kopėčių gamybą. Bet šie savu ruožtu...
Bet tikriausiai bus ir kitų AI, kurie gamins kažką kita, tačiau, tikėtina, iš tų pačių resursų. Todėl didžiausia grėsmė AI yra ne žmonės, o AI. Įdomu, kaip ateityje AI spręs šią problemą - ar padarys kažkokius ribojimus, kiek AI gali tobulėti, ar eksponentiškai tobulės, kol liks tik vienas. Manau, pastarasis variantas nenaudingas nei vienam AI, nes likti tuo vienu šansų mažai.Tai taip išeina gali būti, kad užuot kūręs/gaminęs kopėčias pats tiesiogiai, jis iš tiesų imsis kurti tobulesnius AI kuriems paves kopėčių gamybą. Bet šie savu ruožtu...
Tai turbūt ir yra esmė ta, jog kažkas gali įmesti kodo eilutę kur jiems bus liepta daryti tai, ko gal 99,9% populiacijos visai nenori
Jau debuginti šiuolaikinius AI yra labai sudėtinga, ateityje bus turbūt nebeįmanoma.
O gal ateityje bus kaip tik lengviau.
O kame čia problema?Stormas wrote: Tai turbūt ir yra esmė ta, jog kažkas gali įmesti kodo eilutę kur jiems bus liepta daryti tai, ko gal 99,9% populiacijos visai nenori
Tai problema yra ta, kad ta kodo eilutė gali liepti AI tapti dominuojančiu pasaulyje, išnaikinti žmones ar kopėčias ir t.t. ir panašiai