Svetimas wrote: ↑2019-01-20 15:00
fizikanas wrote: ↑2017-07-29 15:01
Atskirai programuoti nereikes. Sakykime DI turi vieninteli tiksla - pagaminti kuo daugiau kopeciu. Kadangi yra intelektualus, jis supras, kad jei jis pats neegzistuos, tai kopeciu nepagamins, todel islikimo "instinktas" atsiras savaime, kaip sub-tikslas is kopeciu gaminimo tikslo.
Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?
Aš manau AI kai/jei bus sukurtas, bus žymiai tobulesnis už natūralų intelektą dauguma aspektų. Kaip ir viskas, kas sukurta mokslininkų/inžinierių iš pradžių gerai apgalvojus ir suplanavus, būna tobulesni už natūralios atrankos būdu išsivysčiusį crap'ą. Ir viena to tobulumo išraiškų bus šitų visų „motyvacijų“ pranykimas. Užduoto tikslo siekimas bus savaime motyvacija, gyvenimo prasmė, tikslas ir visa kita viename. Iš principo nematau kodėl AI reikėtų kartu pridėti visus tuos papildomus žingsnius, kaip kad alkio, pavydo, skausmo ir kiti kvaili pojūčiai. Tačiau siekdamas užduoto tikslo AI turės atsižvelgti ir į papildomus apribojimus / šalutinius tikslus, kaip kad kokios priemonės yra adekvačios kokios ne, kokios priemonės yra net kontraproduktyvios, kada tikslas de facto pasiektas ir tolimesnis užduoties vykdymas būtų žalingas ir panašiai.
Kiek suprantu, fizikanas ir kiti AI-fobai ;P baidosi, kad problemos kils būtent šiose vietose. Ten tipo kopėčias gamindamas AI neatsižvelgs nei į faktą kai nelikus žmonių nereikės ir kopėčių, nei į faktą, kad du šimtai kopėčių per žmogų įskaitant kūdikius jau yra per daug, nei į faktą kad jo pusbrolio AI-2 gaminami superlaidininkai turi aukštesnį prioritetą už kopėčias kai reikia dalintis resursus, nei į kitas aktualias aplinkybes. Ir šios problemos iš tiesų yra įdomios ir svarbios, kiek pamenu dar nėra tiksliai žinoma, kaip smegenys akimirksniu atsirenka aktualią informaciją ir ignoruoja neaktualią (pvz., jei padarysime kopėčias gaminantį AI ypač skrupulingą, jis gali taip ir nepradėti jų gaminti - po 1mln. metų skaičiavimo kaip tik bus pradėjęs svarstyti problemą, ar kopėčių gamyba nepakeis atmosferos sudėties kitų galaktikų planetose). Bet tai nereiškia, kad ši problema nėra žinoma, ir vos mulkiams inžinieriams įjungus pirmąjį kopėčių AI šis kaip mat palaidos žmoniją po bazilijonais kopėčių, iš pradžių išžudęs visus galinčius jį išjungti ir sutrukdyti siekti tikslo.