Vilius wrote: ↑2017-08-08 13:43
Jei jau mes turėsime labai labai protingą AI, tai žmonėms neapsimokės ir patiems sugalvoti jam tikslus, nes AI ir
tą darys geriau už žmones.
Geriau pagal koki apibrezima? DI tikslas yra kazkas panasaus i zmogaus vertybes ar morales normas - be jo, nera atskaitos tasko, pagal kuri galetume kazka vertinti ar tai gerai ar blogai. Zinoma tai nereiskia, kad neimanomas intelektas, kuris pats sau kurtu tikslus, randomu ar pagal koki nors algoritma, taciau abejoju ar pirmasis sukurtas bus toks. O pirmasis sukurtas, gali very well buti paskutinis.
Vilius wrote: ↑2017-08-08 13:43
Manau, AI iš tiesų taps pavojingi būtent tada, kai nebeturės konkretaus tikslo, pagal kurio vykdymą būtų galima vertinti programos darbą iš šalies.
Deja pavojaus per akis uztenka ir turint konkretu tiksla. Kaip tas pavyzdys, kuri sakiau - pagaminti kuo daugiau kopeciu. Gal pastebejai viena triuka - jame nera irasyto skaiciaus, kada tu kopeciu jau uztenka. Kuo daugiau, reiskia literaly, kuo daugiau. Jei toki tiksla turintis intelektas manys, kad tai pasiekiama, jis stengsis visus atomus visatoje perstatyti taip, kad jie atitiktu jo kopeciu apibrezima. Ir niekur nera irasytos taisykles, kad atomai, is kuriu sudarytas zmogus, butu kuo nors prastesni ir netiktu kopeciu gamybai.