Sejanus wrote: ↑2017-07-30 08:17
Na taip, tu išsigalvoji koks tas AI bus, kokių resursų turės turės priėjimą, į ką atsižvelgs į ką ne, ir tada tais savo išsigalvojimais paremi baisiniai blogą ateities scenarijų. Net nematau, dėl ko čia diskutuoti. Aš galiu išsigalvoti, kad AI laikysis Azimovo robotikos taisyklių, plius neturės išlikimo instinkto kuris kaip ir moralės normos išsivystė natūraliai žmonėms ir kurį reikėtų programuoti atskirai. Arba kad turės išlikimo instinktą ir bus baisiniai moralus. Ar dar kokias kombinacijas.
Matai, kad jaustumeisi saugus, tau neuztenka issigalvoti kitokio DI, nei as issigalvoju, tau dar reiktu parodyti, kad toks, koki isivaizduoju as yra neimanomas. Nes jei kazkas sukurs, toki, koki issigalvojau as, o kazkas toki, koki issigalvojai tu, tai zmonija isnyks vistiek, nes tas tavo issigalvotas, neisgelbes nuo to mano issigalvoto. Logiska?
Dabar del to mano issigalvoto, tai as jam issigalvoti dariau labai minimaliai prielaidu:
1. jis bus intelektualus (kitaip nesivadintu dirbtiniu intelektu).
2. jis gales save tobulinti (jei saves netobulins, tai viskas ok, jis bus tik toks protingas, koki ji suprogramuosime. Baisu pasidaro tada, kai jis gali save tobulinti, taigi ir tobulinti saves tobulinimo sugebejimus, is ko seka eksponentinis tobulejimas).
3. jis tures bent 1 tiksla (jei neturetu nei vieno, tai tada nieko nedarytu, kad ir koks intelektualus butu, taciau tokio niekas greiciausiai ir neprogramuotu).
Prielaidos kuriu as nedarau: tai, kad jis magiskai tures kazkokia morale, gerio supratima, meile zmonijai ir dar kanors is vaivoryksciu pasaulio, kam uzprogramuoti reiketu daug papildomu pastangu ir kolkas niekas net nezino, nuo ko reiketu pradeti.
Dabar griztant prie islikimo instinkto:
1. Jei jis pats neegzistuos, ar tai trukdys jo
vieninteliam tikslui, pagaminti kuo daugiau kopeciu? Taip trukdys.
2. Jei zmones neegzistuos, ar tai trukdys jo
vieninteliam tikslui, pagaminti kuo daugiau kopeciu? Ne netrukdys.
Go figure.
Sejanus wrote: ↑2017-07-30 08:17
Got you
To apsakymo pagrindinis premisas yra lygiai kaip tavo, su tokiom pačiom tragikomiškom pasekmėm, kaip tu įsivaizduoji. Tik ne kopėčias gamino, o saugojo žmones nuo nusikaltėlių. Būtent, kad per 64 metus padarytas didelis progresas ir šiuo metu šansas, kad kas nors gamins tokius absurdiškai primityvius narrow minded AI yra labai mažas. Kas buvo labai geras premisas juodai komedijai prieš pusę amžiaus, dabar iš tavęs skamba jau šiek tiek... atgyvenusiai
Ai, tai nori pasakyti, kad idejos, kurios amziui jau 64 metai, tu vis dar nesupranti?
Tada reikes daugiau, nei tik atnaujinti ziniais.
Sejanus wrote: ↑2017-07-30 08:17
Tačiau bet koks AI vis tiek bus įrankis ir niekas daugiau.
Nelabai suprantu koki pointa cia sakai. Tai net jei isnaikins zmonija, vistiek galesi sakyti, kad cia tik irankis, tik labai galingas ir labai blogai panaudotas.
Sejanus wrote: ↑2017-07-30 08:17
Ir branduolinių bombų yra pagaminta arti 15 000, ir jos pajėgios sunaikinti pasaulį as we know it (branduolinė žiema savarankiškam skaitymui). O žmoniją gebančių išnaikinti AI parašyta nulis.
Branduoliniu galvuciu irgi buvo pagaminta 0 iki, kol ju buvo pagaminta 15000. Kai bus parasytas 1 DI, jau bus per velu sneketi apie tai, kiek ju parasyta.
Sejanus wrote: ↑2017-07-30 08:17
Gal už 50 metų Petriukas ir turės savo telefone protingą gidą, žinantį kokius porno jis mėgsta labiausiai ir kokius sms siųsti kokiai merginai ir kokiu paros metu kokią picą užsakyti, bet c'mon, valdyti pasaulį ir išnaikinti žmoniją iš Petriuko telefono yra daug sunkiau, nei iš Kremliaus.
Ta petriuko telefonas gali jau siandien. Zinant eksponetini technologiju tobulejima, po 50 metu tik to tiketis is petriuko telefono, mazu maziausiai, butu naivu. O del lengvumo isnaikinti pasauli, atsimink, kad petriuko telefonas pajungtas prie interneto, kuris prijungtas prie kremliaus, tai dirbtiniui intelektui, kaip ir nera esminio skirtumo, nuo kur pradeti.