fizikanas wrote:
Svetimas wrote:
[Kalbant AI kontekste:]
Jeigu AI bukai simuliuos/mėgdžios "supratimą", aš hipotetizuoju (remdamasis savo hipotetizavimais aukščiau), kad AI negalima bus "įtaisyti" efektyvaus "limbic system" analogo ir dėl to išlaužti bent kiek universalesnį ir adekvačiau prisitaikantį (tarkim, žmonių pasauliui ir jų problemoms) AI.
O kuo paremta hipoteze, kad tas mistinis "limbic system" yra butina salyga universalesniam ir prisitaikanciam AI? As beveik isitikines, kad teoriskai yra begalo daug budu uzprogramuoti universalumu zmogu lenkianti AI, kuriame nebus nieko, ka galetum ivardinti, kaip "limbic system". Nebent sitas terminas yra kazkoks abstraktus zodzio "siela" sinonimas, kuri gali uzmauti ant bet ko.
Na, hipotezė visų pirma paremta Žemėje evoliucionavusiu gyvuoju pasauliu ir vieninteliu realiu intelektu, kurį mes žinom. T.y. geriausiu, ką žinom. "Teorija – sausa šaka, užtat gyvenimo vaisingas medis žydi." Iš mums žinomų realaus intelekto (kurį mes galėtumėm vadinti bent kiek universalesniu ir prisitaikančiu) pavyzdžių, gamta "suinžinerino" būtent tokį. Kad ir kaip silpnai tas pavyzdys su gamta tau atrodytų, manau, jis yra pakankamai stiprus.
Aš teoriškai galbūt tau ir labiau pritarčiau, jeigu tu pateiktum rimtesnių informacijos "iterpretavimo" ar "supratimo" analogų ar pavyzdžių, be kažkokio "limbic system" analogo. Ne vien tik savo "beveik įsitikinimą". Tam, kad "intelektas" būtų universalus, manau, jam reikalingi tam tikri gan lankstūs informacijos "iterpretavimo", "supratimo", "tikslų formavimo" analogai. Teoriškai sugalvoti ant smūgio kokius nors plikus tokio universalesnio "intelekto" modelius be šito, man kol kas nepavyko. Jei tu turi kokių idėjų šituo klausimu, tai prašau nesidrovėti ir jomis pasidalinti.
fizikanas wrote:
Svetimas wrote:
Šiaip, žaidimų teorija labai plati, įdomi sritis ir prašosi atskiros temos. Bet nematau ryšio tarp tavo nuorodos ir to, kad AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento". Gal tu gali man padėti tą ryšį pamatyti? Jau minėjau, jog manau, kad Google Deep Mind AI žaidimų teorijos nenaudojo. Nebent ja galėjo pasinaudoti žmonių komanda, kad apibrėžtų "žaidimų aikštelę" AI.
Deep mind kolkas zaide tik zaidimus vienas pries viena. Tokiuose sajungininku net negali buti.
Taip. Bet tu kalbėjai apie žaidimų teoriją AI kontekste. Žaidimų teorija aprašinėja ir "žaidimus be sąjungininkų". Netgi, jei skaitei savo paties nuorodą, "non-cooperative game theory is more general". Tačiau žaidimų teorijos Deep Mind AI pats nenaudojo ir jos jam neprisireikė. Taigi tavo žaidimų teorijos pavyzdys greičiausiai nelabai į temą. Nebent manai, kad žaidimų teorijos kažkaip prireiks universalesnio AI kūrime.
fizikanas wrote:
Svetimas wrote:
Pagal paaiškinimus aukščiau, manau, jog AI nesugebės efektyviai formuoti savo "tikslų" be "supratimo", dėl kurio aš čia laužau galvą, ir kažkokio "limbic system" analogo.
Manau, kad tavo bandymas bandyti suprasti AI, darant kazkokias analogijas su zmogum yra is principo idingas ir niekur nenuves. Daug paprasciau sukurti AI nuo nulio, nei reverse-enginerinti zmogu ir tada pagal tai kurti AI. Zinoma antras variantas yra imanomas is principo, bet pirmasis bus igyvendintas gerokai greiciau ir efektyviau. Ieskoti, kazkokiu "limbic system" dirbtiniame intelekte, tai tas pats, kas sukti galva, kaip pagaminti plasnojancius sparnus, kad lektuvas pakiltu. Pries 200 metu galbut kai kurie ir bande isspresti sita problema, bet ne jie pirmieji pakilo i ora.
Jau vien dirbtiniai neuroniniai tinklai, kurie naudojami specializuotuose AI, yra savotiškas reverse engineering'o pavyzdys. Esi tikras, jog nebeprisireiks nieko daugiau?
Kai nėra jokių geresnių idėjų (panašu, kad ir pas tave jų nėra), tai bandymai užsiimti reverse engineering'u ir perprasti jau sėkmingai veikiančius realius dalykus nėra bloga strategija kuriant kažką panašaus. Net ir tyrinėjant plasnojančius sparnus galima prisikasti prie to, kas yra svarbiausia objektų "skraidinimui" ore - keliamąją jėgą ore ir kas ją įtakoja.
fizikanas wrote:
Svetimas wrote:
Beje, šiek tiek nukrypstant į šoną dėl užvaldymo. Jau dabar mes turime sąlyginai bukas technologijas, kurios sugebėjo nejučia "užvaldyti" pasaulį, keisti žmonių visuomenes ir kai kuriais atvejais kelti nelabai malonias pasekmes (užterštumas ir etc.). Vat šitas dalykas, sakyčiau, kol kas aktualesnis ir labiau vertas dėmesio.
Kad nelabai, klimatas dar bent 100 metu musu neturetu sunaikinti, o dirbtini intelekta visokie spejikai zada kurkas anksciau.
Aš ne apie tai. Aš apie tai, kad net ir daug bukesnės ir primityvesnės už universalų strong AI technologijos pridaro, gali mums pridaryti ir pridarys šiokių tokių problemų. Pavyzdžiui, kad ir šią savaitę mano atsitiktinai skaitytas
Algorithms have already taken over human decision making straipsnelis man paliko didesnį įspūdį nei tavo nupasakotos strong AI grėsmės. Dar kaip pavyzdį galima ir
Filter bubbles pridėti, apie kuriuos paskutiniu metu patapo madinga kalbėti.
fizikanas wrote:
Svetimas wrote:
Aha. Ir tas AI nesiteiks komunikuoti su žmonija, kad išsiaiškintų, ar artėja prie bazinio savo tikslo?
Kada paskutini karta atsiklausei simpanzes, ar pakankamai gerai sieki savo baziniu evoliuciniu tikslu?
Netinkama analogija. Galėtum po truputi jau ir mažinti tokių skaičių. Na, bet galim panarplioti ir ją, kad jau pradėjai. Šimpanzės nepajėgios komunikuoti kaip žmonės. Dalies žmonių komunikavimo lygis jau yra pakankamas, kad būtų prasminga su jais komunikuoti dėl jų gerovės. Jeigu "bazinis tikslas" (iš tavo paties minčių gimęs gan keistas konceptas) būtų toks, kaip minėjau, tai aš AI vietoj būtinai jų atsiklausčiau apie artėjimą link jų gerovės. Nes kaip kitaip išmatuočiau, ar artėju prie savo "bazinio tikslo" ar tolstu?
fizikanas wrote:
Svetimas wrote:Bet tie fantastikos kūriniai labiau skirti žmonėms metaforiškai pamąstyti apie tam tikrus dalykus, o ne apie tiesiogines AI grėsmes.
Nezinau visu mokslines fantastikos rasytoju tiklsu, netgi tu, kurie pakankamai tiesiogiai kalba apie AI gresmes, bet ir be rasytoju yra daugybe filosofu, mokslininku ir siaip specialistu, kurie tiesiogiai kalba apie tiesiogines AI gresmes. Zinok, jei apie kazka yra parasyta fantastine knyga, tai magiskai nepanaikina to dalyko realios gresmes. Pvz as jei parasyciau fantastine knyga apie globalini atsilima, tai vidutine temperatura pasaulyje nenukris keliais laipsniais. Arba jeigu parasytum fantastine knyga apie Atomine bomba, tai Nagasaki gyventojai nuo to neprisikeltu.
Apie rašytojus fantastus užsiminiau dėl to, jog norėjau pasakyti tą patį, jog tu ne vienas užsiiminėji perspėjimais. Kitaip sakant, turi sąjungininkų.
Dėl metaforų rašiau taip todėl, kad rašytojams paprasčiau metaforiškai mąstyti apie tam tikrus dalykus ir grėsmes, nes kalbėti apie tiesioginės AI grėsmes ir jas analizuoti yra sudėtinga bei reikia išmanymo, kad tai daryti gerai.
Nepaisant to, gerai, jei talentingi rašytojai apie kažką metaforiškai mąsto. Gal net ir duoda daugiau naudos, nei kalbėjimas neinformuotai apie tiesiogines AI grėsmes. Žymiai geriau, nei kokie pakvaišę unabomberiai.
Ir, šiaip, gerai, kad tavo pusėj yra "daugybe filosofu, mokslininku ir siaip specialistu, kurie tiesiogiai kalba apie tiesiogines AI gresmes". Aš tik nenoriu, kad krūva filosofų ar pan., važinėjančių į visokius simpoziumus, konferencijas ar pan. pakalbėti apie AI grėsmes, nepridarytų daugiau bėdos su tuo.
Kaip toj istorijoj apie piemenį, erzinusį tuščiai žmones "vilkas!", "vilkas!" šūkavimais. Nes kai tikrai išlįs kažkas panašaus į vilką, gali būti, kad į piemens pagrįstus šūkavimus jau niekas nebekreips dėmesio.
