Dirbtinis intelektas

Ramesnės ir draugiškesnės diskusijos be politikos. Mažiau apie politines pažiūras, vertybes ar pan. bei labiau kurstomos smalsumo sau įdomia tema.
User avatar
Lionginas
senbuvis
Posts: 3336
Joined: 2011-10-03 09:35

2019-03-06 14:00

fizikanas wrote:
2019-03-05 22:20
Nezinau visu mokslines fantastikos rasytoju tiklsu, netgi tu, kurie pakankamai tiesiogiai kalba apie AI gresmes, bet ir be rasytoju yra daugybe filosofu, mokslininku ir siaip specialistu, kurie tiesiogiai kalba apie tiesiogines AI gresmes.
fizikanas wrote:
2019-03-05 22:20
Manau, kad tavo bandymas bandyti suprasti AI, darant kazkokias analogijas su zmogum yra is principo idingas ir niekur nenuves. Daug paprasciau sukurti AI nuo nulio, nei reverse-enginerinti zmogu ir tada pagal tai kurti AI. Zinoma antras variantas yra imanomas is principo, bet pirmasis bus igyvendintas gerokai greiciau ir efektyviau. Ieskoti, kazkokiu "limbic system" dirbtiniame intelekte, tai tas pats, kas sukti galva, kaip pagaminti plasnojancius sparnus, kad lektuvas pakiltu. Pries 200 metu galbut kai kurie ir bande isspresti sita problema, bet ne jie pirmieji pakilo i ora.
Tai sekant šitą analogiją, taip gaunasi, kad mes dar nežinome, koks ateityje bus tas AI, bet jau žinome, kad jis kels grėsmę, nes kai kurie žmonės apie tai kalba?

Ar kas nors prisimena Y2K pasaulio pabaigą? Daug protingų žmonių irgi apie ją kalbėjo.
Stormas
skeptikas
Posts: 658
Joined: 2018-07-04 23:51

2019-03-06 23:17

Lionginas wrote:
2019-03-06 14:00
Tai sekant šitą analogiją, taip gaunasi, kad mes dar nežinome, koks ateityje bus tas AI, bet jau žinome, kad jis kels grėsmę, nes kai kurie žmonės apie tai kalba?

Ar kas nors prisimena Y2K pasaulio pabaigą? Daug protingų žmonių irgi apie ją kalbėjo.
Bloga analogija, nes būtent kalbėjimas ir iš to sekę veiksmai ir praktiškai visiškai panaikino Y2K pasaulio pabaigą. Čia aišku neskaitant to jog jokios pasaulio pabaigos net pačiu blogiausiu atvejų nebūtų buvę.
User avatar
Seianus
skeptikas
Posts: 758
Joined: 2018-11-16 23:57

2019-03-07 23:32

Ar kas nors prisimena Y2K pasaulio pabaigą? Daug protingų žmonių irgi apie ją kalbėjo.
Prisimenu prisimenu. Net filmas buvo pastatytas. Man tuomet atrodė panašiai juokinga, kaip ir dabar.

Dar pamenu 2012 pasaulio pabaigą. Apie ją protingų žmonių tiesa kalbėjo daug mažiau, koks nulis, bet vis tiek buvo tokia vietinės reikšmės isterijukė, panašiai pagrįsta, kaip ir baimės dėl AI pasaulio pabaigos.
User avatar
fizikanas
nenugalimas
Posts: 4062
Joined: 2004-05-27 19:45

2019-03-07 23:50

Lionginas wrote:
2019-03-06 14:00
Tai sekant šitą analogiją, taip gaunasi, kad mes dar nežinome, koks ateityje bus tas AI, bet jau žinome, kad jis kels grėsmę, nes kai kurie žmonės apie tai kalba?
Mes nezinome, koks bus AI, bet darom prielaida, kad kazkada jis bus ir kad kazkada jis bus protingesnis uz zmogu. Dabar isivaizduok, kad dalyvauji kokiame nors proto reikalaujanciame konkurse, pvz sachmatu. Esi gerai pasiruoses ir tikiesi laimeti pirma vieta. Taciau pries prasidedant pirmai partijai, suzinai, kad konkurse dalyvaus zmogus, kuris yra uz tave 2 kartus protingesnis. Ar tokiu atveju pajaustum gresme, kad nebelaimesi sito konkurso? Greiciausiai taip. Greiciausiai pirma atejus i galva mintis nebus, kad jeigu oponentas toks protingas, tai reiskia jis zinos, kaip tu nori laimeti konkursa, ir kaip tau bus skaudu ji pralosus, uz tai taves pagailes ir finale tau pasiduos. Ne, greiciausiai tokia kosmiskai kvaila mintis tau net i galva neateitu. Kodel tuomet tai pirma mintis, kuri tau ateina i galva, kai kalbam apie simtus ar tukstancius ar miliardus kartu uz zmogu protingesni AI?
Lionginas wrote:
2019-03-06 14:00
Ar kas nors prisimena Y2K pasaulio pabaigą?
Niekas neprisimena jokios pasaulio pabaigos, nes jei tokia butu ivykus niekas cia nebutu, kad ja prisimintu.
User avatar
Seianus
skeptikas
Posts: 758
Joined: 2018-11-16 23:57

2019-03-07 23:55

Kodel tuomet tai pirma mintis, kuri tau ateina i galva, kai kalbam apie simtus ar tukstancius ar miliardus kartu uz zmogu protingesni AI?
Nes tavo analogija kvaila ir ne į temą :) Jei tas 2xIQ oponentas būtų mano kurtas ir skirtas mano poreikiams tenkinti ir iš anksto būčiau įprogramavęs tinkamas reakcijas į tinkamus dirgiklius, pralaimėtų jis prieš mane kaip didelis ir jokios išankstinės baimės nejausčiau.
User avatar
Lionginas
senbuvis
Posts: 3336
Joined: 2011-10-03 09:35

2019-03-08 08:54

fizikanas wrote:
2019-03-07 23:50
Mes nezinome, koks bus AI, bet darom prielaida, kad kazkada jis bus ir kad kazkada jis bus protingesnis uz zmogu. Dabar isivaizduok, kad dalyvauji kokiame nors proto reikalaujanciame konkurse, pvz sachmatu. Esi gerai pasiruoses ir tikiesi laimeti pirma vieta. Taciau pries prasidedant pirmai partijai, suzinai, kad konkurse dalyvaus zmogus, kuris yra uz tave 2 kartus protingesnis. Ar tokiu atveju pajaustum gresme, kad nebelaimesi sito konkurso? Greiciausiai taip. Greiciausiai pirma atejus i galva mintis nebus, kad jeigu oponentas toks protingas, tai reiskia jis zinos, kaip tu nori laimeti konkursa, ir kaip tau bus skaudu ji pralosus, uz tai taves pagailes ir finale tau pasiduos. Ne, greiciausiai tokia kosmiskai kvaila mintis tau net i galva neateitu. Kodel tuomet tai pirma mintis, kuri tau ateina i galva, kai kalbam apie simtus ar tukstancius ar miliardus kartu uz zmogu protingesni AI?
Ženkliai protingesnis už mane žmogus gal net nenorės žaisti šachmatais. Gal net gyventi nenorės. Iš kur tu žinai, kad ateityje AI konkuruos su žmonėmis toje pačioje lygoje ir varžysis dėl tų pačių resursų? Ne per anksti formuluoti visokias AI preferencijas kai dar net nežinome, koks tas AI bus?
fizikanas wrote:
2019-03-07 23:50
Ar kas nors prisimena Y2K pasaulio pabaigą?
Niekas neprisimena jokios pasaulio pabaigos, nes jei tokia butu ivykus niekas cia nebutu, kad ja prisimintu.
"Pasaulio pabaiga" yra toks išsireiškimas, kurį čia panaudojau sarkastiškai. Dabar laukiu kaltinimų, kad neriu į krūmus :mrgreen:

Bet kuriuo atveju, kaip Stormas ir sakė, gal čia nelabai gera analogija. Greita "failed tech predictions" paieška man nedavė nieko gero, tai ėmiau pirmą mintį, kuri šovė galvon.
User avatar
fizikanas
nenugalimas
Posts: 4062
Joined: 2004-05-27 19:45

2019-03-08 12:03

Seianus wrote:
2019-03-07 23:55
Jei tas 2xIQ oponentas būtų mano kurtas ir skirtas mano poreikiams tenkinti ir iš anksto būčiau įprogramavęs tinkamas reakcijas į tinkamus dirgiklius, pralaimėtų jis prieš mane kaip didelis ir jokios išankstinės baimės nejausčiau.
Tai gerai, AI bus ne tavo kurtas, ne tavo poreikiams tenkinti skirtas ir kaip iprogramuoti, tai ka tu vadini tinkamom reakcijom, niekas nezino.
User avatar
fizikanas
nenugalimas
Posts: 4062
Joined: 2004-05-27 19:45

2019-03-08 12:10

Lionginas wrote:
2019-03-08 08:54
Ženkliai protingesnis už mane žmogus gal net nenorės žaisti šachmatais.
Tai ko manai jis atejo i ta konkursa? :D
Lionginas wrote:
2019-03-08 08:54
Gal net gyventi nenorės.
Nesikliauciau, kad AI tures liberastisku savidestrukciniu vertybiu. O jei kuris nors ir tures, tai uztenka vieno, kuris neturetu.
Lionginas wrote:
2019-03-08 08:54
Iš kur tu žinai, kad ateityje AI konkuruos su žmonėmis toje pačioje lygoje ir varžysis dėl tų pačių resursų?
Nes mes konkuruojam del tu paciu resursu su gamta. Tiksliau nekonkuruojam, o tiesiog pasiemam, pakeliui ja sunaikindami.
Lionginas wrote:
2019-03-08 08:54
Ne per anksti formuluoti visokias AI preferencijas kai dar net nežinome, koks tas AI bus?
Tu nenoretum to pradeti daryti per velai.
fizikanas wrote:
2019-03-07 23:50
"Pasaulio pabaiga" yra toks išsireiškimas, kurį čia panaudojau sarkastiškai. Dabar laukiu kaltinimų, kad neriu į krūmus :mrgreen:
Oho, nesiliauji stebines su savo sarkazmu.
fizikanas wrote:
2019-03-07 23:50
Greita "failed tech predictions" paieška man nedavė nieko gero
Verta susimastyti.
User avatar
Lionginas
senbuvis
Posts: 3336
Joined: 2011-10-03 09:35

2019-03-08 12:45

fizikanas wrote:
2019-03-08 12:10
Lionginas wrote:
2019-03-08 08:54
Ženkliai protingesnis už mane žmogus gal net nenorės žaisti šachmatais.
Tai ko manai jis atejo i ta konkursa? :D
Iš kur žinai, kad atėjo? Matei ateities AI?
fizikanas wrote:
2019-03-08 12:10
Lionginas wrote:
2019-03-08 08:54
Iš kur tu žinai, kad ateityje AI konkuruos su žmonėmis toje pačioje lygoje ir varžysis dėl tų pačių resursų?
Nes mes konkuruojam del tu paciu resursu su gamta. Tiksliau nekonkuruojam, o tiesiog pasiemam, pakeliui ja sunaikindami.
Su gamta mes konkuruojame tose pačiose srityse, nes mes, well, esame gamtiški. Žmonės yra gyvūnai, ir konkurencija pasireiškia tik gana siaurose "gamtiškose" srityse - medžioklės plotuose, maiste ir t.t. AI paseliai turbūt nelabai reikalingi, tai ir konkurencijos čia nebus. O visokius metalus galima išgauti ir kosmose, ten to gėrio pilna ir jis gali būti išgautas ne tik lengviau (nėra gravitacijos), bet ir didesniais kiekiais bei be jokio karo.

Be to, gamta, kiek paskutinį kartą domėjausi, vis dar egzistuoja, ir mes kaip ir neturime tikslo ją išnaikinti. Jei būtume protingesni ir efektyvesni, tai gamtai tikriausiai būtų tik geriau.

Na, ir kitas dalykas, tai mes nelabai keltume itin protingam AI konkurencinę grėsmę. Didžiausia gėsmė AI yra kiti AI, todėl labai protingas AI galimai stengtųsi sulaikyti AI pažangą.
fizikanas wrote:
2019-03-08 12:10
fizikanas wrote:
2019-03-07 23:50
"Pasaulio pabaiga" yra toks išsireiškimas, kurį čia panaudojau sarkastiškai. Dabar laukiu kaltinimų, kad neriu į krūmus :mrgreen:
Oho, nesiliauji stebines su savo sarkazmu.
Tu po viso šito mano buvimo ir šimtų žinučių forume vis dar stebiesi, ar tik dabar pradėjai stebėtis, kai pirštu parodau, kur buvo sarkazmas?

fizikanas wrote:
2019-03-08 12:10
fizikanas wrote:
2019-03-07 23:50
Greita "failed tech predictions" paieška man nedavė nieko gero
Verta susimastyti.
Tiesą sakant, ne. Kaip rašiau, tai greitai paieška, ir pirmame puslapyje tiesiog nebuvo itin taiklaus pavyzdžio. Pačių failed tech predictions tai daugybė.
User avatar
fizikanas
nenugalimas
Posts: 4062
Joined: 2004-05-27 19:45

2019-03-08 19:15

Lionginas wrote:
2019-03-08 12:45
Iš kur žinai, kad atėjo? Matei ateities AI?
Nes sioje analogijoje tas konkursas apima visa musu teorine itakos erdve (aka realybe), taigi AI, kuris egzistuos ir operuos toje pat realybeje, jau savaime dalyvauja konkurse.
Paziurek i zmogu - jis dalyvauja visur, pradedant subatominiame lygije skaldydamas protonus greitintuve, baigiant astronominiame, siuntinedamas rolerius i marsa ar toliau. Jeigu zmogus neapsiriboja kazkokia viena sritim, kodel turetu N kartu protingesnis AI? O jei skaiciuosim ne kazkuri konkretu AI, o visus AI, kurie tik bus sukurti ateityje?
Lionginas wrote:
2019-03-08 12:45
Su gamta mes konkuruojame tose pačiose srityse, nes mes, well, esame gamtiški. Žmonės yra gyvūnai, ir konkurencija pasireiškia tik gana siaurose "gamtiškose" srityse - medžioklės plotuose, maiste ir t.t.
Konkuruojame visur, kur tik egzistuoja gamta. Paziurek isnykusias rusys, vandens ir sausumos, del zmoniu kaltes. Paziurek iskirstu misku plotus ir pabandyk suskaiciuoti absoliutu gyvu organizmu kieki, kuris dabar neegzistuoja tiesiogiai ar netiesiogiai del zmoniu veiklos. Dabar pereik vienu lygiu auksciau, is kurios zmogus atrodo tik labai gudri bezdzionele, kuri moka grunta perdirbti i visokius pastatus ir masinas.
Lionginas wrote:
2019-03-08 12:45
AI paseliai turbūt nelabai reikalingi, tai ir konkurencijos čia nebus. O visokius metalus galima išgauti ir kosmose, ten to gėrio pilna ir jis gali būti išgautas ne tik lengviau (nėra gravitacijos), bet ir didesniais kiekiais bei be jokio karo.
Mums irgi nereikalingi plotai vandenyno dugne, bet nepaisant to sugebam isnaikinti istisas juros gyventoju populiacijas. Mes sugebam isnaikinti netgi tuos gyvunus, kuriu egzistavimas ir sveika populiacija mums butu naudingi. Ir tai padarom net to nenoredami, tiesiog toks yra salutinis musu veiklos poveikis.
Lionginas wrote:
2019-03-08 12:45
Be to, gamta, kiek paskutinį kartą domėjausi, vis dar egzistuoja,
Puiku tai gal ir zmogaus paliks koki viena egzemplioriu tyrimu tikslais.
Lionginas wrote:
2019-03-08 12:45
Na, ir kitas dalykas, tai mes nelabai keltume itin protingam AI konkurencinę grėsmę. Didžiausia gėsmė AI yra kiti AI, todėl labai protingas AI galimai stengtųsi sulaikyti AI pažangą.
O zinai koks lengviausias budas uztikrinti, kad kiti AI niekada neatsirastu?
Lionginas wrote:
2019-03-08 12:45
Tu po viso šito mano buvimo ir šimtų žinučių forume vis dar stebiesi, ar tik dabar pradėjai stebėtis, kai pirštu parodau, kur buvo sarkazmas?
Nu tu tikras sarkazmo ekspertas. Net nesigincysiu sitoje vietoje.
Lionginas wrote:
2019-03-08 12:45
Kaip rašiau, tai greitai paieška, ir pirmame puslapyje tiesiog nebuvo itin taiklaus pavyzdžio. Pačių failed tech predictions tai daugybė.
Jeigu kazko nera pirmame google paieskos puslapyje, tai jau gera priezastis susimastyti.
User avatar
Svetimas
administratorius
Posts: 2225
Joined: 2004-05-25 19:04
Location: Vilnius

2019-03-15 22:20

fizikanas wrote:
Svetimas wrote: [Kalbant AI kontekste:]
Jeigu AI bukai simuliuos/mėgdžios "supratimą", aš hipotetizuoju (remdamasis savo hipotetizavimais aukščiau), kad AI negalima bus "įtaisyti" efektyvaus "limbic system" analogo ir dėl to išlaužti bent kiek universalesnį ir adekvačiau prisitaikantį (tarkim, žmonių pasauliui ir jų problemoms) AI.
O kuo paremta hipoteze, kad tas mistinis "limbic system" yra butina salyga universalesniam ir prisitaikanciam AI? As beveik isitikines, kad teoriskai yra begalo daug budu uzprogramuoti universalumu zmogu lenkianti AI, kuriame nebus nieko, ka galetum ivardinti, kaip "limbic system". Nebent sitas terminas yra kazkoks abstraktus zodzio "siela" sinonimas, kuri gali uzmauti ant bet ko.
Na, hipotezė visų pirma paremta Žemėje evoliucionavusiu gyvuoju pasauliu ir vieninteliu realiu intelektu, kurį mes žinom. T.y. geriausiu, ką žinom. "Teorija – sausa šaka, užtat gyvenimo vaisingas medis žydi." Iš mums žinomų realaus intelekto (kurį mes galėtumėm vadinti bent kiek universalesniu ir prisitaikančiu) pavyzdžių, gamta "suinžinerino" būtent tokį. Kad ir kaip silpnai tas pavyzdys su gamta tau atrodytų, manau, jis yra pakankamai stiprus.

Aš teoriškai galbūt tau ir labiau pritarčiau, jeigu tu pateiktum rimtesnių informacijos "iterpretavimo" ar "supratimo" analogų ar pavyzdžių, be kažkokio "limbic system" analogo. Ne vien tik savo "beveik įsitikinimą". Tam, kad "intelektas" būtų universalus, manau, jam reikalingi tam tikri gan lankstūs informacijos "iterpretavimo", "supratimo", "tikslų formavimo" analogai. Teoriškai sugalvoti ant smūgio kokius nors plikus tokio universalesnio "intelekto" modelius be šito, man kol kas nepavyko. Jei tu turi kokių idėjų šituo klausimu, tai prašau nesidrovėti ir jomis pasidalinti.
fizikanas wrote:
Svetimas wrote: Šiaip, žaidimų teorija labai plati, įdomi sritis ir prašosi atskiros temos. Bet nematau ryšio tarp tavo nuorodos ir to, kad AI naudoja žaidimo teoriją, kad atskirtų "partnerį" nuo "konkurento". Gal tu gali man padėti tą ryšį pamatyti? Jau minėjau, jog manau, kad Google Deep Mind AI žaidimų teorijos nenaudojo. Nebent ja galėjo pasinaudoti žmonių komanda, kad apibrėžtų "žaidimų aikštelę" AI.
Deep mind kolkas zaide tik zaidimus vienas pries viena. Tokiuose sajungininku net negali buti.
Taip. Bet tu kalbėjai apie žaidimų teoriją AI kontekste. Žaidimų teorija aprašinėja ir "žaidimus be sąjungininkų". Netgi, jei skaitei savo paties nuorodą, "non-cooperative game theory is more general". Tačiau žaidimų teorijos Deep Mind AI pats nenaudojo ir jos jam neprisireikė. Taigi tavo žaidimų teorijos pavyzdys greičiausiai nelabai į temą. Nebent manai, kad žaidimų teorijos kažkaip prireiks universalesnio AI kūrime.
fizikanas wrote:
Svetimas wrote: Pagal paaiškinimus aukščiau, manau, jog AI nesugebės efektyviai formuoti savo "tikslų" be "supratimo", dėl kurio aš čia laužau galvą, ir kažkokio "limbic system" analogo.
Manau, kad tavo bandymas bandyti suprasti AI, darant kazkokias analogijas su zmogum yra is principo idingas ir niekur nenuves. Daug paprasciau sukurti AI nuo nulio, nei reverse-enginerinti zmogu ir tada pagal tai kurti AI. Zinoma antras variantas yra imanomas is principo, bet pirmasis bus igyvendintas gerokai greiciau ir efektyviau. Ieskoti, kazkokiu "limbic system" dirbtiniame intelekte, tai tas pats, kas sukti galva, kaip pagaminti plasnojancius sparnus, kad lektuvas pakiltu. Pries 200 metu galbut kai kurie ir bande isspresti sita problema, bet ne jie pirmieji pakilo i ora.
Jau vien dirbtiniai neuroniniai tinklai, kurie naudojami specializuotuose AI, yra savotiškas reverse engineering'o pavyzdys. Esi tikras, jog nebeprisireiks nieko daugiau?
Kai nėra jokių geresnių idėjų (panašu, kad ir pas tave jų nėra), tai bandymai užsiimti reverse engineering'u ir perprasti jau sėkmingai veikiančius realius dalykus nėra bloga strategija kuriant kažką panašaus. Net ir tyrinėjant plasnojančius sparnus galima prisikasti prie to, kas yra svarbiausia objektų "skraidinimui" ore - keliamąją jėgą ore ir kas ją įtakoja.
fizikanas wrote:
Svetimas wrote: Beje, šiek tiek nukrypstant į šoną dėl užvaldymo. Jau dabar mes turime sąlyginai bukas technologijas, kurios sugebėjo nejučia "užvaldyti" pasaulį, keisti žmonių visuomenes ir kai kuriais atvejais kelti nelabai malonias pasekmes (užterštumas ir etc.). Vat šitas dalykas, sakyčiau, kol kas aktualesnis ir labiau vertas dėmesio.
Kad nelabai, klimatas dar bent 100 metu musu neturetu sunaikinti, o dirbtini intelekta visokie spejikai zada kurkas anksciau.
Aš ne apie tai. Aš apie tai, kad net ir daug bukesnės ir primityvesnės už universalų strong AI technologijos pridaro, gali mums pridaryti ir pridarys šiokių tokių problemų. Pavyzdžiui, kad ir šią savaitę mano atsitiktinai skaitytas Algorithms have already taken over human decision making straipsnelis man paliko didesnį įspūdį nei tavo nupasakotos strong AI grėsmės. Dar kaip pavyzdį galima ir Filter bubbles pridėti, apie kuriuos paskutiniu metu patapo madinga kalbėti.
fizikanas wrote:
Svetimas wrote: Aha. Ir tas AI nesiteiks komunikuoti su žmonija, kad išsiaiškintų, ar artėja prie bazinio savo tikslo? :)
Kada paskutini karta atsiklausei simpanzes, ar pakankamai gerai sieki savo baziniu evoliuciniu tikslu?
Netinkama analogija. Galėtum po truputi jau ir mažinti tokių skaičių. Na, bet galim panarplioti ir ją, kad jau pradėjai. Šimpanzės nepajėgios komunikuoti kaip žmonės. Dalies žmonių komunikavimo lygis jau yra pakankamas, kad būtų prasminga su jais komunikuoti dėl jų gerovės. Jeigu "bazinis tikslas" (iš tavo paties minčių gimęs gan keistas konceptas) būtų toks, kaip minėjau, tai aš AI vietoj būtinai jų atsiklausčiau apie artėjimą link jų gerovės. Nes kaip kitaip išmatuočiau, ar artėju prie savo "bazinio tikslo" ar tolstu?
fizikanas wrote:
Svetimas wrote:Bet tie fantastikos kūriniai labiau skirti žmonėms metaforiškai pamąstyti apie tam tikrus dalykus, o ne apie tiesiogines AI grėsmes.
Nezinau visu mokslines fantastikos rasytoju tiklsu, netgi tu, kurie pakankamai tiesiogiai kalba apie AI gresmes, bet ir be rasytoju yra daugybe filosofu, mokslininku ir siaip specialistu, kurie tiesiogiai kalba apie tiesiogines AI gresmes. Zinok, jei apie kazka yra parasyta fantastine knyga, tai magiskai nepanaikina to dalyko realios gresmes. Pvz as jei parasyciau fantastine knyga apie globalini atsilima, tai vidutine temperatura pasaulyje nenukris keliais laipsniais. Arba jeigu parasytum fantastine knyga apie Atomine bomba, tai Nagasaki gyventojai nuo to neprisikeltu.
Apie rašytojus fantastus užsiminiau dėl to, jog norėjau pasakyti tą patį, jog tu ne vienas užsiiminėji perspėjimais. Kitaip sakant, turi sąjungininkų.
Dėl metaforų rašiau taip todėl, kad rašytojams paprasčiau metaforiškai mąstyti apie tam tikrus dalykus ir grėsmes, nes kalbėti apie tiesioginės AI grėsmes ir jas analizuoti yra sudėtinga bei reikia išmanymo, kad tai daryti gerai.
Nepaisant to, gerai, jei talentingi rašytojai apie kažką metaforiškai mąsto. Gal net ir duoda daugiau naudos, nei kalbėjimas neinformuotai apie tiesiogines AI grėsmes. Žymiai geriau, nei kokie pakvaišę unabomberiai.

Ir, šiaip, gerai, kad tavo pusėj yra "daugybe filosofu, mokslininku ir siaip specialistu, kurie tiesiogiai kalba apie tiesiogines AI gresmes". Aš tik nenoriu, kad krūva filosofų ar pan., važinėjančių į visokius simpoziumus, konferencijas ar pan. pakalbėti apie AI grėsmes, nepridarytų daugiau bėdos su tuo. :) Kaip toj istorijoj apie piemenį, erzinusį tuščiai žmones "vilkas!", "vilkas!" šūkavimais. Nes kai tikrai išlįs kažkas panašaus į vilką, gali būti, kad į piemens pagrįstus šūkavimus jau niekas nebekreips dėmesio.
User avatar
Seianus
skeptikas
Posts: 758
Joined: 2018-11-16 23:57

2019-04-02 13:49

ArsTechnica wrote: Researchers from Tencent's Keen Security Lab recently reverse-engineered several of Tesla's automated processes to see how they reacted when environmental variables changed. One of the most striking discoveries was a way to cause Autopilot to steer into oncoming traffic. The attack worked by carefully affixing three stickers to the road. The stickers were nearly invisible to drivers, but machine-learning algorithms used by by the Autopilot detected them as a line that indicated the lane was shifting to the left. As a result, Autopilot steered in that direction.
User avatar
Svetimas
administratorius
Posts: 2225
Joined: 2004-05-25 19:04
Location: Vilnius

2019-11-02 15:40

Machines Beat Humans on a Reading Test. But Do They Understand?
Tai aišku, kad nesupranta. Iš kur dar tos naivios abejonės, kad galbūt supranta? :)
User avatar
fizikanas
nenugalimas
Posts: 4062
Joined: 2004-05-27 19:45

2019-11-02 19:34

Svetimas wrote:
2019-11-02 15:40
Machines Beat Humans on a Reading Test. But Do They Understand?
Tai aišku, kad nesupranta. Iš kur dar tos naivios abejonės, kad galbūt supranta? :)
O kaip patikrintum, ar supranta?
User avatar
Vilius
emeritas
Posts: 5075
Joined: 2004-04-19 12:28

2019-11-02 19:40

Aš tai klausčiau, kaip jis patikrintų, kad žmonės "tikrai supranta" tekstą.. Ir ką tai iš viso reiškia "tikrai suprasti".
User avatar
Svetimas
administratorius
Posts: 2225
Joined: 2004-05-25 19:04
Location: Vilnius

2019-11-09 20:31

fizikanas wrote:
2019-11-02 19:34
Svetimas wrote:
2019-11-02 15:40
Machines Beat Humans on a Reading Test. But Do They Understand?
Tai aišku, kad nesupranta. Iš kur dar tos naivios abejonės, kad galbūt supranta? :)
O kaip patikrintum, ar supranta?
O kodėl kalbi apie to patikrinimą? Manai iš principo įmanoma tai patikrinti? Remiuosi nuomone, kad tos mašinos neturi sąmonės su mūsų specifine žmogiška informacijos suvokimo mašinerija.
User avatar
Vilius
emeritas
Posts: 5075
Joined: 2004-04-19 12:28

2019-11-09 22:01

Svetimas wrote:
2019-11-09 20:31
Remiuosi nuomone, kad tos mašinos neturi sąmonės su mūsų specifine žmogiška informacijos suvokimo mašinerija.
Čia bandai pasislėpti už tos "specifinės mašinerijos". Jei mūsų neuronų tinkle gali kilti tai, ką tu vadini "teksto suvokimu", tai kažkoks analogiškas procesas turėtų galėti kilti ir kitokios architektūros sistemose, kai jos yra exposinamos tam tekstui (darant prielaidą, kad jos yra pakankamai sudėtingos, ir adekvačiai apmokytos).

Aišku, abejoju, kad ta konkreti sistema jau atitinka tuos kriterijus. Bet šiais laikais jau nebebūčiau toks drąsus, kad automatiškai dismissinti mašininio suvokimo galimybę, vien dėl to, kad tekstą skaito ne žmogus.
User avatar
Svetimas
administratorius
Posts: 2225
Joined: 2004-05-25 19:04
Location: Vilnius

2019-11-09 22:47

Vilius wrote:
2019-11-09 22:01
Svetimas wrote:
2019-11-09 20:31
Remiuosi nuomone, kad tos mašinos neturi sąmonės su mūsų specifine žmogiška informacijos suvokimo mašinerija.
Čia bandai pasislėpti už tos "specifinės mašinerijos". Jei mūsų neuronų tinkle gali kilti tai, ką tu vadini "teksto suvokimu", tai kažkoks analogiškas procesas turėtų galėti kilti ir kitokios architektūros sistemose, kai jos yra exposinamos tam tekstui (darant prielaidą, kad jos yra pakankamai sudėtingos, ir adekvačiai apmokytos).

Aišku, abejoju, kad ta konkreti sistema jau atitinka tuos kriterijus. Bet šiais laikais jau nebebūčiau toks drąsus, kad automatiškai dismissinti mašininio suvokimo galimybę, vien dėl to, kad tekstą skaito ne žmogus.
Per daug jūs žavitės tais neuroniniais tinklais. Jie iš esmės yra savotiški labai lankstūs ir subtilūs klasifikavimo automatai. Iki to "tikrojo supratimo" ir "mašinerijos", kuri yra pas žmones, toms mašinoms dar daug laiko inžineriškai augti ir bandymų ir klaidų upėmis plaukti. Kaip mašina, neturinti pakankamos "gyvenimiškos patirties" (asociacijų) ir tam tikrų evoliucionavusių reakcijų į dalykus, kuriuos klasifikuoja, gali juos adekvačiai suprasti (turėti adekvačias asociacijas apie tai)?
Post Reply