Dirbtinis intelektas

Ramesnės ir draugiškesnės diskusijos be politikos. Mažiau apie politines pažiūras, vertybes ar pan. bei labiau kurstomos smalsumo sau įdomia tema.
vvv2
senbuvis
Posts: 1178
Joined: 2007-08-02 11:24
Location: Kaunas city
Contact:

2019-01-21 22:01

Seianus wrote:
2019-01-21 20:27
.. (pvz., jei padarysime kopėčias gaminantį AI ypač skrupulingą, jis gali taip ir nepradėti jų gaminti - po 1mln. nanometų skaičiavimo.
- Čia tikrai geras! Patiko.

Natūralus Lietuvio intelektas irgi sako: "nedaryk to tuoj, ką gali padaryt rytoj, nes rytoj tikėtina visai nereikės".

:)
User avatar
Seianus
senbuvis
Posts: 2924
Joined: 2018-11-16 23:57

2019-01-21 22:16

Lionginas wrote:
2019-01-21 21:08
nes progresas reiškia, kad jis pats greitai taps nekonkurencingas. Normaliu (žmonių, gyvūnų) atveju kyla ginklavimosi varžybos, tačiau superintelektas supras, kad laimėti jas šansų mažai, be to, bus išeikvota daug resursų, kurie galėtų būti skirti kopėčių gamybai.
Tai taip išeina gali būti, kad užuot kūręs/gaminęs kopėčias pats tiesiogiai, jis iš tiesų imsis kurti tobulesnius AI kuriems paves kopėčių gamybą. Bet šie savu ruožtu...
User avatar
Lionginas
senbuvis
Posts: 5553
Joined: 2011-10-03 09:35

2019-01-21 22:53

Tai taip išeina gali būti, kad užuot kūręs/gaminęs kopėčias pats tiesiogiai, jis iš tiesų imsis kurti tobulesnius AI kuriems paves kopėčių gamybą. Bet šie savu ruožtu...
Bet tikriausiai bus ir kitų AI, kurie gamins kažką kita, tačiau, tikėtina, iš tų pačių resursų. Todėl didžiausia grėsmė AI yra ne žmonės, o AI. Įdomu, kaip ateityje AI spręs šią problemą - ar padarys kažkokius ribojimus, kiek AI gali tobulėti, ar eksponentiškai tobulės, kol liks tik vienas. Manau, pastarasis variantas nenaudingas nei vienam AI, nes likti tuo vienu šansų mažai.
User avatar
Seianus
senbuvis
Posts: 2924
Joined: 2018-11-16 23:57

2019-01-22 02:34

Tai aš supratau tavo mintį, tik padariau papildomų išvadų ;)

Kaip bus iš tiesų tai manau AI darys kas liepta ko iš jų norima, arba bus išjungti ir debuginami kol pradės daryti kas liepta ko iš jų norima.
User avatar
Stormas
senbuvis
Posts: 1609
Joined: 2018-07-04 23:51

2019-01-22 06:00

Seianus wrote:
2019-01-22 02:34
Kaip bus iš tiesų tai manau AI darys kas liepta ko iš jų norima, arba bus išjungti ir debuginami kol pradės daryti kas liepta ko iš jų norima.
Tai turbūt ir yra esmė ta, jog kažkas gali įmesti kodo eilutę kur jiems bus liepta daryti tai, ko gal 99,9% populiacijos visai nenori
User avatar
Lionginas
senbuvis
Posts: 5553
Joined: 2011-10-03 09:35

2019-01-22 07:46

Seianus wrote:
2019-01-22 02:34
Kaip bus iš tiesų tai manau AI darys kas liepta ko iš jų norima, arba bus išjungti ir debuginami kol pradės daryti kas liepta ko iš jų norima.
Jau debuginti šiuolaikinius AI yra labai sudėtinga, ateityje bus turbūt nebeįmanoma.

Aš manau, kad galimas ir toks variantas, kad ateityje žmogus ir AI susijungs, ir tai bus galingiau nei žmogus ar AI atskirai paėmus.
User avatar
Seianus
senbuvis
Posts: 2924
Joined: 2018-11-16 23:57

2019-01-22 19:00

Lionginas wrote:
2019-01-22 07:46
Seianus wrote:
2019-01-22 02:34
Kaip bus iš tiesų tai manau AI darys kas liepta ko iš jų norima, arba bus išjungti ir debuginami kol pradės daryti kas liepta ko iš jų norima.
Jau debuginti šiuolaikinius AI yra labai sudėtinga, ateityje bus turbūt nebeįmanoma.

Aš manau, kad galimas ir toks variantas, kad ateityje žmogus ir AI susijungs, ir tai bus galingiau nei žmogus ar AI atskirai paėmus.
O gal ateityje bus kaip tik lengviau.
Jei neįmanoma debuginti tiesiogiai randant kur problema kode ar pan., visada įmanomas bandymų/klaidų metodas. Kitam panašiam AI duos kitokį apmokymą stebės, ar ir jis norės užversti Visatą kopėčiomis. Manau vaikų smegenis debuginti dar sunkiau, bet vis tiek pastebimi šiokie tokie dėsningumai, kaip auklėjant koks rezultatas gaunamas. Su AI turėtų būti tik lengviau ir patikimiau.
Stormas wrote: Tai turbūt ir yra esmė ta, jog kažkas gali įmesti kodo eilutę kur jiems bus liepta daryti tai, ko gal 99,9% populiacijos visai nenori
O kame čia problema?
vvv2
senbuvis
Posts: 1178
Joined: 2007-08-02 11:24
Location: Kaunas city
Contact:

2019-01-22 19:44

Seianus wrote:
2019-01-22 02:34
Man visa tai aisku.
- "daryti kas liepta"? tai vergovės itin neefektyvus modelis.

Išvada: dirbtinis ar natūralus intelektas visada periešinasi totaliai nesąmoningai vergovės idėjai!
User avatar
Stormas
senbuvis
Posts: 1609
Joined: 2018-07-04 23:51

2019-01-22 22:04

Seianus wrote:
2019-01-22 19:00
Stormas wrote: Tai turbūt ir yra esmė ta, jog kažkas gali įmesti kodo eilutę kur jiems bus liepta daryti tai, ko gal 99,9% populiacijos visai nenori
O kame čia problema?
Tai problema yra ta, kad ta kodo eilutė gali liepti AI tapti dominuojančiu pasaulyje, išnaikinti žmones ar kopėčias ir t.t. ir panašiai
User avatar
fizikanas
senbuvis
Posts: 5791
Joined: 2004-05-27 19:45

2019-01-22 22:56

Svetimas wrote:
2019-01-20 15:00
Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?
Kazkokio tikslo egzistavimas jau isplaukia is pacios intelekto savokos. Ka isvis daro intelektas, jei nesiekia kazkokio tikslo? Ar tai butu laimeti sakmatu partija, ar isspresti matematini uzdavini ar nuvaziuoti nuo tasko A i taska B. Emocijas uzprogramuoti butu kurkas sunkiau ir nereikalinga.
User avatar
fizikanas
senbuvis
Posts: 5791
Joined: 2004-05-27 19:45

2019-01-22 23:01

Seianus wrote:
2019-01-21 20:27
Bet tai nereiškia, kad ši problema nėra žinoma, ir vos mulkiams inžinieriams įjungus pirmąjį kopėčių AI šis kaip mat palaidos žmoniją po bazilijonais kopėčių, iš pradžių išžudęs visus galinčius jį išjungti ir sutrukdyti siekti tikslo.
Tai, kad tau sita problema zinoma, aisku dziugina, bet tai nereiskia, kad ji visiems yra zinoma. Pvz net tau ji panasu, kad dar nebuvo zinoma sios diskusijos pradzioje. O net jei problema ir butu visiems zinoma, tai deja nereiskia, kam nors yra zinoma, kaip ja isspresti. O tai, kad nezinoma, kaip ja isspresti deja nereiskia, kad kasnors vistiek nepabandys. Va ir turim.
User avatar
Lionginas
senbuvis
Posts: 5553
Joined: 2011-10-03 09:35

2019-01-23 09:02

Seianus wrote:
2019-01-22 19:00
O gal ateityje bus kaip tik lengviau.
Greičiau atvirkščiai - bus tik sunkiau.
Seianus wrote:
2019-01-22 19:00
Jei neįmanoma debuginti tiesiogiai randant kur problema kode ar pan., visada įmanomas bandymų/klaidų metodas. Kitam panašiam AI duos kitokį apmokymą stebės, ar ir jis norės užversti Visatą kopėčiomis. Manau vaikų smegenis debuginti dar sunkiau, bet vis tiek pastebimi šiokie tokie dėsningumai, kaip auklėjant koks rezultatas gaunamas. Su AI turėtų būti tik lengviau ir patikimiau.
Iš tiesų tai net debuginti labai siauros specializacijos AI gali būti labai sunku. Dažnai niekas net nežinos, kad yra kažkokia problema. Net ir šiuo metu, su dabartiniu AI išsivystmu ta problema yra aktuali. Pavyzdžiui, jei AI pagal kažkokias ten išmoktas taisykles išdavinėja kreditus, tai mes kartais galime net nesigilinti, kodėl jis taip daro. Kokių nors neuroninių tinklų atveju mes nes nesuprasime, kas tai per taisyklės, nes viskas bus tik įvairių išmoktų koeficientų rinkinys, niekaip racionaliai neištransliuojamas į mums suprantamą jei-tai taisyklių kalbą.

Nors neatmetu galimybės, kad poreikis suprasti AI sprendimus bus toks didelis, kad galiausiai atsiras ir tam skirti įrankiai. Kažkas panašaus, ką turime mes - gebėjimą racionalizuoti, nors smegenyse irgi viskas užkoduota ryšiais tarp neuronų. AI irgi galėtų turėti kažkokią savirefleksiją, na bet tai jau ateities technologijos.
User avatar
Seianus
senbuvis
Posts: 2924
Joined: 2018-11-16 23:57

2019-01-23 17:34

fizikanas wrote:
2019-01-22 23:01
Seianus wrote:
2019-01-21 20:27
Bet tai nereiškia, kad ši problema nėra žinoma, ir vos mulkiams inžinieriams įjungus pirmąjį kopėčių AI šis kaip mat palaidos žmoniją po bazilijonais kopėčių, iš pradžių išžudęs visus galinčius jį išjungti ir sutrukdyti siekti tikslo.
Tai, kad tau sita problema zinoma, aisku dziugina, bet tai nereiskia, kad ji visiems yra zinoma. Pvz net tau ji panasu, kad dar nebuvo zinoma sios diskusijos pradzioje. O net jei problema ir butu visiems zinoma, tai deja nereiskia, kam nors yra zinoma, kaip ja isspresti. O tai, kad nezinoma, kaip ja isspresti deja nereiskia, kad kasnors vistiek nepabandys. Va ir turim.
Aš šią problemą žinojau kai tamsta dar stačias po stalu vaikščiojote :P (not literally). Tiesiog laikau ją problema moksliniu požiūriu, panašiai kaip P=NP problema, o ne problema as in žmoniją sunaikinsianti problema. Visi, kas domisi AI ar tuo labiau dirba prie jo kūrimo šituos dalykus žino, ir jei nepavyks jų išspręsti, nieks neduos AI priemonių sunaudoti visus žmonijos resursus kopėčioms. Easy.
User avatar
fizikanas
senbuvis
Posts: 5791
Joined: 2004-05-27 19:45

2019-01-23 19:49

Seianus wrote:
2019-01-23 17:34
Tiesiog laikau ją problema moksliniu požiūriu, panašiai kaip P=NP problema, o ne problema as in žmoniją sunaikinsianti problema. Visi, kas domisi AI ar tuo labiau dirba prie jo kūrimo šituos dalykus žino, ir jei nepavyks jų išspręsti, nieks neduos AI priemonių sunaudoti visus žmonijos resursus kopėčioms. Easy.
Kalbi apie AI, kaip apie 5kiu metu vaika, is kurio galima atimti saldaini, jeigu neklauso. Geriau isivaizduok, kuri nors James Bond antagonista evil geniju, kuris tik atrodo, kaip 5metu vaikas, bet zino visus nuclear launch kodus, nes per tas 5 sekundes, kol buvo pajungtas prie interneto, isihakino i pentagono serverius ir dar spejo atrasti prarasta milijona Satoshi Nakamoto bitkoinu.
User avatar
Svetimas
senbuvis
Posts: 4692
Joined: 2004-05-25 19:04
Location: Vilnius

2019-01-24 19:14

fizikanas wrote:
2019-01-22 22:56
Svetimas wrote:
2019-01-20 15:00
Kalbant apie tikslo AI suprogramavimą. Kaip tu, fizikanai, techniškai įsivaizduoji šitą dalyką? Pvz. žmonių atveju, būčiau linkęs teigti, jog savotiškas tikslo funkcijas atlieka mūsų emocijos ar kitos natūralios instinktyvios reakcijos (pvz. alkio jausmas). O kaip šitoj vietoj, tavo galva, su tikslais būtų AI atveju?
Kazkokio tikslo egzistavimas jau isplaukia is pacios intelekto savokos. Ka isvis daro intelektas, jei nesiekia kazkokio tikslo? Ar tai butu laimeti sakmatu partija, ar isspresti matematini uzdavini ar nuvaziuoti nuo tasko A i taska B. Emocijas uzprogramuoti butu kurkas sunkiau ir nereikalinga.
Man beskaitant diskusiją tam tikra intuityvi mintis kilo. Dėl to ir uždaviau šį klausimą.

Įprastinėse programose, tai, ką tu vadini programos tikslu (pvz. šachmatų partijos laimėjimas), dažniausiai jau būna "įsiūta" (vienokiu ar kitokiu būdu) į programos veikimo algoritmą. T.y. suprogramuojamos tam tikros sąlygos, kad programos veikimas tą suprogramuotą programos "tikslą" ar paskirtį įgyvendintų. Tai gal ir neliečia kokių "apsimokančių" genetinių algoritmų ar pan., bet, net ir tokiu atveju, tam tikras preliminarus "tikslas" ar apribojimų sąlygos programai yra užduodamos, kad programa apsimokytų ir duotų pageidautiną outputą ar pasiektų reikiamą rezultatą.

Bet, va, aš matau problemą, kad pakankamai universaliai veikiančio AI atveju, algoritmas veiks ne vien tik kažkokio iš anksto įsiūto "tikslo" ar sąlygų erdvėje, bet turės interpretuoti aplinkos inputą ir pats savarankiškai kurti, formuoti savo "tikslus", įtikslinti savo veiklą.
Pvz. net ten, kur kolegos keliais postais aukščiau hipotetizavo, kaip AI elgsis, buvo naudojami žodžiai: "norės", "supras", "konkurentas", "išeikvota daug resursų", "turės tikslą išlikti", "tik vienas" (o tai yra tam tikras prasminis, pažintinis ir ne pasyvus santykis į tam tikrą iš aplinkos gaunamą informaciją). Pabandyk sau mintyse transformuoti tuos žodžius į kokią nors sausą matematinę loginę formą ar atitikmenį, nesuteikdamas jokio emocinio ar prasminio interpretacinio krūvio, ir papasakok man, kaip tau sekėsi.

Aš hipotetizuoju, kad kaip ir žmonėms - kurie interpretuodami informaciją (kas reiškia ne vien tik nešališką informacijos apdorojimą, klasifikavimą ar pan.), spėju, dažnai yra beveik nepajėgus nesuteikti tam tikro emocinio santykio ar vertinamojo prasminio krūvio jai, iš ko galbūt vėliau ir formuojasi nauji jų "tikslai" - taip ir AI be šito negalės lanksčiai formuoti savo naujų "tikslų" ir į temą, nepaskęsdamas informacijos jūroje.

Dėl to man atrodo, kad kaip Seianus sakė, būsimi AI pakankamai lanksčiai ir efektyviai veiks tik tam tikrose siaurose srityse ar rėžiuose. Tie AI bus tik labai sudėtingos ir/arba lanksčiau apsimokančios brute force skaičiavimo galią išnaudojančios specializuotos programos, o ne AI. Universalaus AI, kuris galėtų lengvai persiorentuoti prie pačių įvairiausių gyvenimiškų užduočių sprendimų ir nepradėtų pjauti grybo ne į temą, įtariu, teks laukti daug daug ilgiau, nei daugelis AI pranašų galvoja. Kai kažkas sako, kad va, va, jau ne už kalnų, už kokių 10, 20 ar keliasdešimt metų, bus sukurtas universalus AI, kuris visais atžvilgiais bus kietesnis už žmogų, tai aš į tai žiūriu gan skeptiškai. Pavyzdžiui, vien jau dėl tam tikrų iššūkių, kurie kyla bandant susitvarkyti su kodo rašymu sudėtingoms sistemoms, kad išvengti bug'ų infliacijos.

Man atrodo, kad tam tikro emocinio ar pažintinio vertinamojo santykio (pvz. gerai-blogai ašyje) suteikimas įvairiems dalykams labai svarbus protaujančiam agentui, priimančiam sprendimus. Galbūt emocijos ir tas vertinamasis santykis bet kokiam informacijos inputui užima svarbesnį vaidmenį mūsų mąstyme, nei mes įsivaizduojame. Jei emocijos tokios nesvarbios mąstymui, tai, prisiminus emocijų temą, kodėl žmonių emocijų tiek daug ir jos tokios sudėtingos, jeigu lygintume su kitais gyvūnais, kurie primityvesni, nei mes? Kodėl emocijos neapnyko, sudėtingėjant smegenims, o priešingai - jų padaugėjo ir jos pasudėtingėjo?

Gal be tam tikro vertinamojo santykio apskritai nepavyktų interpretuoti informacijos ir suteikti jai prasmę, kad galima būtų ja remtis? Gal be šito vertinamojo santykio tas tariamas AI, žvelgiant plačiau, dar ilgai gaus į klyną nuo žmonių informacijos interpretavime (o ne bukame jos apdorojime), kas svarbu aktyvių į kažką orientuotų sprendimų priėmime?
User avatar
Seianus
senbuvis
Posts: 2924
Joined: 2018-11-16 23:57

2019-01-24 20:47

Svetimas wrote: Pabandyk sau mintyse transformuoti tuos žodžius į kokią nors sausą matematinę loginę formą ar atitikmenį, nesuteikdamas jokio emocinio ar prasminio interpretacinio krūvio, ir papasakok man, kaip tau sekėsi.
Gerai sekėsi
User avatar
Seianus
senbuvis
Posts: 2924
Joined: 2018-11-16 23:57

2019-01-24 20:48

fizikanas wrote:
2019-01-23 19:49
Seianus wrote:
2019-01-23 17:34
Tiesiog laikau ją problema moksliniu požiūriu, panašiai kaip P=NP problema, o ne problema as in žmoniją sunaikinsianti problema. Visi, kas domisi AI ar tuo labiau dirba prie jo kūrimo šituos dalykus žino, ir jei nepavyks jų išspręsti, nieks neduos AI priemonių sunaudoti visus žmonijos resursus kopėčioms. Easy.
Kalbi apie AI, kaip apie 5kiu metu vaika, is kurio galima atimti saldaini, jeigu neklauso. Geriau isivaizduok, kuri nors James Bond antagonista evil geniju, kuris tik atrodo, kaip 5metu vaikas, bet zino visus nuclear launch kodus, nes per tas 5 sekundes, kol buvo pajungtas prie interneto, isihakino i pentagono serverius ir dar spejo atrasti prarasta milijona Satoshi Nakamoto bitkoinu.
Kaip žiūrėti į AI, ar 5 metų vaiką ar evil genijų, ar kažkaip kitaip, ir yra šių diskusijų objektas
User avatar
Svetimas
senbuvis
Posts: 4692
Joined: 2004-05-25 19:04
Location: Vilnius

2019-01-24 21:53

Seianus wrote:
2019-01-24 20:47
Svetimas wrote: Pabandyk sau mintyse transformuoti tuos žodžius į kokią nors sausą matematinę loginę formą ar atitikmenį, nesuteikdamas jokio emocinio ar prasminio interpretacinio krūvio, ir papasakok man, kaip tau sekėsi.
Gerai sekėsi
Na, jei neįvilkai tų žodžių į jokį kontekstą, tau gal ir galėjo kažkas pavykti. O pabandyk panaudoti tuo žodžius keliuose skirtinguose kontekstuose ar situacijose. Gal net užčiuopsi, kaip tų žodžių interpretacija šiek tiek keičiasi priklausomai nuo kontekstų, kuriuose jie panaudoti.
Post Reply