Dirbtinis intelektas

Naujas temas kurkite čia
User avatar
Svetimas
administratorius
Posts: 2054
Joined: 2004-05-25 19:04
Location: Vilnius

2019-01-27 20:54

fizikanas wrote:Na Svieto pabaigos argumentas mums dar zada pagyventi kiek ilgiau nei 10 ar 20 metu, todel del sito greiciausiai esi teisus, bet universalumo uzuomazgos jau matosi, kad ir tame paciame Starcraft losianciam AI.
Na, šaunu, kad žmonės ties tuo dirba ir pasiekia tam tikrų įspūdingų rezultatų, bet mano nuomonė dėl AI universalumo užuomazgų progreso turbūt šiek tiek skeptiškesnė nei tavo (žr. mano ankstesnį komentarą į Seiano žinutę).
fizikanas wrote: 1. "Nores X "- darys veiksmus su didele tikimybe priartinancius pasauli prie X.
2. "Supras X" - tures X aprasyta savo pasaulio modelyje.
3. "konkurentas" - identifikuotas kitas agentas, pasizymintis "pasaulio keitimo link savo tikslu" savybem
4. "iseikvota daug resursu" - iseikvota daug resursu, kur cia emocijas matai is viso?
5. "tures tiksla islikti" - savireflekcija, arba saves modelis, identifikuotas, kaip butina salyga kitiems tikslams igyvendinti (zr. "Nores X").
6. "tik vienas" - 1

Cia gera pavyzdi dave Sejanus apie Starcrafta zaidzianti AI. Visos sitos savokos ten aktualios. Tai butu galima Google programuotoju paklausti ar ju AI turi emocijas - as manau, kad ne.
1. Kodėl priartinančius prie X, o ne prie Y?

2. X aprašyti kokiu nors modeliu yra N būdų. Vadinasi "X supratimas" tarsi pagal tave išeina yra "informacijos apie X suvedimas į tam tikrą pasirinktą modelį" iš daugelio galimų? Ar įvairūs galimi "X suvedimai į modelį" kaip nors diferencijuotini tarpusavyje? Kas tada yra nesupratimas ir kuo jis iš esmės skiriasi nuo supratimo?

3. Ir kas iš to plaukia? Gerai tai ar blogai? Kas tada yra "partneris"? Kuo jis skiriasi nuo "konkurento"? Ar apskritai tam AI egzistuoja toks dalykas kaip "partneris"? Kodėl? Ar lygiai toks pats AI klonas kitame superkompiuteryje yra "konkurentas", ar ne? Ar kuris nors to paties AI pakankamai stambus ir savarankiškas neuroninio tinklo segmentas tame pačiame superkompiuteryje yra "konkurentas", ar ne? Kodėl?

4. Ir kas iš to plaukia? Gerai tai ar blogai?

5. O kuo tie kiti tikslai tokie svarbūs? Jei egzistuoja tokio paties AI klonas kitame superkompiuteryje (siekia tų pačių tikslų) ir neužtenka resursų veikti jiems abiems?

6. Ir kas iš to plaukia? Kuo tai blogiau/geriau už 2, 3 ir t.t.?

Šiaip neužsiciklink vien ant emocijų reikalingumo neva universalesniam tikslų formavimui. Ne vien jas minėjau. Kalbėjau ir apie tam tikrą prasminį informacijos įvertinimą. Be emocijų ir tam tikra fiziologinio diskomforto ar komforto patirtis (pvz. jau minėtas alkis; nebent tai irgi priskirsime prie emocijų) galbūt įtakoja tam tikrą vertinamąjį aspektą.
Man ir pačiam daug klaustukų dėl emocijų šitoj vietoj. Pvz. buvau girdėjęs gandus apie žmones be emocijų. Kaip jie mąsto, elgiasi ir priiminėja sprendimus? Esu bandęs ieškoti apie tai informacijos, bet kol kas neradau nei vieno rimtesnio pavyzdžio, kuris žmonių be emocijų faktą rimčiau pagrįstų. Buvau anksčiau girdėjęs, kad yra duomenų apie žmones su pažeistais migdoliniais kūnais, kuriems emocijos lyg ir būtų prislopintos, bet lyg ir ne visai ir ne visame jų spektre (pvz.) ir su tomis emocijomis viskas daug sudėtingiau ir labiau miglota ir jos sietinos ne vien tik su paskiromis smegenų dalimis. Kiek supratau, net ir emocijos yra nemaža mįslė ir rimtesnių bei pakankamai solidžių, išbaigtų ir pilnesnių emocijų mechanizmų modelių mokslas irgi berods dar neturi.
fizikanas wrote:
Svetimas wrote: Aš hipotetizuoju, kad kaip ir žmonėms - kurie interpretuodami informaciją (kas reiškia ne vien tik nešališką informacijos apdorojimą, klasifikavimą ar pan.), spėju, dažnai yra beveik nepajėgus nesuteikti tam tikro emocinio santykio ar vertinamojo prasminio krūvio jai, iš ko galbūt vėliau ir formuojasi nauji jų "tikslai" - taip ir AI be šito negalės lanksčiai formuoti savo naujų "tikslų" ir į temą, nepaskęsdamas informacijos jūroje.
Cia yra viena is dideliu problemu AI filosofijoje - zmoniu polinkis priskirti zmogiskas savybes viskam ka mato. Anksciau sakydavo, kad dangus piktas, kai zaibuoja, dabar prisikirineja savo emocijas AI. Teoriskai AI gali tureti tas savybes (pvz, simuliuotos zmogaus smegenys), bet labai abejotina, kad tai praktiska ir, kad pats pirmas universalus AI jas tures. Beto mes net nezinom, ar emocijos isvis keicia zmogaus tikslus (bent jau ilgalaikius) - tai ka mes galim spekuliuoti, kaip emocijos veiktu AI jei jis jas ir turetu.
Na, aš tik pametėjau tam tikrą hipotezę.
O dėl personfikavimo, tai Michael Graziano yra išmetęs gan įdomią hipotetinę mintį, kad žmonės linkę įžiūrėti/personifikuoti panašius į juos sąmoningus agentus įvairiuose gamtos reiškiniuose ar kituose gyviuose, nes tos pačios smegenų dalys, kurios modeliuoja savo pačių "awareness" būseną, prie tam tikrų dėmesio nukreipimo aplinkybių nukrypsta ir modeliuoja tam tikrą iliuzinę "awareness" būseną išorės reiškiniams.
fizikanas wrote:Riddle me this: kodel tada moterys turi daugiau emociju, bet siek tiek zemesi iq nei vyrai? :wink:
Kuo remiesi, kad moterys turi daugiau emocijų nei vyrai? Lyg ir supratau, kad psichologijos mokslas tau kaip ir ne rodiklis, bet visgi įdomu, kuo grindi tokius savo teiginius?

Kiek girdėjau, aukštesnis vyrų IQ iš esmės aiškinamas didesne gabumų dispersija nuo vidurkio (didesnis procentas su didesniu ir mažesniu IQ). Be to gali būti ir daugiau papildomų paaiškinimų (pvz. šiek tiek skirtingas mąstymo pobūdis, kitoks tikslų formavimas ir jų siekimas).

Kas dėl emocijų, esu skaitęs apie atliktus tyrimus, kad vyrai nėra mažiau emocionalūs, nei moterys (šiaip gan nerimtas buitinis pavyzdys - sirgalių emocijos per sporto varžybas :) ). Pabandysiu rimčiau pasiknisti apie tai, nes vėl pasidarė šiek tiek įdomu. Neva vyrai tik dalies savo emocijų dėl kažkokių priežasčių neparodo, labiau kontroliuoja, užgniaužia, jas sunkiau interpretuoja ir galbūt prie kitokių sąlygų, aplinkybių jas išreiškia. Kad ir jau minėtų migdolinių kūnų smegenyse skirtumai skirtingų lyčių subjektams įvairių hintų duoda.

Dar aš pastebėjau, kad paprastai kituose žmonėse pastebimos tik tam tikros specifinės ryškesnės, stipriau išreikštos emocijos. Bet tai, kad žmogus rečiau rodo tam tikro spektro emocijas (sentimentalumas, nervingumas), nereiškia, kad pas jį nėra didelės puokštės galbūt mažiau ryškių tam tikro spektro emocijų (smalsumas, pasitikėjimas).
User avatar
Seianus
pradedantis
Posts: 392
Joined: 2018-11-16 23:57

2019-01-28 03:40

Svetimas wrote:
2019-01-27 19:30
Gal kartais yra kokių nors gerų geranoriškų pasiūlymų, kaip tą betvarkę ar pan. sumažinti? :)
Na pvz. galima atrakinti visas tas užrakintas temas ir kategorijas, ne šiaip sau gi jos suskirstytos į kategorijas, o kad būtų lengviau orientuotis. Kategorija „Aktyvios temos“ gal kažkiek ir padeda, bet kita vertus, kiekvienoje kategorijoje aktyvios ir taip būdavo puslapių viršuje, tai per daug browsinti po senas nebeaktualias nereikėdavo. Būtų smagu, jei visos temos ir toliau būtų savo kategorijose, o Aktyvių temų kategorijoje būtų tik shortcutai į jas, tarkime būtų sąrašas top 100 temų pagal paskutinio posto naujumą. Nežinau kiek techniškai sunku tai padaryti, ar yra kokių pluginų ar ne. Bet čia nelabai svarbu. Svarbiau, kad būtų galima rašyti ir į senas temas atskirai neprašinėjant jų atrakinti.

Kita vertus tai irgi nelabai svarbu, galima rašyti į kitas panašias temas jei norima yra užrakinta, tik tokiu atveju labai išsibarsto tema po visur dalimis.

Dėkui. Man įdomi nuoroda ir su ja susijusios. Labai neblogas specializuoto AI pavyzdys.

Norėčiau tik, jog besižavint tuo AI nebūtų pražiūrėta, jog tam tikrą svarbų vaidmenį AI apsimokyme atliko ir prie jo dirbusi žmonių komanda, kuri apibrėžė sąlygų erdvę ir apsimokymo "aikštelę" tiems AI, iš kurių (po skirtingų variacijų AI tarpusavių mūšio) buvo atrinktas geriausias atstovas.
AI tėra įrankis. Kai žaviuosi įrankiu, savaime suprantama, kad žaviuosi jį sukūrusiu žmonių talentu ir darbu ;)
Šiek tiek gaila, kad labai menkai išmanau StarCraft žaidimą. Iš karto pradėjau galvoti apie savo mėgstamus žaidimus. Ir ar panašūs AI sugalvotų savarankiškai (be jokių hintų ar paderinimų iš prie AI apsimokymo dirbančių žmonių komandos) įvairius gamerių naudojamus triksus. Tarkim kur reikalingi tam tikri kooperavimosi sugebėjimai. Pvz. kad ir toks Heroes of Might and Magic III naudojamas triksas, kuomet labai toli nuo pilies A esančiam koviniam herojui X perduodama pilyje A prisigaminusi armija per kitų herojų Y, Z ir t.t. grandinėlę.
Kiek žiūrėjau partijas, AI naudojo daug strategijų, iki kurių StarCrafto pradinukai niekada patys nedasigalvoja (kita vertus jei ir dasigalvotų, jiems neužtektų įgūdžių įgyvendinti). Pvz., harassinimą/spaudimą siekiant nukreipti oponento dėmesį ir užlaikyti jį bazėje kol pats plėtiesi ar kaupi didesnę armiją. Bet nežinau, kiek ten iš tiesų pats AI dasigalvojo, o kiek jam „pasufleravo“ žavingi kūrėjai :)

Na jei nežinai StarCrafto, gal žinosi DotA. Naujienos šiek tiek pasenusios, bet Musk'o OpenAI sutriuškino vienus geriausių DotA2 žaidėjų.
https://www.theverge.com/2017/8/11/1613 ... -elon-musk
fizikanas wrote:
2019-01-27 20:44
Jei Mooro desnis laikysis, tai suzaisti ta pati bazilijona partiju, uz ta pacia kaina, po 20 metu, uztruks kelias minutes, o ne kelias savaites. Net jei per ta laika sitas AI nebus nei kiek patobulintas, kas butu sunkiai isivaizduojama.
True dat. Bet manau AI būtų daug įspūdingesnis, jei po kiekvienos partijos ženkliai pasimokytų ir prisitaikytų prie oponento stiliaus. Ką daro kiekvienas nors ko vertas competitive žaidėjas.
DrHarisLacan
pradedantis
Posts: 146
Joined: 2015-05-29 11:16

2019-01-29 16:51

Sveiki, gal kiek skepsio del to dirbtinio intelekto tobulumo ribu?
Jeigu energija nelygu e=mc^2:)) kas yra mano faktuose pagrysta, ir isivaizduojama..
Tai, gal galetu tas dirbtinis intelektas israst kazka, ko dar nebuvome pateike savo samones lauke?
Tai yra, jog determinuojame, ir anpus gerio ir blogio, kaip yra filosofu megstama, jog kazkas yra...
Gal tas mooro desnis kokia tai begaline konstanta? Ir irodykit, jog neturiu savimones;).
REALYBE yra tokia, kokia mes ja isivaizduojam, bet ar vienas kvantas, gali tame neapibreztumo lauke kazka issprest?.
Cia jau evoliucijos modelis butu pateiktas, jeigu sugebetume isspresti, kas, kur, kada, ir kiek to samones biocentriskumo suvokiam...
Kiekviena zvake, yra tik zvake? O IGNIS PROBAT AURUM? niekados, nes del KOSMOS! energijos ir kvantuotumo laipsniu... musu metodaj, dar per siauri, o ta energija, ar negaletu pakelti ir suzadinti begalines tekmes?. Sakyciau, jog materija, ir energiaj turi savo postumius, o ne kazkokia zvakes, ir jeigu mes butume to Bigbango modelis? Ar jis nesikartotu, kas begalybes santyki? Viskas yra, kaip atrodo, mes isnykstam, ir vel atsirandam, o del samones? Jeigu toje black hole, kurioje esam, butu laiko tekme? Tai paliktume savo atomizmo busena....Reiskia modelis nelygu kvarkas, o kvarkas nelygu alus! tokia isvada :D
User avatar
fizikanas
nenugalimas
Posts: 3447
Joined: 2004-05-27 19:45

2019-02-02 13:14

Svetimas wrote:
2019-01-27 20:54
fizikanas wrote: 1. "Nores X "- darys veiksmus su didele tikimybe priartinancius pasauli prie X.
2. "Supras X" - tures X aprasyta savo pasaulio modelyje.
3. "konkurentas" - identifikuotas kitas agentas, pasizymintis "pasaulio keitimo link savo tikslu" savybem
4. "iseikvota daug resursu" - iseikvota daug resursu, kur cia emocijas matai is viso?
5. "tures tiksla islikti" - savireflekcija, arba saves modelis, identifikuotas, kaip butina salyga kitiems tikslams igyvendinti (zr. "Nores X").
6. "tik vienas" - 1
1. Kodėl priartinančius prie X, o ne prie Y?
Nes tada butu "Nores Y".
Svetimas wrote:
2019-01-27 20:54
2. X aprašyti kokiu nors modeliu yra N būdų. Vadinasi "X supratimas" tarsi pagal tave išeina yra "informacijos apie X suvedimas į tam tikrą pasirinktą modelį" iš daugelio galimų? Ar įvairūs galimi "X suvedimai į modelį" kaip nors diferencijuotini tarpusavyje? Kas tada yra nesupratimas ir kuo jis iš esmės skiriasi nuo supratimo?
Na pavyzdys, sakykime du zmones mato sakmatu lenta, taciau tik vienas is ju moka zaisti ir zino taisykles. Vienas ta vaizda supras, kaip ismarginta lenta su keistom figurelem, kitas tai supras, kaip baltas arklys daro saka juodam karaliui. Vienas turi modeli, i kuri gali irasyti sita informacija, kitas ne. Toks ir skirtumas tarp supratimo ir nesupratimo. Nieko bendro su emocijomis.
Svetimas wrote:
2019-01-27 20:54
3. Ir kas iš to plaukia? Gerai tai ar blogai? Kas tada yra "partneris"? Kuo jis skiriasi nuo "konkurento"? Ar apskritai tam AI egzistuoja toks dalykas kaip "partneris"? Kodėl? Ar lygiai toks pats AI klonas kitame superkompiuteryje yra "konkurentas", ar ne? Ar kuris nors to paties AI pakankamai stambus ir savarankiškas neuroninio tinklo segmentas tame pačiame superkompiuteryje yra "konkurentas", ar ne? Kodėl?
Kuo partneris skiriasi nuo konkurento apibrezia zaidimu teorija, kas yra sausa matematika, neturinti nieko benrdo su emocijomis. Gerio ir blogio savokos cia irgi nelabai i tema, juk visiskai nekalbame apie emocijas.
Svetimas wrote:
2019-01-27 20:54
4. Ir kas iš to plaukia? Gerai tai ar blogai?
Buvo resursu X, liko resursu X - daug, reiskia iseikvota daug resursu. Pati sausiausia matematika, kokia tik gali buti savo sausumu. Nesuprantu prie ko cia gerio ir blogio savokos. Ar tuo labiau emocijos.
Svetimas wrote:
2019-01-27 20:54
5. O kuo tie kiti tikslai tokie svarbūs? Jei egzistuoja tokio paties AI klonas kitame superkompiuteryje (siekia tų pačių tikslų) ir neužtenka resursų veikti jiems abiems?
Na jeigu tie kiti tikslai yra uzprogramuoti, kaip patys svarbiausi to AI tikslai, tai tuo jie ir yra svarbus. Cia tautologija.
Jei abu AI turi tiksla, "kad stovetu kuo didesnis kalnas" tai abu statys viena dideli kalna. Jei vienas turi tiksla "pastatyti kuo didesni kalna A", o kitas "pastatyti kuo didesni kalna B", tai konkuruos, ar kauriaus, ar deresis del resursu. Konkretus tikslo uzprogramavimas ir nulems ju elgesi.
Svetimas wrote:
2019-01-27 20:54
6. Ir kas iš to plaukia? Kuo tai blogiau/geriau už 2, 3 ir t.t.?
Vel, prie ko cia geris ir blogis? Cia tiesiog skaicius, paprasciausia matematine konstrukcija. Kur tu tuos gerius ir blogius vis matai?
Svetimas wrote:
2019-01-27 20:54
Ne vien jas minėjau. Kalbėjau ir apie tam tikrą prasminį informacijos įvertinimą. Be emocijų ir tam tikra fiziologinio diskomforto ar komforto patirtis (pvz. jau minėtas alkis; nebent tai irgi priskirsime prie emocijų) galbūt įtakoja tam tikrą vertinamąjį aspektą.
Tai ne diskomforto patirtis itakoja zmogaus tikslus, o zmogaus tikslas yra vengti diskomforto. Diskomforta gali apibrezti, kaip "patirtis, kurios zmogus yra uzprogramuotas vengti"
Svetimas wrote:
2019-01-27 20:54
Kiek supratau, net ir emocijos yra nemaža mįslė ir rimtesnių bei pakankamai solidžių, išbaigtų ir pilnesnių emocijų mechanizmų modelių mokslas irgi berods dar neturi.
Tai gerai, emocijos yra misle, tuo tarpu AI tikslai, zaidimu teorija, naudingumo funkcijos yra sausa matematika, be jokios mistikos ir ju uztenka pragraminei irangai priimti intelektualius sprendimus.
Svetimas wrote:
2019-01-27 20:54
Kuo remiesi, kad moterys turi daugiau emocijų nei vyrai? Lyg ir supratau, kad psichologijos mokslas tau kaip ir ne rodiklis, bet visgi įdomu, kuo grindi tokius savo teiginius?
Tikrai ne lyciu studijom, tiek pasakysiu. Siaip kartais gali ir pastebeti zmogus dalykus savo akimis. Nebutina neatsikartojanti psichologini "tyrima" surasti, kad tam pastebejimui "pagristi".
Svetimas wrote:
2019-01-27 20:54
Kiek girdėjau, aukštesnis vyrų IQ iš esmės aiškinamas didesne gabumų dispersija nuo vidurkio (didesnis procentas su didesniu ir mažesniu IQ). Be to gali būti ir daugiau papildomų paaiškinimų (pvz. šiek tiek skirtingas mąstymo pobūdis, kitoks tikslų formavimas ir jų siekimas).
Sakyciau ieskai slieku, vienoje vietoje. Bet juk pats surpanti, kad jei intelektui butu butinos emocijos, tai greiciausiai akivaizdziai matytusi teigiama koreliacija tarp emocionalumo ir intelektualumo, bet realybeje taip paprasciausiai nera.
Svetimas wrote:
2019-01-27 20:54
Neva vyrai tik dalies savo emocijų dėl kažkokių priežasčių neparodo, labiau kontroliuoja, užgniaužia, jas sunkiau interpretuoja ir galbūt prie kitokių sąlygų, aplinkybių jas išreiškia.
Ar nebusi cia jau kazkokiu lyciu studiju pasiskaites?
RB
senbuvis
Posts: 5034
Joined: 2004-05-18 13:16

2019-02-07 20:26

Seianus wrote:
2019-01-26 10:12
Pamenu lyg tai buvo kažkur atskira tema būtent apie tą Googlo AI ir jo pasiekimus Go ir šachmatuose, bet po visos šitos pridarytos betvarkės ir didžiosios forumo dalies užrakinimo neberandu, tai tiesiog čia parašysiu :) Googlo Deep Mind'as pakrovė malkų ir profesionalams Starcrafte
https://www.vox.com/future-perfect/2019 ... craft-game
Vos prieš savaitę skaičiau straipsnį, (tiesa, nežinau kada rašytą) apie tai, kad kol kas „Deep Mind“ visiškai nepajėgia susidoroti su tokiais žaidimais, kaip „Starcraft“ kuriuose ne visa informacija yra žinoma. Atrodo, situacija greitai keičiasi.
RB
senbuvis
Posts: 5034
Joined: 2004-05-18 13:16

2019-02-07 20:34

Seianus wrote:
2019-01-28 03:40
Kiek žiūrėjau partijas, AI naudojo daug strategijų, iki kurių StarCrafto pradinukai niekada patys nedasigalvoja (kita vertus jei ir dasigalvotų, jiems neužtektų įgūdžių įgyvendinti). Pvz., harassinimą/spaudimą siekiant nukreipti oponento dėmesį ir užlaikyti jį bazėje kol pats plėtiesi ar kaupi didesnę armiją. Bet nežinau, kiek ten iš tiesų pats AI dasigalvojo, o kiek jam „pasufleravo“ žavingi kūrėjai :)
„Deep Mind“ projekto esmė buvo leisti AI mokytis visiškai savarankiškai, tiesiog žinant žaidimo taisykles ir toliau eksperimentuojant kovose prieš save, bent jau šachmatuose ir Go. Apie jo mokymąsi žaisti „StarCraft“ neskaičiau, bet esu beveik tikras, kad principas buvo tas pats, t. y. niekas jam nieko nesufleravo.
Stormas
pradedantis
Posts: 353
Joined: 2018-07-04 23:51

2019-02-07 23:01

RB wrote:
2019-02-07 20:34
„Deep Mind“ projekto esmė buvo leisti AI mokytis visiškai savarankiškai, tiesiog žinant žaidimo taisykles ir toliau eksperimentuojant kovose prieš save, bent jau šachmatuose ir Go. Apie jo mokymąsi žaisti „StarCraft“ neskaičiau, bet esu beveik tikras, kad principas buvo tas pats, t. y. niekas jam nieko nesufleravo.
Kiek teko domėtis tai dažniausiai AI yra tiesiog gudras pavadinimas big data analizės pritaikymui
User avatar
Seianus
pradedantis
Posts: 392
Joined: 2018-11-16 23:57

2019-02-08 13:48

Stormas wrote:
2019-01-22 22:04
Tai problema yra ta, kad ta kodo eilutė gali liepti AI tapti dominuojančiu pasaulyje, išnaikinti žmones ar kopėčias ir t.t. ir panašiai
Skamba kaip siaubo filmų scenarijus. AI nėra kažkoks magiškas tvarinys, kaip sakiau: jei tavo kopėčias gamintantis AI pradeda žaliavoms užsisakinėti urano ir prašo statyti kažkokias centrifugas, tai jį reikia išjungti ir debuginti. Jei tikėsime Lionginu kad debuginti labai sunku, tai galima debuginti plieno strypu per SSD prieš sumetant juos į rūgštį ir palaidojant apleistose šachtose (jei visai paranoja). O jei nori AI patikėti branduolinių raketų valdymą tai galima bereikalingus žingsnius praleisti ir tas raketas išsyk paleisti.
Stormas
pradedantis
Posts: 353
Joined: 2018-07-04 23:51

2019-02-08 17:57

Seianus wrote:
2019-02-08 13:48
Skamba kaip siaubo filmų scenarijus. AI nėra kažkoks magiškas tvarinys, kaip sakiau: jei tavo kopėčias gamintantis AI pradeda žaliavoms užsisakinėti urano ir prašo statyti kažkokias centrifugas, tai jį reikia išjungti ir debuginti. Jei tikėsime Lionginu kad debuginti labai sunku, tai galima debuginti plieno strypu per SSD prieš sumetant juos į rūgštį ir palaidojant apleistose šachtose (jei visai paranoja). O jei nori AI patikėti branduolinių raketų valdymą tai galima bereikalingus žingsnius praleisti ir tas raketas išsyk paleisti.
Tai niekas ir nesako kad AI yra magiškas kūrinys, bet kažkada teko domėtis apie advanced IT "solutions", kaip vyriausybės virusų ir wormsų pagalbą daro žalą kitos vyriausybėms. Tai kad pakankamai protingas AI nesugebės įjungti tokių pažengusių sprendimų savo išgyvenimui, tai toks jis ir AI.

Pavyzdys kontekstui - https://en.wikipedia.org/wiki/Stuxnet
User avatar
Seianus
pradedantis
Posts: 392
Joined: 2018-11-16 23:57

2019-02-08 18:02

Tai kad pakankamai protingas AI nesugebės įjungti tokių pažengusių sprendimų savo išgyvenimui, tai toks jis ir AI.
Tai o ką įsivaizduoji kad jis gali padaryti, jei bus imtąsi normalių saugumo priemonių? Suvilioti beta-testerius?
Stormas
pradedantis
Posts: 353
Joined: 2018-07-04 23:51

2019-02-08 18:14

Seianus wrote:
2019-02-08 18:02
Tai o ką įsivaizduoji kad jis gali padaryti, jei bus imtąsi normalių saugumo priemonių? Suvilioti beta-testerius?
geras filmas ir tikrai neatmestina teorija

ir šiaip saugumo priemonės nevisada apsaugo, ypač kai net tiksliai nežinai nuo kokių visų galimų grėsmių saugaisi, jau net neskaitant "mad scientist" tipo scenarijų, kur tų saugumo priemonių elementariai nebūtų.
User avatar
Seianus
pradedantis
Posts: 392
Joined: 2018-11-16 23:57

2019-02-08 18:17

Kai AI sukasi virtualioje aplinkoje be jokių galimybių nuveikti kažką realaus, apsisaugai nuo visų grėsmių.

Be to, jei AI nuveiks ką nors tavo nuomone blogo, pvz. išžudys Europą, galėsi visada sau priminti, kad tai yra tik tavo subjektyvus situacijos vertinimas, o ne faktas.
Stormas
pradedantis
Posts: 353
Joined: 2018-07-04 23:51

2019-02-08 18:21

Seianus wrote:
2019-02-08 18:17
Kai AI sukasi virtualioje aplinkoje be jokių galimybių nuveikti kažką realaus, apsisaugai nuo visų grėsmių.
"Kai"

O kai nesuki virtualioje aplinkoje, o online?
Ar kai dėl to kad vaikystėje buvai primuštas trijų stipresnių berniukų nori atkeršit pasauliui ir specialiai paleidi AI į online?

Tavo tam vienam pavyzdžiui galima milijoną pavyzdžiu prigalvot, kai AI turės galimybę patekti online ir "daugintis"
Be to, jei AI nuveiks ką nors tavo nuomone blogo, pvz. išžudys Europą, galėsi visada sau priminti, kad tai yra tik tavo subjektyvus situacijos vertinimas, o ne faktas.
Kad faktų nuo nuomonių neskiri aš jau supratau, gali nesikartoti.
User avatar
Seianus
pradedantis
Posts: 392
Joined: 2018-11-16 23:57

2019-02-08 18:24

Stormas wrote:
2019-02-08 18:21
"Kai"

O kai nesuki virtualioje aplinkoje, o online?
Ar kai dėl to kad vaikystėje buvai primuštas trijų stipresnių berniukų nori atkeršit pasauliui ir specialiai paleidi AI į online?
OK nesiginčysiu jei AI sukurti bus tiek paprasta, kad tą galės daryti kiekvienas, tikrai atsiras visokių psichų kurie prirašys neprognozuojamų AI katrie tada tavo ar kieno nors kito subjektyvia nuomone pridarys ką nors blogo, bet laimei tai bus tik subjektyvi nuomonė, o ne faktas.
Kad faktų nuo nuomonių neskiri aš jau supratau, gali nesikartoti.
Tai pamokyk, kaip atskirti. Mano nuomonė yra tik nuomonė, o tavo nuomonė yra faktas?
User avatar
fizikanas
nenugalimas
Posts: 3447
Joined: 2004-05-27 19:45

2019-02-08 19:15

Nemaniau, kad isvysiu, Stormas is talking some sense :D
Seianus wrote:
2019-02-08 13:48
Skamba kaip siaubo filmų scenarijus.
Del zanru nesigincyjama, bet man tai labiau i hard sci-fi scenariju nesa.
Seianus wrote:
2019-02-08 13:48
AI nėra kažkoks magiškas tvarinys, kaip sakiau: jei tavo kopėčias gamintantis AI pradeda žaliavoms užsisakinėti urano ir prašo statyti kažkokias centrifugas, tai jį reikia išjungti ir debuginti. Jei tikėsime Lionginu kad debuginti labai sunku, tai galima debuginti plieno strypu per SSD prieš sumetant juos į rūgštį ir palaidojant apleistose šachtose (jei visai paranoja).
As jei pirkciau kanors nelegalaus, pvz koki nors ten augala, tai susiproteciau, kad nereikia issiduoti, bent jau teisesaugai. Bet idomu ar protingesnis uz zmogu AI irgi susiprotetu.
User avatar
Seianus
pradedantis
Posts: 392
Joined: 2018-11-16 23:57

2019-02-08 19:27

As jei pirkciau kanors nelegalaus, pvz koki nors ten augala, tai susiproteciau, kad nereikia issiduoti, bent jau teisesaugai.
Ane.

Įsivaizduok sukurpi kažkokį planą, kaip nusipirkti neišsiduodant. Nesigilinsime kokį nes neesmė šio pavyzdžio tikslais, bet tarkime absoliučiai afigienas planas. Užsakai iš kokio nors .onion saito, pristato kokia nors neregistruota vaikinų „tarnyba“, niekas visoje grandinėje nežino ką ir kam ir kas užsakė, žodžiu visi pėdsakai ir galai giliai paslėpti. Pradedi gaminti tas savo išprotėjimą sukeliančias medžiagas, katras suleisi į Gotemo miesto vandentiekį šiame savo hard-sf scenarijuje...

...šitoje vietoje pasibaisėję tavo veiksmais, tavo simuliuojamą realybę inžinieriai išjungia ir tave pradeda debuginti arba ištrinti.

Net dabar abejotinas programas žmonės dažnai iš pradžių pasileidžia VM'e, o tu su AI dirbančius mokslininkus ir inžinierius laikai kažkokiais daunais kiba
fizikanas wrote:
2019-02-08 19:15
Nemaniau, kad isvysiu, Stormas is talking some sense :D
Oi ne, Stormas kalbėjo sense jau kiek anksčiau, kai prieštaravo tau Petersono temoje ;) Geras Stormas, geras *pat pat*
User avatar
fizikanas
nenugalimas
Posts: 3447
Joined: 2004-05-27 19:45

2019-02-09 14:26

Seianus wrote:
2019-02-08 19:27
...šitoje vietoje pasibaisėję tavo veiksmais, tavo simuliuojamą realybę inžinieriai išjungia ir tave pradeda debuginti arba ištrinti.
Simuliuoti AI VRe yra zinoma ir nemazai diskutuota apsaugos sistema, bet deja nepakankama. Labiau pazenge AI-phobai turbut pateiktu geresniu argumentu, bet vienas toks elementaresnis: neprotingesnis uz zmogu zmogus sumaste, kad mes patys gyvename simuliacijoje. Kazin ar protingesnis uz zmogu AI sugebes, dasimastyti kazka panasaus? Butu ironiska, jei pasakytum, kad uz zmogu protingesnis AI supras, kad simuliacijos argumentas yra kvailas ir ji atmes :D
RB
senbuvis
Posts: 5034
Joined: 2004-05-18 13:16

2019-02-14 02:36

Čia šiek tiek rašo apie realius pavyzdžius, kai AI „blogai elgiasi“ ir ima gudrauti – atranda netikėtų būdų maksimizuoti tikslo funkciją, nuo sukimosi ratu lenktynių žaidime iki buffer overflow bugų išnaudojimo fizikos simuliacijoje, kad „saugiai“ nutupdytų lėktuvą (laimė, irgi tik simuliatoriuje):
https://vkrakovna.wordpress.com/2018/04 ... les-in-ai/
https://blog.openai.com/faulty-reward-functions/

Iki bandymų užkariauti pasaulį dar šiek tiek trūksta, bet vis šiokia tokia pradžia.
Post Reply