Sejanus wrote: ↑2017-08-10 07:59
Na žiūrėk, aš dešimt metų rašiau programas kurios ką nors daro interpretuodamos užduotį tiesiogiai, ir dar nei viena neužvaldė pasaulio anei nužudė nors vieną žmogų.
O ar kuri nors tavo parasyta programa sugebetu rasyti programas, taip gerai, kaip tu jas rasai? Ne? Tai tada tos programos, kurias tu rasai 10 metu, nera tos, apie kurias mes cia snekam.
Sejanus wrote: ↑2017-08-10 07:59
Bet tu renkiesi matyti tik neigiamas to pasekmes, atseit AI mąstys pakankamai plačiai, kad pasitelktų iš anksto jam nepaskirtus resursus, susigalvotų iš anksto nenustatytų būdų siekti tikslo ir t.t.
, bet pakankamai siaurai, kad neatsižvelgs į žmogaus gerbūvį ar net gyvybes, nepajėgs suprasti, kad kopėčių reikia žmonėms.
Viskas, ka isvardinai pries "bet", yra intelekto savybes, viskas, kas po "bet" yra morales savybes. Darai ta pacia klaida, kuria dare tavo oponentai temoje apie morales objektyvuma. Is kazkur trauki, kad nu vis delto, jei intelektas bus labai protingas, tai kazkaip magiskai jis taps moralus, kas reikstu a) objektyvios morales egzistavima, ko nera, b) kad kazkodel intelektas yra linkes ja vadovautis, kam nera pagrindo manyti, net jei isivaizduotume, kad objektyvi morale is ties egzistuoja.
Vien tai, kad egzistuoja protingi psichopatai, arba hitleris, arba bin ladenas, turetu pasufleruoti, kad didesnis intelektas, nereiskia didesnio moralumo.
Sejanus wrote: ↑2017-08-10 07:59
Šitoje vietoje <----- ir yra grynai tavo išsigalvojimas, nepagrįstas jokiais faktais anei plaukiantis iš kokių nors prielaidų, net protingu spėjimu nepavadinčiau, tiesiog siaubo filmų scenarijus.
Bet ka konkreciai tu teigi? Kad toks siaubo filmo scenarijus a) neimanomas, b) mazai tiketinas? Abu siuos teiginius turetum kazkuo pagristi, nes as pavyzdziui nematau nei fizikos, nei informatikos desniuose, nieko, kas NELEISTU tokio scenarijaus. O jei jis imanomas, tai anksciau ar veliau, norom ar nenorom, kazkas ji igyvendins. Su mooro desniu, interneto pletra ir zmonijos ziniu apie AI programavima gausejimu, ta tikimybe kas diena vis dideja. Panasiai, jei urana zmones galetu nusipirkti prekybos centre ir jis butu normali namu apyvokos preke, ir kiekvienais metais ji pardavinetu vis labiau sodrinta ir didesniais kiekiais, tai anksciau ar veliau galetume pagristai tiketis branduolines katastrofos.
Sejanus wrote: ↑2017-08-10 07:59
Kiekvienam žmogui su ypač retom psichinių ligonių išimtimis užtenka nuovokos gaminant kopėčias neišnaikinti žmonijos.
Matai, tu nesunkiai patiki, kad tikras zmogus, su vos keliais savo programinio kodo defektais (ka vadiname ipac retom psichinem ligom), galetu padaryti kazka labai blogo, bet va visiskai i zmogu net nepanasus, nuo nulio sukurtas intelektas, kazkokiu budu bus geresnis zmogus, net uz ta tikra zmogu, su vos keliais defektais. Kaip priejai tokios magiskos isvados?
Sejanus wrote: ↑2017-08-10 07:59
Ir net jei netyčia prie kopėčių gamybos prieitų psichas, jis neturėtų realistiškų galimybių netyčia išnaikinti žmonijos.
Na taip neturetu, nes jis tam nepakankamai protingas. Eksponentiskai protingejantis dirbtinis intelektas - bus.
Sejanus wrote: ↑2017-08-10 07:59
Inžinieriai nėra visiški bukagalviai, įdiegia įvairių saugiklių nenumatytiems atvejams.
Inzinieriai yra pasizymeje, kaip linke pernelyg optimistiskai vertinti savo koda. Niekas isskyrus juos, turbut nepasakytu, kad miega ramiai, zinodami, kad nuo pasaulio pabaigos juos saugo net keletas ivairiu inzinieriu idiegtu saugikliu. Palyginimui va Windausus nuo virusu ir isilauzeliu saugo ir firewallas ir antivirusine ir dar keletas ivairiu saugikliu
Sejanus wrote: ↑2017-08-10 07:59
Plius stengiasi labai daug ką numatyti, ištestuoti laboratorinėmis sąlygomis. Kas trukdo AI paleisti virtualioje aplinkoje ir pažiūrėti, kaip elgsis?
Niekas netrukdo, bet cia jau turime problema. Jei kazkas i ta aplinka ZIURES, tai bus atviras dirbtinio intelekto itakai. Esi girdejes apie efektyviausia hakeriu naudojama metoda, nulauzti betkokiai sistemai - socialine inzinerija? Tai isivaizduok, kad vietoj spoguoto hakerio virtualioje aplinkoje sedes ziliona kartu protingesnis intelektas.
Sejanus wrote: ↑2017-08-10 07:59
Kas trukdo AI sprendimus prieš įgyvendinant realybėje dar duoti peržiūrėti žmonėms? Įsivaizduokime, kopėčių fabrike AI siūlo užsakyti tokius tai kiekius tokių žaliavų ir pakeisti konvejerį tokiais tai papildymais. Inžinieriai peržiūri siūlomus pakeitimus ir mato, kad naujosios kopėčios reikalaus kulkų ir kitais atžvilgiais irgi įtartinai panašios į robotus-žudikus su integruotais kulkosvaidžiais. Tokiu atveju tiesiog šių AI instrukcijų nevykdo, o patį AI išjungia ar toliau testuoja virtualioje aplinkoje.
Na taip, jei dirbtinis intelektas, bus kvailesnis uz tuos inzinierius, tai ji inzinieriai gales nesunkiai isjungti. Bet mes kalbam apie protingesni intelekta. Net vidutinio proto zmogus sugebetu numatyti tokia ivykiu baigti, o mes kalbam apie padara kuris uz zmogu protingesnis keliom eilem. Kodel tu taip nuvertini jo protinius gebejimus? Gi nedurnas jis. Tikrai neissiduos, kol neras budo uzsilopyti didziausia savo saugumo skyle - off mygtuka.
Sejanus wrote: ↑2017-08-10 07:59
Kitas scenarijus, AI visur pilna, įsivaizduokime, mano telefone yra AI. Ką jis man padarys, šnibždės į ausį Lovecraftiškus dalykus man was not supposed to know, nuo kurių išprotėčiau? Iš mano telefono pasaulį valdyti nėra lengva. Ir čia ne proto/gudrumo dalykas, o realistiškų galimybių.
Tavo telefonas turi interneta, todel yra pati geriausia vieta dirbtiniui intelektui pradeti savo zygi. Optimistine vieta siame scenarijuje yra nebent ta, kad tu intelektu visur pilna, todel galbut jie del zemes resursu konkuruotu tarpusavyje ir kiekvienas negaletu daryti grynai savo agendos. Bet mums, kaip protiskai zemesnei rasei, nuo to ramiau neturetu buti, nes visu ju agendos ir karas tarpusavyje, nieko gero mums greiciausiai nezada.
Sejanus wrote: ↑2017-08-10 07:59
Kaip bežiūrėsi, branduolinės bombos daug pavojingiau.
Net wiki sako, kad AI yra 5 kartus didesne gresme, nei branduolinis karas:
https://en.wikipedia.org/wiki/Global_catastrophic_risk
Pridursiu, kad mano manymu, tie skaiciai baisiai nuvertina dirbtinio intelekto rizika.
Sejanus wrote: ↑2017-08-10 07:59
Ir kad pats žmogus be jokių AI pagalbos susinaikins netyčia dėl savo veiklos šalutinių efektų man atrodo daug didesnė tikimybė, nei kad už mus tą padarys AI.
Globalinis atsilimas mus isnaikins geriausiu atveju po 100 metu. Tikrai spesim iki tol sukurti AI.