Autoilu 2
-
- Kitisijä
- Viestit: 14934
- Liittynyt: 23.08.2011 9:23
- Paikkakunta: 7th heaven
Re: Autoilu 2
Joo, tosin ei se AI:n kaappaaminen tai tuhoaminen riskinä ihan hirveästi eroa siitä että nykyisiä järjestelmiä kaapataan tai tuhotaan. Kysymyshän on siitä mitä kaikkea ohjataan tietotekniikalla ja millä autonomian asteella kone tekee päätökset. Jos AI on sotaroboteissa komentoja antamassa ja pahantahtoinen hakkeri kaappaa sotarobotit tappamaan ihmisiä, niin kyse on vain "työvälineen" väärinkäytöstä - vaikkakin hakkeri voi käyttää omana työvälineenään taas toisenlaista AI:ta. Sellainen dystopia jossa AI päättää ihmiskunnan tuhosta tultuaan tietoiseksi olennoksi, kaappaa sotarobotit ja laukaiseen nuket on tieteisfantasiaa.
Universaali disclaimer.
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Luin Dennetin jutun eilen ja ehdinkin jo unohtaa tämän kohdaan. Joo, tuostahan sinä, minä ja Dennet (sekä jotkut vähemmän merkittävät mielenfilosofit) ovat samaa mieltä, eli että nykyinen tai näköpiirissä oleva tekoäly ei aiheuta riskiä karkaamisellaan, koska älyä ei ole. Ne ovat vain glorifioituja helmitauluja. Eli tämän sivuunkirjoitan.urpiainen kirjoitti: ↑16.08.2017 15:47En ehkä ymmärrä nihkeähköä kommenttiasi. Eikö Dennett sano, että nykyisenkaltainen, hyvinkin kehittynyt AI on perusluonteeltaan pelkkä työkalu. Ei yhdessäkään tietokoneessa ole vielä ymmärryksen valo syttynyt (computational competence is not comprehension, sanoisi Dennett, ja Searle komppaisi että AI is still only about syntax, not semantics). Nykyisenkaltaisen AI:n nopoeakaan kumulatiivinen kehitys ei johda superintelligenceen tai pahantahtoisiin robotteihin omine päämäärineen (tai muinekaan normatiivisine sitoumuksineen), se säilyy työkaluna ilman merkittävää paradigman muutosta. Tai siis hänen pointtinsa on, että jos harrastaa yhtään vakavammin kognitiotieteen perusteita, ei oikein ole kovin perusteltua huolehtia superintelligencestä (ja tämän ei ole tarkoitus olla sotaveteraani-argumentti, vaan että superintelligence-ongelma on näköpiirissä olevassa tulevaisuudessa pseudo-ongelma, ei vain vähämerkityksellinen ongelma - ei ehkä ole sattumaa, että näkyvimät tuomiopäivänprofeetat Musk ja Hawking nimenomaan eivät ole kognitiotieteilijöitä).James Potkukelkka kirjoitti: ↑16.08.2017 15:06Jaa? Dennet on varmasti hyvin älykäs hemmo, mutta mun on vaikea nähdä tätä kysymystä kovinkaan relevanttina.urpiainen kirjoitti: ↑15.08.2017 14:19 https://www.edge.org/response-detail/26035
Tää on minusta ihan ok kommentti.
Varmastikin ihmiset ja insinöörit osasivat 70-luvulla laskea päässä paremmin kuin nyt, ja laivan kapteenille tuottaisi nykypäivänä vaikeuksia navigoida tähtien, kronometrin ja sekstantin avulla, mutta mitä sitten? Em. toimintoja helpottavat työkalut ovat kuitenkin vain työkaluja.
Tästä olen siis eri mieltä. Ollemme riippuvaisia myös sähköstä ja vesi- ja viemäriverkosta (ja lannoitteista ja miljoonasta muusta asiasta). Ei tämä sen kummempaa ole.urpiainen kirjoitti: ↑16.08.2017 15:47 AI on vain työkalu, mutta kuitenkin työkalu, johon olemme kehittäneet ennenäkemättömän riippuvuussuhteen. Lisäksi monet AI- tai IT-sovellukset, joista olemme yhteiskuntina ja elämänmuotoina aika kokonaisvaltaisesti riippuvaisia, ovat myös aivan ennennäkemättömällä tavalla kokonaisvaltaisesti kaapattavisa tai tuhottavissa. Tämä on riski, jonka olemme rakentaneet, ei se, että pahantahtoiset Terminaattorit ottavat vallan.
Dennet esitti väitteen, että on riskinä, että ajattelumme atrofioituu, kun koneet hoitavat monia asioita. Varmasti tosiaan esim. päässälaskutaito ja tähtinavigointitaidot ovat keskimäärin huonompia kuin ennen, mutta mitä sitten?
Ps. se on tietysti totta, että saatamme luottaa koneisiin liikaa, mutta siinähän on vain kyse siitä, että pitää osata käyttää työkalua. Mitä tahansa työkalua voi käyttää väärin.
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 6253
- Liittynyt: 17.02.2011 13:04
Re: Autoilu 2
Tässä menee nyt puurot ja vellit sekaisin. Nyky-AI ennustaa ja oppii datamassoista ja siinä mielessä älykkyys on samaa luokkaa kuin itseään rajatusti optimoivalla sääennustusvehkeellä. Tulokset ovat toki vaikuttavia erityyppisten tietoformaattien pattern matchingissa.
Siinä sivussa tutkitaan aivoja ja jossain vaiheessa simulaatio tietenkin onnistuu; mitä todennäköisimmin tällä vuosisadalla. Imo on epä-älyllistä väittää muuta. Tässä vaiheessa älykkyys alkaa kasvaa ja runaway SI on mahdollinen.
Nämä streamit tukevat toisiaan.
Minusta on huvittavaa, että yhtäkkiä autopilotointi on uhka. Kaipaako urpo kenties takaisin 1980-luvulle?
Siinä sivussa tutkitaan aivoja ja jossain vaiheessa simulaatio tietenkin onnistuu; mitä todennäköisimmin tällä vuosisadalla. Imo on epä-älyllistä väittää muuta. Tässä vaiheessa älykkyys alkaa kasvaa ja runaway SI on mahdollinen.
Nämä streamit tukevat toisiaan.
Minusta on huvittavaa, että yhtäkkiä autopilotointi on uhka. Kaipaako urpo kenties takaisin 1980-luvulle?
Masturbation is for the poor.
-Atticus Fetch, Californication
-Atticus Fetch, Californication
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Uskon, että simulaatio joskus onnistuu, mutta täysin varmaa se ei ole. Vaikka aivojen toiminnassa ei olekaan mitään yliluonnollista ja se periaatteessa on täysin tietokoneella simuloitavissa, ei ole täysin varmaa, että ihmisen älykkyys riittää simuloivan järjestelmän rakentamiseen.
Jos esim. apinat olisivat tämän planeetan älykkäin laji, ei apinoiden älykkyys riittäisi apinoiden aivojen toimintaa simuloivan koneen rakentamiseen.
En ole ehdottoman varma, että ihmisenkään älykkyys riittää ihmisaivoja simuloivan koneen rakentamiseen. Todennäköisesti riittää. Mutta ei se ole itsestään selvää.
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 21512
- Liittynyt: 15.08.2005 0:29
Re: Autoilu 2
^ ihmisaivojen simulointi kuulostaa yhtä hassulta kuin kaikkien robottien rakentaminen ihmisen näköiseksi.
AI riskiin riittää se, että ihminen kykenee rakentamaan oppivan järjestelmän, joka kykenee lisäämään omaa älykkyyttään. Silloinhan tuo 'siemen' saa olla aika simppelikin. Oikeaksi uhkaksi Ai kuitenkin muuttuu vasta kun sillä on yhtä paljon keinoja vaikuttaa fyysiseen maailmaan kuin ihmisillä.
Ihmiskuntaa kohtaavista uhkista AI on ihan kirkkaasti lähempänä kuin esim. Asteroidin aiheuttama sukupuutto.
AI riskiin riittää se, että ihminen kykenee rakentamaan oppivan järjestelmän, joka kykenee lisäämään omaa älykkyyttään. Silloinhan tuo 'siemen' saa olla aika simppelikin. Oikeaksi uhkaksi Ai kuitenkin muuttuu vasta kun sillä on yhtä paljon keinoja vaikuttaa fyysiseen maailmaan kuin ihmisillä.
Ihmiskuntaa kohtaavista uhkista AI on ihan kirkkaasti lähempänä kuin esim. Asteroidin aiheuttama sukupuutto.
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Njoo, simulointi on tarpeetonta tosiaan. Eivät lentokoneetkaan räpyttele siipiään.
Mutta ei se silti välttämättä vähennä ongelman vaikeutta.
Mutta ei se silti välttämättä vähennä ongelman vaikeutta.
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 23554
- Liittynyt: 15.08.2005 8:41
Re: Autoilu 2
Seuraava tunnettu mahdollisuus isommalle muksahdukselle olisi muistaakseni vuonna 2080. Tuntemattomia tulee toki aikaisemminkin.sivustahuutaja kirjoitti: ↑17.08.2017 12:55Ihmiskuntaa kohtaavista uhkista AI on ihan kirkkaasti lähempänä kuin esim. Asteroidin aiheuttama sukupuutto.
Eiköhän AI ole parissakymmenessä vuodessa kaukana ihmisen edellä.
"Vetäkää käteen, minä maksan" Bluntismi 2006.
-
- Kitisijä
- Viestit: 16755
- Liittynyt: 27.10.2005 17:37
Re: Autoilu 2
Niin, ja on siinä sitten vielä tämän meidän sivistysvastaisen aikamme kirouskin: tämän päivät ai-nörtit, toisin kuin vieä vanhempansa, eivät enää ole lukeneet (tai ainakaan ymmärtäneet) Wittgensteinin myöhäisemmän kauden tuotantoa. Niinpä heiltä jää ymmärtämättä, että tietoisuus ja mieli ovat ennen muuta sosiaalisia instituutioita tai statuksia, joita vastavuoroisesti annamme toisillemme toimijuuden kielipelissä. Tämä on se Dennettin intentional stance, tai se, mitä Dennett tarkoittaa sanoessaan, että "culture makes us smart enough to have minds" tai että "mind is the effect, not the cause".James Potkukelkka kirjoitti:Uskon, että simulaatio joskus onnistuu, mutta täysin varmaa se ei ole. Vaikka aivojen toiminnassa ei olekaan mitään yliluonnollista ja se periaatteessa on täysin tietokoneella simuloitavissa, ei ole täysin varmaa, että ihmisen älykkyys riittää simuloivan järjestelmän rakentamiseen.
Jos esim. apinat olisivat tämän planeetan älykkäin laji, ei apinoiden älykkyys riittäisi apinoiden aivojen toimintaa simuloivan koneen rakentamiseen.
En ole ehdottoman varma, että ihmisenkään älykkyys riittää ihmisaivoja simuloivan koneen rakentamiseen. Todennäköisesti riittää. Mutta ei se ole itsestään selvää.
Olla intentionaalinen (tietoinen) toimija on inhimilliseen elämänmuotoon ihan käytännössä osallistumista, ei sitä, että kone on riittävän monimutkainen tietoisuuden valon syttymiseen. Jotenkin vain tämä ajatus siitä, että tietoisuus on jumalan puhaltama henki materiaalisessa systeemissä (tai riittävän kompleksisesta koneesta emergoituva ominaisuus), on liian syvällä ajattelumalleissamme.
En ole käsittääkseni ajanut paluuta 80-luvulle (vaikka kukapa ei Kekkistä kaipaisi), saati ajatellut, että autopilotti on uhka, vaan vain koettanut Daven ihmetyksen edessä selittää, miksi Dennett pitää näitä Muskin ja Hawkingin huonosti informoituja ja huonolta scifiltä kuulostavia maalailuja aika harhautuneina.
"Urpiaisen pesintä on epäsäännöllistä ja lento keikkuvaa. Yleisimmät äänet ovat kimeä kutsuhuuto 'djihh!' ja rahiseva 'tssrrt-tssrrt'."
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Niin.. no. Meillähän ei ole mitään varmaa keinoa tietää, ovatko muut ihmiset tietoisia, vai näytelevätkö he vain (Philosophical zombie). Meidän on kuitenkin helppo uskoa muiden ihmisten olevan tietoisia, koska he ovat meidän kaltaisiamme ja olemme itse tietoisia. Jos joskus tietoiselta vaikuttava tietokone saadaan rakennettua, tämä varmasti tulee aiheuttamaan raivoisaa väittelyä, koska lopultahan meillä ei ole mitään keinoa tietää, onko kone oikeasti tietoinen. Tästä olemme varmaankin kitinässä keskustelleet aiemminkin..urpiainen kirjoitti: ↑17.08.2017 13:02 että tietoisuus ja mieli ovat ennen muuta sosiaalisia instituutioita tai statuksia, joita vastavuoroisesti annamme toisillemme toimijuuden kielipelissä. Tämä on se Dennettin intentional stance, tai se, mitä Dennett tarkoittaa sanoessaan, että "culture makes us smart enough to have minds" tai että "mind is the effect, not the cause".
Olla intentionaalinen (tietoinen) toimija on inhimilliseen elämänmuotoon ihan käytännössä osallistumista, ei sitä, että kone on riittävän monimutkainen tietoisuuden valon syttymiseen. Jotenkin vain tämä ajatus siitä, että tietoisuus on jumalan puhaltama henki materiaalisessa systeemissä (tai riittävän kompleksisesta koneesta emergoituva ominaisuus), on liian syvällä ajattelumalleissamme.
Mutta jos tietokone päättää poistaa ihmiset häiritsemästä, tietysti kysymys siitä, onko kone _oikeasti_ tietoinen, on toisarvoista
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Tässä on ehkä väärinkäsitys, mähän olen ollut Dennetin ja sun kanssa samaa mieletä, että Musk ja Hawking murehtivat turhasta. Mutta mun mielestäni Dennetkin murehtii turhasta!
"Dont't worry, be happy" kuten Bobby McFerrin lauloi jo 80-luvulla (Obs! Huom!)
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 16755
- Liittynyt: 27.10.2005 17:37
Re: Autoilu 2
Joo, ymmärsin kyllä tuon samanmielisyyden, mutta en näe Dennetin puheissa mitään sellaista murehdintaa, joka mitenkään rinnastuisi näiden alarmistien tuomiopäivänmaalailuihin. Ei Dennettistä saa minkäänlaista teknopelkoista luddiittia millään, pelkkä riskin tarkempi määrittäminen ei siihen riitä.
"Urpiaisen pesintä on epäsäännöllistä ja lento keikkuvaa. Yleisimmät äänet ovat kimeä kutsuhuuto 'djihh!' ja rahiseva 'tssrrt-tssrrt'."
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
No itseasiassa tämä kävi munkin mielessäni, mutta laiskuuttani en jaksanut (hyi minä!) enää sitä kirjoittaa (plus että liika tarkkuus olisi pilannut postaukseni idean). Ensimmäinen lehtimiehen ohjehan on "Älä koskaan anna faktojen tarkistuksen häiritä hyvän jutun kirjoittamista"urpiainen kirjoitti: ↑17.08.2017 13:46 Joo, ymmärsin kyllä tuon samanmielisyyden, mutta en näe Dennetin puheissa mitään sellaista murehdintaa, joka mitenkään rinnastuisi näiden alarmistien tuomiopäivänmaalailuihin. Ei Dennettistä saa minkäänlaista teknopelkoista luddiittia millään, pelkkä riskin tarkempi määrittäminen ei siihen riitä.
Hän kait ennemminkin koetti sanoa, että jos nyt jotain välttämättä haluaa murehtia AI:ssa, niin sitten hänen esittämäänsä näkökantaa.
Viimeksi muokannut James Potkukelkka, 17.08.2017 13:54. Yhteensä muokattu 1 kertaa.
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 16755
- Liittynyt: 27.10.2005 17:37
Re: Autoilu 2
Konsensus!
"Urpiaisen pesintä on epäsäännöllistä ja lento keikkuvaa. Yleisimmät äänet ovat kimeä kutsuhuuto 'djihh!' ja rahiseva 'tssrrt-tssrrt'."
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
-
- Kitisijä
- Viestit: 21512
- Liittynyt: 15.08.2005 0:29
Re: Autoilu 2
Miksi takerrutte siihen, että AI:n pitäisi olla ihmisen kaltaisella tavalla tiedostava?
Se vaaralliseksi äitynyt AI saattaa vain noudattaa ohjetta: leviä joka paikkaan ja varmista oma olemassaolosi. Se karannut AI voi olla tiedostavuudeltaan ihan alkeellinen, ikään kuin fiksusti toimiva virus.
Se vaaralliseksi äitynyt AI saattaa vain noudattaa ohjetta: leviä joka paikkaan ja varmista oma olemassaolosi. Se karannut AI voi olla tiedostavuudeltaan ihan alkeellinen, ikään kuin fiksusti toimiva virus.
-
- Kitisijä
- Viestit: 6253
- Liittynyt: 17.02.2011 13:04
Re: Autoilu 2
^ Toi nyt kuulostaa enemmän joltain runaway nanobotti grey goolta.
Aivojen toiminnan ymmärrys on kontribuoinut paljon nyky-AI:hin hierarkkisessa pattern matchingissa jne. Jos aivojen simulointi on vaikeaa niin niin luulisi olevan puhtaalta pöydältä tietoisuuden rakentaminenkin.
Aivojen toiminnan ymmärrys on kontribuoinut paljon nyky-AI:hin hierarkkisessa pattern matchingissa jne. Jos aivojen simulointi on vaikeaa niin niin luulisi olevan puhtaalta pöydältä tietoisuuden rakentaminenkin.
Masturbation is for the poor.
-Atticus Fetch, Californication
-Atticus Fetch, Californication
-
- Kitisijä
- Viestit: 23554
- Liittynyt: 15.08.2005 8:41
Re: Autoilu 2
Tekoäly saa mielikuvituksen – sille syntyy kyky ennustaa tulevaisuutta
+
Tutkijat testasivat keinoälyn yhteistyötaitoja – Mitä älykkäämpi, sitä julmempi ja itsekkäämpi
=
?
+
Tutkijat testasivat keinoälyn yhteistyötaitoja – Mitä älykkäämpi, sitä julmempi ja itsekkäämpi
=
?
"Vetäkää käteen, minä maksan" Bluntismi 2006.
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Laitoin Model 3:n varaukseen. Varausmaksu 1000 ja varauksen voi perua koska tahansa. Veikkaan, että jos pidän varauksen, saan auton n. kahden vuoden kuluttua. Kaksi vuotta on sen verran pitkä aika, että ei vielä tiedä, mitä lopulta teen.
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 14934
- Liittynyt: 23.08.2011 9:23
- Paikkakunta: 7th heaven
Re: Autoilu 2
Maksoitko luottokortilla? Silloin voi teoriassa saada takaisin jos Tesla menee nurin.James Potkukelkka kirjoitti: ↑21.08.2017 8:30
Laitoin Model 3:n varaukseen. Varausmaksu 1000 ja varauksen voi perua koska tahansa. Veikkaan, että jos pidän varauksen, saan auton n. kahden vuoden kuluttua. Kaksi vuotta on sen verran pitkä aika, että ei vielä tiedä, mitä lopulta teen.
Universaali disclaimer.
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Joo.So Hard kirjoitti: ↑21.08.2017 8:32Maksoitko luottokortilla? Silloin voi teoriassa saada takaisin jos Tesla menee nurin.James Potkukelkka kirjoitti: ↑21.08.2017 8:30
Laitoin Model 3:n varaukseen. Varausmaksu 1000 ja varauksen voi perua koska tahansa. Veikkaan, että jos pidän varauksen, saan auton n. kahden vuoden kuluttua. Kaksi vuotta on sen verran pitkä aika, että ei vielä tiedä, mitä lopulta teen.
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 14934
- Liittynyt: 23.08.2011 9:23
- Paikkakunta: 7th heaven
Re: Autoilu 2
Ilkeävät väittää, että jos tilaat nyt, saat auton 12 - 18 kuukaudessa. Uskokoon ken tahtoo, veikkaan että minimissään tuplat.
Universaali disclaimer.
-
- Kitisijä
- Viestit: 23554
- Liittynyt: 15.08.2005 8:41
Re: Autoilu 2
Varmaan ketuttaa saada vanhentunutta tekniikkaa.
"Vetäkää käteen, minä maksan" Bluntismi 2006.
-
- Kitisijä
- Viestit: 16755
- Liittynyt: 27.10.2005 17:37
Re: Autoilu 2
Tämä artikkeli kuvastaa aika hyvin sitä, mikä on niin hankalaa keinoälyä koskevissa yleistajuisissa - ja osin alarmistisissa - artikkeleissa. Siis keinoälylle luodaan universumi, jossa on tehtävänä kerätä itselleen mahdollisimman paljon omenoita, ja annetut keinot ovat (i) kerätä ja (ii) sabotoida niitä, jotka keräävät nenän edestä. Minusta kauhistelun paikka olisi, jos vieläkään ei osattaisi kehittää tekoälyä, joka tosiaan pystyy laskemaan, missä tilanteessa oman keräämisen lisäksi kannattaa myös sabotoida muita kerääjiä, kun annettu päämäärä on kerätä mahdollisimman pajon omenoita. Ja tietysti lopun heitto siitä, että mitä jos riittävän monimutkaiset tekoälyt hylkäävät ihmisen asettamat pelipäämäärät ja keksivät omia niiden tilalle, on sitten sitä roskascifiosastoa.Bluntly kirjoitti: ↑21.08.2017 7:47 Tutkijat testasivat keinoälyn yhteistyötaitoja – Mitä älykkäämpi, sitä julmempi ja itsekkäämpi
"Urpiaisen pesintä on epäsäännöllistä ja lento keikkuvaa. Yleisimmät äänet ovat kimeä kutsuhuuto 'djihh!' ja rahiseva 'tssrrt-tssrrt'."
-
- Kitisijä
- Viestit: 25848
- Liittynyt: 23.01.2014 9:59
Re: Autoilu 2
Eh.. auto on juuri lanseerattu ja massatuotantoa ollaan aloittamassa. Eli auto on niin uusi kuin mikään massatuotannossa oleva auto voi olla. Jos auton saa kahden vuoden kuluttua, ei voi mitenkään sanoa, että se on vanhentunutta tekniikkaa.
olen voimakas oikeudenmukaisuuden kannattaja
-
- Kitisijä
- Viestit: 23554
- Liittynyt: 15.08.2005 8:41
Re: Autoilu 2
Suurin osa osista valmistetaan nyt. Sitten on muutama osa/kokoaminen, jotka junnaa.
Parin vuoden päästä markkinoilla on kokonaan tuoreempia kotteroita kun kiinalaiset lyö tukaatteja ja orjatyövoimaa tehtaiden rakentamiseen nopeasti.
Parin vuoden päästä markkinoilla on kokonaan tuoreempia kotteroita kun kiinalaiset lyö tukaatteja ja orjatyövoimaa tehtaiden rakentamiseen nopeasti.
"Vetäkää käteen, minä maksan" Bluntismi 2006.