Autoilu 2

[So Hard]

Joo, tosin ei se AI:n kaappaaminen tai tuhoaminen riskinä ihan hirveästi eroa siitä että nykyisiä järjestelmiä kaapataan tai tuhotaan. Kysymyshän on siitä mitä kaikkea ohjataan tietotekniikalla ja millä autonomian asteella kone tekee päätökset. Jos AI on sotaroboteissa komentoja antamassa ja pahantahtoinen hakkeri kaappaa sotarobotit tappamaan ihmisiä, niin kyse on vain "työvälineen" väärinkäytöstä - vaikkakin hakkeri voi käyttää omana työvälineenään taas toisenlaista AI:ta. Sellainen dystopia jossa AI päättää ihmiskunnan tuhosta tultuaan tietoiseksi olennoksi, kaappaa sotarobotit ja laukaiseen nuket on tieteisfantasiaa.

[James Potkukelkka]

https://www.edge.org/response-detail/26035

Tää on minusta ihan ok kommentti.

Jaa? Dennet on varmasti hyvin älykäs hemmo, mutta mun on vaikea nähdä tätä kysymystä kovinkaan relevanttina.

Varmastikin ihmiset ja insinöörit osasivat 70-luvulla laskea päässä paremmin kuin nyt, ja laivan kapteenille tuottaisi nykypäivänä vaikeuksia navigoida tähtien, kronometrin ja sekstantin avulla, mutta mitä sitten? Em. toimintoja helpottavat työkalut ovat kuitenkin vain työkaluja.

En ehkä ymmärrä nihkeähköä kommenttiasi. Eikö Dennett sano, että nykyisenkaltainen, hyvinkin kehittynyt AI on perusluonteeltaan pelkkä työkalu. Ei yhdessäkään tietokoneessa ole vielä ymmärryksen valo syttynyt (computational competence is not comprehension, sanoisi Dennett, ja Searle komppaisi että AI is still only about syntax, not semantics). Nykyisenkaltaisen AI:n nopoeakaan kumulatiivinen kehitys ei johda superintelligenceen tai pahantahtoisiin robotteihin omine päämäärineen (tai muinekaan normatiivisine sitoumuksineen), se säilyy työkaluna ilman merkittävää paradigman muutosta. Tai siis hänen pointtinsa on, että jos harrastaa yhtään vakavammin kognitiotieteen perusteita, ei oikein ole kovin perusteltua huolehtia superintelligencestä (ja tämän ei ole tarkoitus olla sotaveteraani-argumentti, vaan että superintelligence-ongelma on näköpiirissä olevassa tulevaisuudessa pseudo-ongelma, ei vain vähämerkityksellinen ongelma - ei ehkä ole sattumaa, että näkyvimät tuomiopäivänprofeetat Musk ja Hawking nimenomaan eivät ole kognitiotieteilijöitä).

Luin Dennetin jutun eilen ja ehdinkin jo unohtaa tämän kohdaan. Joo, tuostahan sinä, minä ja Dennet (sekä jotkut vähemmän merkittävät mielenfilosofit) ovat samaa mieltä, eli että nykyinen tai näköpiirissä oleva tekoäly ei aiheuta riskiä karkaamisellaan, koska älyä ei ole. Ne ovat vain glorifioituja helmitauluja. Eli tämän sivuunkirjoitan.

AI on vain työkalu, mutta kuitenkin työkalu, johon olemme kehittäneet ennenäkemättömän riippuvuussuhteen. Lisäksi monet AI- tai IT-sovellukset, joista olemme yhteiskuntina ja elämänmuotoina aika kokonaisvaltaisesti riippuvaisia, ovat myös aivan ennennäkemättömällä tavalla kokonaisvaltaisesti kaapattavisa tai tuhottavissa. Tämä on riski, jonka olemme rakentaneet, ei se, että pahantahtoiset Terminaattorit ottavat vallan.

Tästä olen siis eri mieltä. Ollemme riippuvaisia myös sähköstä ja vesi- ja viemäriverkosta (ja lannoitteista ja miljoonasta muusta asiasta). Ei tämä sen kummempaa ole.

Dennet esitti väitteen, että on riskinä, että ajattelumme atrofioituu, kun koneet hoitavat monia asioita. Varmasti tosiaan esim. päässälaskutaito ja tähtinavigointitaidot ovat keskimäärin huonompia kuin ennen, mutta mitä sitten?

Ps. se on tietysti totta, että saatamme luottaa koneisiin liikaa, mutta siinähän on vain kyse siitä, että pitää osata käyttää työkalua. Mitä tahansa työkalua voi käyttää väärin.

[elco]

Tässä menee nyt puurot ja vellit sekaisin. Nyky-AI ennustaa ja oppii datamassoista ja siinä mielessä älykkyys on samaa luokkaa kuin itseään rajatusti optimoivalla sääennustusvehkeellä. Tulokset ovat toki vaikuttavia erityyppisten tietoformaattien pattern matchingissa.

Siinä sivussa tutkitaan aivoja ja jossain vaiheessa simulaatio tietenkin onnistuu; mitä todennäköisimmin tällä vuosisadalla. Imo on epä-älyllistä väittää muuta. Tässä vaiheessa älykkyys alkaa kasvaa ja runaway SI on mahdollinen.

Nämä streamit tukevat toisiaan.

Minusta on huvittavaa, että yhtäkkiä autopilotointi on uhka. Kaipaako urpo kenties takaisin 1980-luvulle?

[James Potkukelkka]

Siinä sivussa tutkitaan aivoja ja jossain vaiheessa simulaatio tietenkin onnistuu; mitä todennäköisimmin tällä vuosisadalla. Imo on epä-älyllistä väittää muuta. Tässä vaiheessa älykkyys alkaa kasvaa ja runaway SI on mahdollinen.

Uskon, että simulaatio joskus onnistuu, mutta täysin varmaa se ei ole. Vaikka aivojen toiminnassa ei olekaan mitään yliluonnollista ja se periaatteessa on täysin tietokoneella simuloitavissa, ei ole täysin varmaa, että ihmisen älykkyys riittää simuloivan järjestelmän rakentamiseen.

Jos esim. apinat olisivat tämän planeetan älykkäin laji, ei apinoiden älykkyys riittäisi apinoiden aivojen toimintaa simuloivan koneen rakentamiseen.

En ole ehdottoman varma, että ihmisenkään älykkyys riittää ihmisaivoja simuloivan koneen rakentamiseen. Todennäköisesti riittää. Mutta ei se ole itsestään selvää.

[sivustahuutaja]

^ ihmisaivojen simulointi kuulostaa yhtä hassulta kuin kaikkien robottien rakentaminen ihmisen näköiseksi.

AI riskiin riittää se, että ihminen kykenee rakentamaan oppivan järjestelmän, joka kykenee lisäämään omaa älykkyyttään. Silloinhan tuo 'siemen' saa olla aika simppelikin. Oikeaksi uhkaksi Ai kuitenkin muuttuu vasta kun sillä on yhtä paljon keinoja vaikuttaa fyysiseen maailmaan kuin ihmisillä.

Ihmiskuntaa kohtaavista uhkista AI on ihan kirkkaasti lähempänä kuin esim. Asteroidin aiheuttama sukupuutto.

[James Potkukelkka]

Njoo, simulointi on tarpeetonta tosiaan. Eivät lentokoneetkaan räpyttele siipiään.

Mutta ei se silti välttämättä vähennä ongelman vaikeutta.

[Bluntly]

Ihmiskuntaa kohtaavista uhkista AI on ihan kirkkaasti lähempänä kuin esim. Asteroidin aiheuttama sukupuutto.

Seuraava tunnettu mahdollisuus isommalle muksahdukselle olisi muistaakseni vuonna 2080. Tuntemattomia tulee toki aikaisemminkin.
Eiköhän AI ole parissakymmenessä vuodessa kaukana ihmisen edellä.

[urpiainen]

Uskon, että simulaatio joskus onnistuu, mutta täysin varmaa se ei ole. Vaikka aivojen toiminnassa ei olekaan mitään yliluonnollista ja se periaatteessa on täysin tietokoneella simuloitavissa, ei ole täysin varmaa, että ihmisen älykkyys riittää simuloivan järjestelmän rakentamiseen.

Jos esim. apinat olisivat tämän planeetan älykkäin laji, ei apinoiden älykkyys riittäisi apinoiden aivojen toimintaa simuloivan koneen rakentamiseen.

En ole ehdottoman varma, että ihmisenkään älykkyys riittää ihmisaivoja simuloivan koneen rakentamiseen. Todennäköisesti riittää. Mutta ei se ole itsestään selvää.

Niin, ja on siinä sitten vielä tämän meidän sivistysvastaisen aikamme kirouskin: tämän päivät ai-nörtit, toisin kuin vieä vanhempansa, eivät enää ole lukeneet (tai ainakaan ymmärtäneet) Wittgensteinin myöhäisemmän kauden tuotantoa. Niinpä heiltä jää ymmärtämättä, että tietoisuus ja mieli ovat ennen muuta sosiaalisia instituutioita tai statuksia, joita vastavuoroisesti annamme toisillemme toimijuuden kielipelissä. Tämä on se Dennettin intentional stance, tai se, mitä Dennett tarkoittaa sanoessaan, että "culture makes us smart enough to have minds" tai että "mind is the effect, not the cause".

Olla intentionaalinen (tietoinen) toimija on inhimilliseen elämänmuotoon ihan käytännössä osallistumista, ei sitä, että kone on riittävän monimutkainen tietoisuuden valon syttymiseen. Jotenkin vain tämä ajatus siitä, että tietoisuus on jumalan puhaltama henki materiaalisessa systeemissä (tai riittävän kompleksisesta koneesta emergoituva ominaisuus), on liian syvällä ajattelumalleissamme.

En ole käsittääkseni ajanut paluuta 80-luvulle (vaikka kukapa ei Kekkistä kaipaisi), saati ajatellut, että autopilotti on uhka, vaan vain koettanut Daven ihmetyksen edessä selittää, miksi Dennett pitää näitä Muskin ja Hawkingin huonosti informoituja ja huonolta scifiltä kuulostavia maalailuja aika harhautuneina.

[James Potkukelkka]

että tietoisuus ja mieli ovat ennen muuta sosiaalisia instituutioita tai statuksia, joita vastavuoroisesti annamme toisillemme toimijuuden kielipelissä. Tämä on se Dennettin intentional stance, tai se, mitä Dennett tarkoittaa sanoessaan, että "culture makes us smart enough to have minds" tai että "mind is the effect, not the cause".

Olla intentionaalinen (tietoinen) toimija on inhimilliseen elämänmuotoon ihan käytännössä osallistumista, ei sitä, että kone on riittävän monimutkainen tietoisuuden valon syttymiseen. Jotenkin vain tämä ajatus siitä, että tietoisuus on jumalan puhaltama henki materiaalisessa systeemissä (tai riittävän kompleksisesta koneesta emergoituva ominaisuus), on liian syvällä ajattelumalleissamme.

Niin.. no. Meillähän ei ole mitään varmaa keinoa tietää, ovatko muut ihmiset tietoisia, vai näytelevätkö he vain (Philosophical zombie). Meidän on kuitenkin helppo uskoa muiden ihmisten olevan tietoisia, koska he ovat meidän kaltaisiamme ja olemme itse tietoisia. Jos joskus tietoiselta vaikuttava tietokone saadaan rakennettua, tämä varmasti tulee aiheuttamaan raivoisaa väittelyä, koska lopultahan meillä ei ole mitään keinoa tietää, onko kone oikeasti tietoinen. Tästä olemme varmaankin kitinässä keskustelleet aiemminkin..


Mutta jos tietokone päättää poistaa ihmiset häiritsemästä, tietysti kysymys siitä, onko kone _oikeasti_ tietoinen, on toisarvoista

[James Potkukelkka]

...koettanut Daven ihmetyksen edessä selittää, miksi Dennett pitää näitä Muskin ja Hawkingin huonosti informoituja ja huonolta scifiltä kuulostavia maalailuja aika harhautuneina.

Tässä on ehkä väärinkäsitys, mähän olen ollut Dennetin ja sun kanssa samaa mieletä, että Musk ja Hawking murehtivat turhasta. Mutta mun mielestäni Dennetkin murehtii turhasta!

"Dont't worry, be happy" kuten Bobby McFerrin lauloi jo 80-luvulla (Obs! Huom!)

[urpiainen]

Joo, ymmärsin kyllä tuon samanmielisyyden, mutta en näe Dennetin puheissa mitään sellaista murehdintaa, joka mitenkään rinnastuisi näiden alarmistien tuomiopäivänmaalailuihin. Ei Dennettistä saa minkäänlaista teknopelkoista luddiittia millään, pelkkä riskin tarkempi määrittäminen ei siihen riitä.

[James Potkukelkka]

Joo, ymmärsin kyllä tuon samanmielisyyden, mutta en näe Dennetin puheissa mitään sellaista murehdintaa, joka mitenkään rinnastuisi näiden alarmistien tuomiopäivänmaalailuihin. Ei Dennettistä saa minkäänlaista teknopelkoista luddiittia millään, pelkkä riskin tarkempi määrittäminen ei siihen riitä.

No itseasiassa tämä kävi munkin mielessäni, mutta laiskuuttani en jaksanut (hyi minä!) enää sitä kirjoittaa (plus että liika tarkkuus olisi pilannut postaukseni idean). Ensimmäinen lehtimiehen ohjehan on "Älä koskaan anna faktojen tarkistuksen häiritä hyvän jutun kirjoittamista"

Hän kait ennemminkin koetti sanoa, että jos nyt jotain välttämättä haluaa murehtia AI:ssa, niin sitten hänen esittämäänsä näkökantaa.

[urpiainen]

Konsensus!

[James Potkukelkka]

+1

[sivustahuutaja]

Miksi takerrutte siihen, että AI:n pitäisi olla ihmisen kaltaisella tavalla tiedostava?

Se vaaralliseksi äitynyt AI saattaa vain noudattaa ohjetta: leviä joka paikkaan ja varmista oma olemassaolosi. Se karannut AI voi olla tiedostavuudeltaan ihan alkeellinen, ikään kuin fiksusti toimiva virus.

[elco]

^ Toi nyt kuulostaa enemmän joltain runaway nanobotti grey goolta.

Aivojen toiminnan ymmärrys on kontribuoinut paljon nyky-AI:hin hierarkkisessa pattern matchingissa jne. Jos aivojen simulointi on vaikeaa niin niin luulisi olevan puhtaalta pöydältä tietoisuuden rakentaminenkin.

[Bluntly]

Tekoäly saa mielikuvituksen – sille syntyy kyky ennustaa tulevaisuutta

+

Tutkijat testasivat keinoälyn yhteistyötaitoja – Mitä älykkäämpi, sitä julmempi ja itsekkäämpi

=

?

[James Potkukelkka]

Laitoin Model 3:n varaukseen. Varausmaksu 1000 ja varauksen voi perua koska tahansa. Veikkaan, että jos pidän varauksen, saan auton n. kahden vuoden kuluttua. Kaksi vuotta on sen verran pitkä aika, että ei vielä tiedä, mitä lopulta teen.

[So Hard]

Laitoin Model 3:n varaukseen. Varausmaksu 1000 ja varauksen voi perua koska tahansa. Veikkaan, että jos pidän varauksen, saan auton n. kahden vuoden kuluttua. Kaksi vuotta on sen verran pitkä aika, että ei vielä tiedä, mitä lopulta teen.

Maksoitko luottokortilla? Silloin voi teoriassa saada takaisin jos Tesla menee nurin.

[James Potkukelkka]

Laitoin Model 3:n varaukseen. Varausmaksu 1000 ja varauksen voi perua koska tahansa. Veikkaan, että jos pidän varauksen, saan auton n. kahden vuoden kuluttua. Kaksi vuotta on sen verran pitkä aika, että ei vielä tiedä, mitä lopulta teen.

Maksoitko luottokortilla? Silloin voi teoriassa saada takaisin jos Tesla menee nurin.

Joo.

[So Hard]

Ilkeävät väittää, että jos tilaat nyt, saat auton 12 - 18 kuukaudessa. Uskokoon ken tahtoo, veikkaan että minimissään tuplat.

[Bluntly]

Varmaan ketuttaa saada vanhentunutta tekniikkaa.

[urpiainen]

Tutkijat testasivat keinoälyn yhteistyötaitoja – Mitä älykkäämpi, sitä julmempi ja itsekkäämpi

Tämä artikkeli kuvastaa aika hyvin sitä, mikä on niin hankalaa keinoälyä koskevissa yleistajuisissa - ja osin alarmistisissa - artikkeleissa. Siis keinoälylle luodaan universumi, jossa on tehtävänä kerätä itselleen mahdollisimman paljon omenoita, ja annetut keinot ovat (i) kerätä ja (ii) sabotoida niitä, jotka keräävät nenän edestä. Minusta kauhistelun paikka olisi, jos vieläkään ei osattaisi kehittää tekoälyä, joka tosiaan pystyy laskemaan, missä tilanteessa oman keräämisen lisäksi kannattaa myös sabotoida muita kerääjiä, kun annettu päämäärä on kerätä mahdollisimman pajon omenoita. Ja tietysti lopun heitto siitä, että mitä jos riittävän monimutkaiset tekoälyt hylkäävät ihmisen asettamat pelipäämäärät ja keksivät omia niiden tilalle, on sitten sitä roskascifiosastoa.

[James Potkukelkka]

Varmaan ketuttaa saada vanhentunutta tekniikkaa.

Eh.. auto on juuri lanseerattu ja massatuotantoa ollaan aloittamassa. Eli auto on niin uusi kuin mikään massatuotannossa oleva auto voi olla. Jos auton saa kahden vuoden kuluttua, ei voi mitenkään sanoa, että se on vanhentunutta tekniikkaa.

[Bluntly]

Suurin osa osista valmistetaan nyt. Sitten on muutama osa/kokoaminen, jotka junnaa.

Parin vuoden päästä markkinoilla on kokonaan tuoreempia kotteroita kun kiinalaiset lyö tukaatteja ja orjatyövoimaa tehtaiden rakentamiseen nopeasti.