Deep learning network ja koneäly

[sivustahuutaja]

En mä oikein tiedä onko marakatilla tietoisuus, mutten mä marakatilta sammuttaisi valoja ilman painavaa syytä.

Kuten 'nom nom' tai 'älä syö mun banaaneja'?

[elco]

Kuten 'nom nom' tai 'älä syö mun banaaneja'?

Ähäps, pointti vissiin on tässä, että kokeeko marakatti olevansa tietoinen! Ei riitä, että se suivaantuu banaaniroistolle, vaan että se fundeeraa omaa tietoisuuttaan suivaantuessaan!

En tiedä kuinka syvälle rekursion suonsilmään tässä keskustelussa pitää ajaa ennen kun tietoisuuden aurinko syttyy. Tai sammuu.

[elco]

Uskon, että kaikki kitinään kirjoittavat henkilöt ovat tietoisia.

Tavalla tai toisella.

[James Potkukelkka]

https://blogs.nvidia.com/blog/2016/07/2 ... arning-ai/

Hyvä artikkeli Deep Learning networkin perusasioista ja AI:sta yleensäkin.

Kuten kirjoitin avausviestissä aikoinaan, tämä on kova juttu. AI oli 50 vuotta jumissa, kunnes 2012 palaset läpimurtoon olivat koossa; GPU-computing, massiivinen valmiiksi luokiteltu treenausainesto ja uudet algoritmit.

Nvidialla on todella lupaavaa koneälyä tulossa autonomisiin autoihin.

https://blogs.nvidia.com/blog/category/auto/

Teslan ja MobileEyen tiethän erosivat hiljakkoin ja huhutaan, että Teslan Autopilot 2.0 perustuisi Nvidian tekniikkaan. Toivottavasti.

[James Potkukelkka]

Ostin eilen vähän Nvidiaa, koska näen sen Deep learning network -osaamisen niin kiinnostavana.

[James Potkukelkka]

Nvidian perustaja ja CEO luovuttaa ensimmäisen Deep learning superkoneen OpenAI:lle. 170 teraflopsia pöydällä.

https://blogs.nvidia.com/blog/2016/08/1 ... -learning/

Yksi OpenAI:n perustajista, Elon Musk, myhäilee vieressä.

En voi mitään, että mulla on paha Man Crush Elon Muskiin. Hemmo on mukana perustamassa niin monta ûberkoleeta asiaa.

Silicon Valley on kyllä uskomaton lahjakkuuskeskittymä. Sipilä olisi toki sitä mieltä, että asia voitaisiin yhtä hyvin hoitaa kunnantalon yhteiskäyttötyökeskuksesta.

[James Potkukelkka]

Tän jutun olisi voinut linkittää mihin vaan ja oikeasti toki vaatisi oman ketjunsa, mutta on niin iso asia, että ainakaan mun kompetenssi ei riitä sanomaan siitä oikein mitään. Tai noh, ehkä sen, että onneksi olen alalla ja sen ikäinen, että en usko tämän negatiivisesti muhun vaikuttavan.

http://www.hs.fi/talous/a1472353541632? ... tuimmat-#4

edit: kyllä tämä on oikeampi ketju ja olihan tästä oma ketjunsa

viewtopic.php?f=9&t=12298&start=75

[James Potkukelkka]

Kuten edellä kirjoitin NVidian Deep Learning AI on todella vakuuttava. Tässä uutta matskua.

"we did not program any explicit object detection, mapping, path planning or control components into this car. Instead, the car learns on its own to create all necessary internal representations necessary to steer, simply by observing human drivers."


https://youtu.be/-96BEoXJMs0

[James Potkukelkka]

Googlen koneäly toimii kuvien tunnistamisessa hyvin. Poimii hyvällä tarkkuudella kotialbumista kuvat sanaperusteisella aihepiirihaulla. esim "kukat" tai "koirat".

Muutama vuosi sitten tuo ei olisi onnistunut edes supertietokoneella, koska algoritmit piti koodata käsin.

Tätä voi kokeilla Google kuvissa omalla kotialbumillaan.

[James Potkukelkka]

Google käyttää itse kehittämäänsä "tensor processing unitia"

http://www.techradar.com/news/computing ... ke-1326915

Ko. siru ei sovellu itseoppivan hermoverkon kouluttamiseen (se vaatii us. kertaluokkaa enemmän tehoa kuin valmiiksi saadun hermoverkon pyörittäminen), mutta pyörittää valmiiksi koulutettua hermoverkkoa tehokkaasti.

[James Potkukelkka]

https://link.medium.com/tUaBx4rrgS

Nykyinen AI ei ymmärrä mitään.

Edit: kannattaa liittyä Mediumin jäseneksi. Ilmaista ja paljon hyvä artikkeleita.

[James Potkukelkka]

^^ Tesla on kehittänyt oman TPU:n myös ja ensi vuoden ensimmäisellä puoliskolla pitäisi olla autoissa. 10x nykyistä nopeampi neural netin pyöritys. Kuten jo toisaalla kirjoitin, en tilaa Model 3:sta ennenkuin tuo on autoissa.

[Bluntly]

Kuten jo toisaalla kirjoitin, en tilaa Model 3:sta ennenkuin tuo on autoissa.

Ilkeämielinen voisi mainita tuon olevan hyvä juttu.

On jotain älyä jossain suunnassa rattia.

[elco]

Google osaa ennustaa miten proteiinit taipuvat. Aivan huimaa.

[James Potkukelkka]

WSJ kertoi, että 2023 yritykset ostivat Nvidialta 50 miljardilla AI-siruja ja tekivät niillä 3 miljardia liikevaihtoa
Suattaapi olla kupla.

https://www.wsj.com/tech/ai/the-ai-revo ... m-a93478b1

industry spent $50 billion on chips from Nvidia to train AI in 2023, but brought in only $3 billion in revenue.

The rate of improvement for AIs is slowing, and there appear to be fewer applications than originally imagined for even the most capable of them. It is wildly expensive to build and run AI.

Kaikkiaan mielenkiintoinen artikkeli.

Lisäksi tosiaan, että yksi pullonkaula on laadukkaan koulutusdatan löytäminen. Ei ihme, jos botit haravoivat kitinää.

"lääkärien palkkioita kannattaa nostaa".

[sivustahuutaja]

^ "panomiehiä syrjitään. Pörssiyhtiöiden hallituksissa tulisi olla jokaisessa ainakin yksi kiintiöpanomies"

[nokkaelain]

2000-luvun alussa, graduni eka puolisko käsitteli "tekoälyä": neuroverkot (5 eri alakappaletta), stokastiset oppivat automaatit, evolutionaariset algoritmit, ja hidden markov model.

Täytyy sanoa, että ohjaajani oli aikaansa edellä. Tosin täysin sopimaton opettamiseen, ohjaamiseen ja tutkimukseen. (Ko tyypin oma julaisut ovat sittemmin koskeneet alan opeusta. En olisi itse parempi, vaikka eri syystä huono.)

[James Potkukelkka]

https://en.wikipedia.org/wiki/Yann_LeCun

ja Muskilla ollut viime päivinä tiukkaa kuittailua twitterissä.

[James Potkukelkka]

En ole niin tarkkaan seurannut, että en tiedä, mistä kina alun perin juontaa. Ainakin viimeisin leimahdus ilmeisesti syntyi, kun Le Cunn kritisoi Muskin johtamistyyliä.

Le Cunhan ei ole kuka tahansa vaan häen kontribuutionsa on ollut hyvin merkittävä hermoverkkojen visuaalisen datan käsittelyssä.

[James Potkukelkka]

Ilmeisesti tästä lähti liikkeelle

[James Potkukelkka]

[James Potkukelkka]

Mielenkiintoinen pointti, että nyt aiotaan siis korvata matalapalkkatöitä äärimmäisen kalliilla teknologialla.

[James Potkukelkka]

Ei ainakaan jää rahasta ja draivista kiinni. Historia näyttää, oliko lähestymistapa oikea.

Nämä eivät mitään Verkkokaupasta löytivä puuceita vaan n 100,000 H100/H200 GPU:ta. Hinta 24kUSD/40 kUSD/ kpl. Tosin saa ehkä alennusta, jos tilaa 100 000 kerralla..

Meanwhile in Europe

[sivustahuutaja]

^
Mitäs toi teköäly älyilee? Jos ymmärsin oikein, niin tuon pitäisi kouluttaa Teslan muita tekoälyjä? Meneekö logiikka niin, että panostetaan koulutukseen, jotta hajautetummat pienemmät järjestelmät sitten paremmin koulutettuina toimisivat tehokkaammin?

[James Potkukelkka]

^
Mitäs toi teköäly älyilee? Jos ymmärsin oikein, niin tuon pitäisi kouluttaa Teslan muita tekoälyjä? Meneekö logiikka niin, että panostetaan koulutukseen, jotta hajautetummat pienemmät järjestelmät sitten paremmin koulutettuina toimisivat tehokkaammin?

Mun käsittääkseni tuon pitäisi viimein ratkaista Teslan autonomia, joka Muskin mukaan oli "basically solved" jo 2016.