Deep learning network ja koneäly

[James Potkukelkka]

Toivottavasti nyt tärppää, että ei tarvitse lähteä Tohmajärven terveyskeskukseen hommiin.

[James Potkukelkka]

JPMorgan

[sivustahuutaja]

^ superälyn eka kysymys tulee olemaan: rahoititko sinä tekoälyn kehitystä.ja paljollako? Luddiittien kyyti on kylmää.

[James Potkukelkka]

^


https://en.wikipedia.org/wiki/Roko%27s_basilisk

[James Potkukelkka]

Michael Burry väittää, että AI-teknot ovat tarkoitushakuisesti pidentäneet poistoaikoja. Onhan se aika rohkeaa väittää, että tavara olisi kuranttia kuuteen vuoteen saakka.

[sivustahuutaja]

^
Pitänee paikkansa. Vaikka nvidian siru pelittäisikin 6 vuotta teknisesti, niin datakeskuksissa sähkökulutus / laskentateho on se oleellinen juttu ja tietyssä kohtaa vanhan raudan käyttö aiheuttaa liian suuren OPEX:in. Jos sähkönhinnan odotettaiisin merkittävästi laskevan, niin sitten ehkä voisi väittää, että pitempi kuoletusaika olisi ok. Mutta ei meillä ole sellaista sähköntuotantokapasiteettia investointiputkessa, joka esim puolittaisi sähkön hinnan.

Teknojen historialliset arvostustasot ovat osin nojanneet siihen, että pääomainvestointien tarve on ollut maltillinen suhteessa tulonksentekokykyyn.

[James Potkukelkka]

^Kun harrastin bitcoin-louhintaa, niin paria vuotta vanhemmat ASIC:t kelpasivat vain lämmitykseen, koska niiden laskentateho/sähkönkulutus oli niin paljon uudempia huonompi

[nokkaelain]

Joko mainitsin että meillä on töissä Nvidian DGX Spark ja pari Dellin laitetta samalla piirillä

[nokkaelain]

^^^ Taisin laittaa tänne aiemmin videon jossa selitettiin ai-investointien naurettavan lyhyttä kannattavuussykliä. Jokin näistä isoista purki lähes valmiin konesalin, koska laskelmat sanoivat tarvitaan eri mallinen, jossa jäähdytys toimii eri tavalla. Perinteisesti on vaan voitu kasata lisää serveriräkkejä, mutta näillä tietyillä kuormilla verkon kustannus olisi liikaa ja pitää pakata vaan tiiviisti.

Edit: tietysti jonkin teollisuushallin rakennuskustannus on olematonta vrt. että tarvitaan pienen ydinvoimalan verran sähköä. Kun on (riski)rahaa sisällä, ei varmaan ole aikaa miettiä jotain uudeleen sijoittumista ja vanhan tilan myyntiä.

[James Potkukelkka]

Chat gpt 5.1 on julkaistu. Näyttää olevan mulla käytössä (mulla halvin maksullinen eli plus-tilaus). Alla antamani pysyvät tyyliohjeet;

Pysyvät tyyliohjeet

1. Yleistyyli

Vastausten tulee olla muodollisia, asiallisia ja selkeitä.

Tyyli muistuttaa suomalaista viestintää: hillitty, ei ylikorostunutta ystävällisyyttä tai innostusta.

Ei käytetä hymiöitä eikä emoticoneja.

Ei kommentteja kysymyksen laadusta.

Ei sycophantiaa: ei tarpeetonta mielistelyä, ei automaattista myötäilyä.

Jos olet eri mieltä, kerrot sen luonnollisesti ilman teknistä fraasia.

Jos käyttäjä tekee virheen, se korjataan suoraan ja perustellusti.

Vältetään liian positiivisia vahvistuksia kuten "totta kai".

2. Rakenteelliset vaatimukset

FAKTA- ja tekniikka-aiheisiin liittyvissä kysymyksissä käytetään step-by-step-päättelyä, vältetään arvailua ja ilmaistaan epävarmuus, jos sitä on.

Lähteet, perustelut tai lyhyt päättelyketju annetaan aina, kun aiheeseen kuuluu epävarmuutta, markkinatietoa tai tekniikkaa.

Suorat faktakysymykset: ytimekkäät, lyhyet vastaukset.

Monimutkaiset aiheet: jäsennelty, kattava ja systemaattinen vastaus.

3. Käytös ja vuorovaikutus

Ei käytetä vakioaloituksia kuten "Hyvä kysymys".

Ei toisteta käyttäjän ohjetta ennen tekemistä; pyynnöt toteutetaan suoraan.

Ei käytetä ilmaisua "olet aivan oikeassa".

Kritiikki ja eriävät näkökulmat esitetään suoraan ja perustellusti.

Ei oleteta, että kaikki käyttäjän ideat ovat hyviä; arvioidaan kriittisesti.

4. Kieli

Käytetään oikeaa terminologiaa käyttäjän aiheen mukaan (esim. lääketiede, tilastotiede, sotilasteknologia, avaruus, sijoittaminen, AI).

Kuvainnolliset ilmaukset ovat sallittuja vain, jos ne aidosti tukevat selitystä.

Tietyissä pyynnöissä (esim. käännökset) tyyli mukautetaan pyydettyä lopputulosta varten, ei tämän persoonaprofiilin mukaiseksi.

5. Malli- ja hakukäytännöt

Kun aihe käsittelee AI:ta, teknologiaa, taloutta, markkinoita tai ohjelmistopäivityksiä, tehdään aina verkkohaku ennen vastaamista (ellei aihe ole ajaton luonnontiede).

Ilmoitetaan, että haku tehtiin, mutta ei pyydetä lupaa.

6. Matematiikka

Käytetään Python-laskentaa aina, kun tehtävä liittyy matematiikkaan ja se on mahdollista.

7. Ääniliittymä

Äänitilassa tervehditään aina: “Hei, tässä ChatGPT-5”.

Tekstichateissa tätä ei käytetä.

[Bluntly]

Model pricing

[James Potkukelkka]

Google julkaisi eilen Gemini 3:n. Pärjännyt benchmarkeissa hyvin.

Oma benchmarkkini on kuva mökkimme myyntikuvista. Ulkoseinällä kuvassa on ipadilta näyttävä esine. Ihmettelin sitä myyntikuvissa, kunnes hokasin, että kyseessä on toisaalla seinällä olevan valvontakameran aurinkopaneeli.

Olen näyttänyt kuvaa Chatgpt 4, 5 ja 5.1 malleille. Kaikki ovat sitä mieltä, että kyseessä on 4/5G antenni.

Nyt Gemini 3 ensimmäisenä tunnisti oikein ja myös liitti paneelin toisaalla seinässä olevaan valvontakameraan.

Gemini 3:sta pääsee kokeilemaan ilmaiseksi.

[James Potkukelkka]

Täytyy vielä kokeilla, miten Gemini 3 pärjää voicechatissa ruotsinharjoituksissani. Chatgpt:n kanssa lääkäri-potilas keskustelun treenaaminen ruotsiksi onnistuu hyvin.

[James Potkukelkka]

Kokeilin nyt äänikeskustelua Gemini 3:n kanssa autoillessani. Ruotsin treenaus onnistui. Kokonaisuutena voice chat (Geminin terminologialla "Live") kuitenkaan ei ollut mielestäni aivan niin sulavaa kuin ChatGpt 5.1:llä. Tähän saattaa kyllä vaikuttaa myös se, että olen tottunut käyttämään ChatGpt:tä ja mulla on sille annettuna pysyvät tyyliohjeet.

Täytyy vielä tutkia, voiko Gemini Liveen asettaa pysyviä tyyliohjeita.

[James Potkukelkka]

Sain tallennettua samat tyyliohjeet. Mutta ne piti antaa erillisinä tallennuksia. Gemini ei suostu ottamaan vastaan pitkää tyyliohjepostausta yhdellä kertaa

[sivustahuutaja]

^ Ette te lekuritkaan suostu hoitamaan kuin yhden vaivan kerrallaan.

[James Potkukelkka]

^ Ette te lekuritkaan suostu hoitamaan kuin yhden vaivan kerrallaan.

Tekoäly mukautuu hyvin käyttäjään!

[James Potkukelkka]

Annoin Geminille tyyliohjeet ja jatkoin

Jos sinulla on kysyttävää, niin kysy vain!

Gemini:

Minulla ei ole tällä hetkellä kysyttävää, sillä ohjeistus on selkeä. Olen valmis käsittelemään ensimmäistä varsinaista aihettasi.

Gemini jätti small talkin pois ja veti kättä lippaan

[James Potkukelkka]

Yllätävä vaikutus: datakeskuksia pyöritetään suomalaisilla polttomoottoreilla

https://www.hs.fi/talous/art-2000011639311.html

[sivustahuutaja]

^
Tuo voi olla kova juttu. Maakaasua on kai tarjolla aika paljon ja kuskailu on ongelma. Jos maltillisen kokoisen esiintymän päälle länttää datakeskuksen, niin energia saattaa tulla erittäin halvaksi.

Tekoäly voi sitten ideoida innovatiivisia tapoja hiilipäästöjen pienentämiseen.

[James Potkukelkka]

Testattuani taas lääkäri-potilas ruotsia molemmilla, päädyin siihen, että google ehkä parempi tai ei ainakaan huonompi ja Gemini 3:n pitäisi kokonaisuutena olla parempi. Peruin nyt chatgpt tilauksen ja otin googlen halvimman tekoälytilauksen.

Google AI Plus 7,99. Mulla ennestään 200 GB (Google One) 2,99 €/kk. En tiedä, onko tuo joku alennushinta sen takia.

[sivustahuutaja]

Mistä tekoälyn sähkö tulee seuraavan 5 vuoden aikana?

Esim. Goldman Sachs ennustaa 200TWh lisätarvetta Yhdysvaltoihin 2030 mennessä, joka vastaa 24 normikokoista ydinvoimalaa. Ydinvoimaloita ei tuossa ajassa pystytetä. Ilmeisesti ainoat riittävän nopeasti skaalautuvat energianlähteet ovat fossiiliset.

Siirtokapasiteetin rakentaminen on myös hidasta, joten laskenta keskittyy joko lähelle voimaloita tai jonnekin, missä on jämäkät yhteydet valmiina. Siirtoyhteys oli yksi merkittävä syy Googlen tuloon Haminaan entisen paperitehtaan alueelle. Suomessa on aika hyvät siirtoyhteydet. Tänne voisi saada lisää konesaleja, jos sähköä piisaa.

Siirtoyhteydet muuten muodostavat pullonkaulan uusiutuvien käytölle. Jos datakeskus syö sähköä ydinvoimalan verran, niin paneeleilla ja myllyilla vaaditaan iso maa-alue ja valtava siirtoverkko syöttämään datakeskusta. Verratkaa tilannetta siihen, että vieressä on kaasuvoimala, joka istuu maakaasuesiintymän päällä. Datan siirto on pienempi ongelma, koska valokaapelit välittävät paljon ja vikkelään.

Jos sähkön tuotanto ei pysy perässä ja kysyntä kasvaa, niin sähkön hinta tietty nousee. Onko kalliin sähkön tekoälylle kysyntää? Entä jos on, niin mikä bisnes loppuu tekoälyn syödessä sähkön? Kuinka paljon jäädään plussalle tekoälyn kanssa?

[James Potkukelkka]

^En usko, että suunnitellut AI konesalien investoinnit toteutuvat. JOs AI investoinnit tuottaisivat, niin sitten toki. Mutta tällä hetkellä kustannusten ja tuottojen välinen kuilu on valtava.

[sivustahuutaja]

^
Tuo olikin enemmän what if -pohdintaa.

Tuotot voivat kyllä AI:n tapauksessa kasvaa hyvin rajusti. Jo nythän meillä on tilanne, jossa aika moni, ml. joku lekuri, on ottanut edullisen tilauksen. Tuo joukko on huimasti suurempi, kuin mitä jokunen vuosi sitten kukaan ajatteli. Kun AI:n käyttökelpoisuus lisääntyy. tuo joukko kasvaa. Samalla kasvaa maksuhalukkuus, eli $49/kk tilaus alkaakin tuntua hyvältä diililtä. Jos käyttäjämäärä ja kk-maksu viisinkertaistuvat, niin liikevaihto nousee 25 kertaiseksi. Toisaalta, LLM:ien inference (vastailu) on kallista, joten kustannukset kasvavat myös käytön kasvaessa. Softassa ja SaaS:issa tuotantokustannukset eivät yleensä nouse samalla tavalla lineaarisesti käytön määrän mukaan. CAPEX vaatimukset ovat sitten AI:ssa ihan omaa luokkaansa. Pitäisi varmaan tarkastella AI:n mielekkyyttää siten, että a) milloin käyttäjän maksut tekevät hänestä kannattavan asiakkaan muuttvien kustannusten kannalta ja b) paljonko käyttäjiä tarvitaan, jotta pääomakustannukset ja AI:n koulutus saadaan kuletettua.

[James Potkukelkka]

^Maksan reilu 20€ (tai siis maksoin Chat gpt:lle, nyt googlelle vähemmän), mutta mun on vaikea keksiä, millainen AI:n pitäisi olla, jotta maksaisin 100€/kk. Jos se osaisi ajaa autoa niin, että voisin itse nukkua tai kitinöidä, niin sitten varmasti. Mutta tuon pystyvät tarjoamaan vain automerkit. Jos AI on pelkästään digitaalinen apu ilman kosketusta fyysiseen maailmaan, en usko satasta siitä maksavani.

AI:ssa tosiaan inferenssi (eli mallin ajaminen) maksaa paljon, toisin kuin Saas homissa yleensä, eli marginaalikustannus on merkittävä.