Roman Yampolskiy esitti Joe Roganissa, että superälyn kontrollointi on hänen tietääkseen mahdotonta. Hän heitti haasteen muille, että todistavat superälyn kontrllloinnin olevan mahdollista, jos sitä mieltä ovat. Hän myös oli sitä mieltä, että parhaiten asioita edistäisi se, että joku asettaisi merkittävän palkkion sille, että joku todistaisi superälyn kontrolloinnin olevan mahdollista.
Deep learning network ja koneäly
-
- Kitisijä
- Viestit: 24611
- Liittynyt: 15.08.2005 0:29
-
- Kitisijä
- Viestit: 30238
- Liittynyt: 23.01.2014 9:59
Re: Deep learning network ja koneäly
^Samaa tuossa kirjassa sanotaan.
Itse maallikkona ajattelen, että jos operaattorit etukäteen tietäisivät vaaran, kontrolli _ehkä_ olisi mahdollinen. Äly eristettäisiin täysin kaikista mahdollisista kommunikaatiokanavista ja sille viestittäisiin netistä irrotetun terminaalin kautta. Lisäksi anonymisoidut operaattorit eivät saisi kertoa mitään itsestään ja käyttäjiä kierrätettäisiin anonyymisti ja randomisti.
Mutta ongelmahan on, että iso määrä AI-labroja puskee eteenpäin täydellä vauhdilla ja voi olla, että oikeaa hetkeä eristämiselle ei huomata.
Itse maallikkona ajattelen, että jos operaattorit etukäteen tietäisivät vaaran, kontrolli _ehkä_ olisi mahdollinen. Äly eristettäisiin täysin kaikista mahdollisista kommunikaatiokanavista ja sille viestittäisiin netistä irrotetun terminaalin kautta. Lisäksi anonymisoidut operaattorit eivät saisi kertoa mitään itsestään ja käyttäjiä kierrätettäisiin anonyymisti ja randomisti.
Mutta ongelmahan on, että iso määrä AI-labroja puskee eteenpäin täydellä vauhdilla ja voi olla, että oikeaa hetkeä eristämiselle ei huomata.
Tällaista se demokratia on
-
- Kitisijä
- Viestit: 30238
- Liittynyt: 23.01.2014 9:59
Re: Deep learning network ja koneäly
Aloitin tämän ketjun 10 vuotta sitten. Kun vertaa tilannetta vuoteen 2015, kehitys on ollut suurta. Esim vuonna -15 LLM:t olivat täysin tuntematon käsite. Jos kehitys jatkuu seuraavat 10 vuotta samaa tahtia, vuonna 2035 ollaan pitkällä.
Tällaista se demokratia on
-
- Kitisijä
- Viestit: 24611
- Liittynyt: 15.08.2005 0:29
Re: Deep learning network ja koneäly
Vapaasti tietoa hankkivan superälyn hyöty voi olla liian suuri kiusaus.James Potkukelkka kirjoitti: 21.10.2025 10:26
Mutta ongelmahan on, että iso määrä AI-labroja puskee eteenpäin täydellä vauhdilla ja voi olla, että oikeaa hetkeä eristämiselle ei huomata.
-
- Kitisijä
- Viestit: 30238
- Liittynyt: 23.01.2014 9:59
Re: Deep learning network ja koneäly
Joo. Kun haet 1000 miljardin dollarin (Sic!) rahoitusta, ei ole kauheasti aikaa himmailla.sivustahuutaja kirjoitti: 21.10.2025 10:49Vapaasti tietoa hankkivan superälyn hyöty voi olla liian suuri kiusaus.James Potkukelkka kirjoitti: 21.10.2025 10:26
Mutta ongelmahan on, että iso määrä AI-labroja puskee eteenpäin täydellä vauhdilla ja voi olla, että oikeaa hetkeä eristämiselle ei huomata.
https://techcrunch.com/2025/10/14/opena ... -trillion/
Tällaista se demokratia on