Deep learning network ja koneäly

Tietokonejutut, pelit ja muu nörtismi; autot, kaasupullot ja muut lelut
sivustahuutaja
Kitisijä
Viestit: 24611
Liittynyt: 15.08.2005 0:29

Re: Deep learning network ja koneäly

Viesti Kirjoittaja sivustahuutaja »

Roman Yampolskiy esitti Joe Roganissa, että superälyn kontrollointi on hänen tietääkseen mahdotonta. Hän heitti haasteen muille, että todistavat superälyn kontrllloinnin olevan mahdollista, jos sitä mieltä ovat. Hän myös oli sitä mieltä, että parhaiten asioita edistäisi se, että joku asettaisi merkittävän palkkion sille, että joku todistaisi superälyn kontrolloinnin olevan mahdollista.

Avatar
James Potkukelkka
Kitisijä
Viestit: 30238
Liittynyt: 23.01.2014 9:59

Re: Deep learning network ja koneäly

Viesti Kirjoittaja James Potkukelkka »

^Samaa tuossa kirjassa sanotaan.

Itse maallikkona ajattelen, että jos operaattorit etukäteen tietäisivät vaaran, kontrolli _ehkä_ olisi mahdollinen. Äly eristettäisiin täysin kaikista mahdollisista kommunikaatiokanavista ja sille viestittäisiin netistä irrotetun terminaalin kautta. Lisäksi anonymisoidut operaattorit eivät saisi kertoa mitään itsestään ja käyttäjiä kierrätettäisiin anonyymisti ja randomisti.

Mutta ongelmahan on, että iso määrä AI-labroja puskee eteenpäin täydellä vauhdilla ja voi olla, että oikeaa hetkeä eristämiselle ei huomata.
Tällaista se demokratia on
Avatar
James Potkukelkka
Kitisijä
Viestit: 30238
Liittynyt: 23.01.2014 9:59

Re: Deep learning network ja koneäly

Viesti Kirjoittaja James Potkukelkka »

Aloitin tämän ketjun 10 vuotta sitten. Kun vertaa tilannetta vuoteen 2015, kehitys on ollut suurta. Esim vuonna -15 LLM:t olivat täysin tuntematon käsite. Jos kehitys jatkuu seuraavat 10 vuotta samaa tahtia, vuonna 2035 ollaan pitkällä.
Tällaista se demokratia on
sivustahuutaja
Kitisijä
Viestit: 24611
Liittynyt: 15.08.2005 0:29

Re: Deep learning network ja koneäly

Viesti Kirjoittaja sivustahuutaja »

James Potkukelkka kirjoitti: 21.10.2025 10:26
Mutta ongelmahan on, että iso määrä AI-labroja puskee eteenpäin täydellä vauhdilla ja voi olla, että oikeaa hetkeä eristämiselle ei huomata.
Vapaasti tietoa hankkivan superälyn hyöty voi olla liian suuri kiusaus.
Avatar
James Potkukelkka
Kitisijä
Viestit: 30238
Liittynyt: 23.01.2014 9:59

Re: Deep learning network ja koneäly

Viesti Kirjoittaja James Potkukelkka »

sivustahuutaja kirjoitti: 21.10.2025 10:49
James Potkukelkka kirjoitti: 21.10.2025 10:26
Mutta ongelmahan on, että iso määrä AI-labroja puskee eteenpäin täydellä vauhdilla ja voi olla, että oikeaa hetkeä eristämiselle ei huomata.
Vapaasti tietoa hankkivan superälyn hyöty voi olla liian suuri kiusaus.
Joo. Kun haet 1000 miljardin dollarin (Sic!) rahoitusta, ei ole kauheasti aikaa himmailla.

https://techcrunch.com/2025/10/14/opena ... -trillion/
Tällaista se demokratia on