Ha hozzám akarsz jönni, akkor a legjobb, ha helyes vagy, vagy megcsapjam a gyenge kis érvüket, mint egy labdával játszó macska.

Először elolvastam.

Másodszor, elfelejtettem több tudományos munkát az AI-ről, mint az egész életében.

Harmadszor, egy irreleváns hatósághoz fordulsz, aki pop filozófiai könyvet írt. Nagyon élveztem a sci-fi-nak fenségét, és erről szól. Ne gyere hozzám logikai tévedéseidkel.

Negyedszer, ha olyan embereket olvas, akik ténylegesen AI-n dolgoznak, akkor tudnád, hogy az AI nem működik semmi olyan, mint amit leírt, és a Bostrom felmérést végez arról, hogy mi az emberek véleménye szerint nem tudományos elemzés. Ez egy vicc. Még azok a freaking srácok is, akik az OpenAI-nál a Musknál dolgoztak, nem vásárolják meg a szuperintelligenciát, mindannyiunkat megölnek.

Íme, amit a tényleges AI kutatóknak mondaniuk kellett a Bostromról és arra a kérdésre, hogy mikor jár a szuper intelligencia:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

„Út, út, út több mint 25 év. Századok valószínűleg. De nem soha.

„Versenyezzünk az emberi agy millió éves fejlődésével. Írhatunk olyan egycélú programokat, amelyek képesek versenyezni az emberekkel, és néha kiválóságra képesek, de a világ nincs szépen felosztva az egyproblémás kérdésekre. ”

„Nick Bostrom egy profi pánikember. Intézetének feladata az emberiséget érintő egzisztenciális fenyegetések felkutatása. Mindenhol látja őket.

Az emberek már álmodtak egzisztenciális fenyegetésekről, mióta kúszottunk ki a mocsárból. Először mennydörgés volt. Akkor az Eső Isten dühös lett ránk, ha nem táncolnánk, ha a mező a megfelelő időben feláldozott egy kecskét. Aztán repedt teknőshéjak, amelyek azt mondták a császárnak, hogy valami rossz történni fog. Akkor az iparosodás volt. Szeretjük a nagy feltűnő fenyegetéseket. Most van szuper-AI.

Ha szeretne egy népszerű könyvet írni, akkor csak válasszon bármilyen egzisztenciális fenyegetést, legyen az idegenek, meteorok, ha Isten dühös ránk vagy a szuperintelligens AI, és eladhatja millió idióta számára. De itt nem adhatja el azt a szarot, és úgy beszélhet, mintha tudományos kutatás lenne. Ez nem. Ez egy végvégnapi kultusz. És nem új, nem számít, hogyan öltözted be álszeredetű kutatásokba és domain-specifikus nyelvekbe, amelyek intelligensnek érzik magukat, mint te. Ez egy lépéssel feljebb a mennyország kapujától.

Félelemtől függő lények vagyunk, és ha eladni akarja a félelmet, akkor mindig vásárlókat talál. Ennek oka van, hogy Steven King a világ egyik legnagyobb írója.

Ötödször, hogyan javasolja a létező probléma megoldását? Jogszabályok? Biztos vagyok benne, hogy Kína szarul veszi ezt a törvényt, és nem folytatja annak folytatását. Biztos vagyok benne, hogy a szuperintelligens AI-k is törődnek vele, ha a jelenetre megjelennek.

Hatodszor, miközben a távoli egzisztenciális fenyegetések miatt aggódik, amelyek nem valósak, valódi AI-kkel börtönbe helyezzük az embereket, eldönthetjük, hogy kölcsönt kapunk-e vagy sem, és autót vezetünk. Ideje aggódni azokra a valódi problémákra, amelyekkel most már foglalkozhatunk, ahelyett, hogy fantasztikus problémákkal küszködnénk, amelyeknek nincs megoldása, és csak a félelmi hibát táplálják.