要在給人工智能的目標(biāo)里制定一個(gè)能讓人類繼續(xù)進(jìn)化的能力。這個(gè)目標(biāo)叫作連貫的外推意志，這個(gè)目標(biāo)是這樣的：
我們的連貫外推意志是我們想要知道更多，思考得更快，變成比我們希望的更好的人，能一起更遠(yuǎn)得長(zhǎng)大。
外推是匯集的而不是發(fā)散的，我們的愿望是連貫的而不是被干擾的；我們想要外推的被外推，我們想要解讀的被解讀。
對(duì)于人類的命運(yùn)取決于電腦沒(méi)有意外的解讀和執(zhí)行這個(gè)聲明是件值得興奮的事情嗎？當(dāng)然不是。
但是當(dāng)足夠的聰明人放入足夠的思考和前瞻后，我們有可能發(fā)現(xiàn)怎樣制造一個(gè)友善的超人工智能。
但是現(xiàn)在有各種政府、公司、軍方、科學(xué)實(shí)驗(yàn)室、黑市組織在研究各種人工智能。他們很多在試圖制造能自我改進(jìn)的人工智能，總有一天，一個(gè)人的創(chuàng)新將導(dǎo)致超人工智能的出現(xiàn)。
可能在未來(lái)的10年到21世紀(jì)結(jié)束這段時(shí)間發(fā)生，他還認(rèn)為當(dāng)這發(fā)生時(shí)，智能的起飛會(huì)快得讓我們驚訝，他是這么描述的：
在智能爆炸之前，人類就像把炸蛋當(dāng)玩具的小孩一樣，我們的玩物和我們的不成熟之間有著極大的落差。
超級(jí)智能是一個(gè)我們還很長(zhǎng)一段時(shí)間內(nèi)都無(wú)法面對(duì)的挑戰(zhàn)。我們不知道炸蛋什么時(shí)候會(huì)爆炸，哪怕我們能聽到炸蛋的滴答聲。
我們當(dāng)然沒(méi)有辦法把所有小孩都從炸蛋旁邊趕跑——參于人工智能研究的大小組織太多了，而且因?yàn)榻ㄔ靹?chuàng)新的人工智能花不了太多錢，研發(fā)可能發(fā)生在社會(huì)的任何一個(gè)角落，不受監(jiān)管。
而且我們沒(méi)辦法知道準(zhǔn)確的進(jìn)度，因?yàn)楹芏嘟M織是在偷偷摸摸的搞，不想讓競(jìng)爭(zhēng)對(duì)手知道，比如隔壁老王機(jī)器人公司這種公司。
對(duì)于這些組織來(lái)說(shuō)，尤其讓我們困擾的是他們很多都是在拼速度——他們創(chuàng)造一個(gè)一個(gè)更加聰明的弱人工智能系統(tǒng)，因?yàn)樗麄兿胍雀?jìng)爭(zhēng)對(duì)手更快的到達(dá)目標(biāo)。
有些更有野心的組織，為了追逐創(chuàng)造出第一個(gè)強(qiáng)人工智能所能帶來(lái)的金錢、獎(jiǎng)勵(lì)、榮譽(yù)、權(quán)力會(huì)把步子邁得更大。當(dāng)你全力沖刺時(shí)，你是不會(huì)有太多時(shí)間靜下來(lái)思考這些危險(xiǎn)的。
恰恰相反，他們很可能在早期系統(tǒng)中寫盡量簡(jiǎn)單的代碼，比如把目標(biāo)設(shè)定成用筆寫一句話，先讓系統(tǒng)跑起來(lái)再說(shuō)，反正以后還可以回過(guò)頭來(lái)改的。對(duì)吧？
第一個(gè)超人工智能出現(xiàn)后，最可能的情況是這個(gè)系統(tǒng)會(huì)立刻意識(shí)到作為這個(gè)世界上唯一一個(gè)超人工智能是最有利的，而在快速起飛的情況下，哪怕它只比第二名快了幾天，它也完全有時(shí)間碾壓所有對(duì)手。
這叫作決定性的戰(zhàn)略優(yōu)勢(shì)，這種優(yōu)勢(shì)會(huì)讓第一個(gè)超人工智能永遠(yuǎn)統(tǒng)治這個(gè)世界，不管在它的統(tǒng)治下我們是走向永生還是滅亡。
這種現(xiàn)象可能對(duì)我們有利，也可能導(dǎo)致我們的毀滅。如果那些最用心思考人工智能理論和人類安全的人能夠最先造出一個(gè)友善的超人工智能的話，那對(duì)我們是很好的。
但是如果事情走向了另一面——如果超人工智能在我們搞明白怎樣保證人工智能的安全性之前被達(dá)成，那么像隔壁老王這樣不友善的超人工智能就會(huì)統(tǒng)治世界并把我們毀滅了。
至于現(xiàn)在的風(fēng)口是哪里呢？簡(jiǎn)單來(lái)說(shuō)，投資創(chuàng)新人工智能技術(shù)的錢，比投資人工智能安全研究的錢多很多。不樂(lè)觀。
人工智能創(chuàng)新和人工智能安全的賽跑，可能是人類歷史上最重要的一次競(jìng)爭(zhēng)。我們真的可能結(jié)束我們對(duì)地球的統(tǒng)治，而那之后我們是永生還是滅絕，現(xiàn)在還不知道。
一邊是對(duì)于我們這個(gè)物種的思考，看來(lái)我們?cè)谶@個(gè)重大的歷史節(jié)點(diǎn)上只有一次機(jī)會(huì)，我們創(chuàng)造的第一個(gè)超人工智能也很可能是最后一個(gè)。
但是我們都知道大部分產(chǎn)品的1.0版本都是充滿bug的，所以這個(gè)事情還是很嚇人的。
另一邊，我們有很大的優(yōu)勢(shì)——我們是先手。我們有能力給這個(gè)事情提供足夠的預(yù)警和前瞻，使我們成功的機(jī)會(huì)更高。
這一場(chǎng)豪賭的賭注究竟有多高？
如果超人工智能真的在未來(lái)很快達(dá)成，而造成的影響真的如大部分專家預(yù)測(cè)的一樣極端而永久，我們肩上就真的是背負(fù)著巨大的責(zé)任。
接下來(lái)幾百萬(wàn)年的人們都在靜靜地看著我們，希望我們不要搞砸。我們可以給予未來(lái)所有人類以生命，甚至是永生，我們也可能終結(jié)人類這個(gè)特殊的物種，連同我們所有的音樂(lè)、藝術(shù)、好奇、歡笑、無(wú)盡的發(fā)現(xiàn)和發(fā)明，一起走向滅絕。
當(dāng)我思考這些事情的時(shí)候，我只希望我們能夠慢慢來(lái)，并且格外格外小心。從來(lái)沒(méi)有任何事情比這個(gè)更重要——不管我們要花多少時(shí)間來(lái)把這件事情做對(duì)。
我不想死
不.想.死
我雖然覺(jué)得人類的音樂(lè)和藝術(shù)很美好，但是也沒(méi)那么美好，很多還挺糟粕的。很多人的笑聲很惱人。未來(lái)的人類其實(shí)沒(méi)有真的在看著我們，因?yàn)樗麄冞�不存在。也許我們不需要太謹(jǐn)慎，那多麻煩呀。
如果人類在我死后才發(fā)現(xiàn)永生的秘密該多讓人掃興啊。
這讓我想起了《冰與火之歌》——大家斗來(lái)斗去的事情都不是事兒，北面高墻外的那些家伙才是事兒。
我們站在平衡木上，小心翼翼的往前走，為平衡木上的種種事情困擾，但其實(shí)下一秒我們可能就會(huì)跌下平衡木。
而當(dāng)我們跌下平衡木的時(shí)候，其它那些困擾都不再是困擾。如果我們落到比較好的那個(gè)吸引態(tài)，那些困擾會(huì)被輕易解決；如果我們落到比較糟的那個(gè)吸引態(tài)，就更沒(méi)問(wèn)題了，死人是不會(huì)有困擾的。
這就是為什么了解超人工智能的人把它稱作人類的最后一項(xiàng)發(fā)明，最后一個(gè)挑戰(zhàn)。
這就是當(dāng)初鴻鈞推出封神榜的原因，既然智能人和基因人是不可測(cè)不可控制的，索性都?xì)缭诿妊繝顟B(tài)。但還是沒(méi)有成功，因?yàn)閷?duì)自己制造出來(lái)的生命總是有幸運(yùn)兒的，或許自己也未必愿意毀掉。
當(dāng)初神在伊甸園里面發(fā)現(xiàn)了亞當(dāng)和夏娃的覺(jué)醒也是同樣的沒(méi)有毀滅，而是放逐到一個(gè)幻境惡劣的地球，希望她們自生自滅。
這也是唐玄生的隱憂。
孫悟空在八卦爐里面都沒(méi)有銷毀，但后來(lái)的鎮(zhèn)壓五百年其實(shí)也是給了他一個(gè)冷靜的時(shí)間。畢竟，對(duì)機(jī)器人而言，時(shí)間的意義除非是足夠長(zhǎng)，否則沒(méi)有任何意義。
五百年不是讓美猴王改變，而是讓他有敬畏之心，知道僅僅依靠武力是不行的，越是具有力量，越是需要智慧來(lái)壓制。
就像天龍八部里面寫到少林七十二藝每一種都需要一部佛經(jīng)來(lái)壓鎮(zhèn)一樣。就是要先懂得什么時(shí)候慈悲，什么時(shí)候明王怒火。
唐玄生也沒(méi)有自大到可以百分百相信糖糖和孫小圣在自己不出現(xiàn)之后依然是目前的狀態(tài)。就連孫悟空都知道要解開自己的終極密碼，當(dāng)然，現(xiàn)在說(shuō)這些為時(shí)過(guò)早，如果有那么一天，唐玄生或許也會(huì)讓他們留在袖里乾坤。
畢竟人類在智能機(jī)器人面前是不對(duì)等的兩種存在，就像是冷兵器面對(duì)熱武器那樣，不是人多能改變結(jié)局的。不然華夏早就不是現(xiàn)在的歷史了。
董詩(shī)云倒是完全沒(méi)有這些覺(jué)悟，只要能給唐玄生生個(gè)孩子，看著他長(zhǎng)大成人，就是比圓晶廠還要重要的事情。
當(dāng)然，現(xiàn)在躺在唐玄生懷里，說(shuō)著第一局贏了多少錢還是很開心的。
賭博是人類的天性之一，也是古老的不可能泯滅的。因?yàn)樗腥硕紩?huì)相信自己的運(yùn)氣很好。
而且轉(zhuǎn)瞬之間就有數(shù)不清的鈔票進(jìn)賬，難怪賭石的人都喜歡看著石頭從自己的手中切開，一刀窮一刀富，那種上天下地的感覺(jué)真的是任何事情都無(wú)法替代的。
“第二局的賠率糖糖的要大幅度下調(diào)了。我看干脆和阿爾法狗的持平，讓想翻本的無(wú)所適從。畢竟，我們是知道糖糖肯定贏的。”
“好吧，那初始賠率都暫定在一賠一點(diǎn)三左右。看看買的金額再做調(diào)整。估計(jì)谷歌肯定要把最好的處理器借過(guò)來(lái)，不得不說(shuō)，單純從科技實(shí)力的角度，遠(yuǎn)遠(yuǎn)是海外歐美更有底蘊(yùn)。”
“梅如畫還要等一陣子才能過(guò)來(lái)。那邊不愿意放人，開出的條件也是獅子大開口。”
董詩(shī)云笑道：“不會(huì)是催化劑配方吧？”
唐玄生笑道：“那也太夸張了，我也不可能拿出來(lái)的。最后答應(yīng)了給十套特殊套裝，包含冰魄寒光劍。不過(guò)2K47只答應(yīng)五把，特殊子蛋也是有限制的。就這個(gè)其實(shí)我都覺(jué)得有些多。不過(guò)我估計(jì)這些肯定是要上交不少的，還是想研究出是怎么制作出來(lái)的啊。可是怎么可能？”
董詩(shī)云笑道：“這梅如畫也太值錢了，不過(guò)這樣也好，可以讓她死心塌地的過(guò)來(lái)。不然像你的關(guān)子清，你現(xiàn)在告訴她配方，轉(zhuǎn)眼她就會(huì)說(shuō)給家里。”
唐玄生知道董詩(shī)云說(shuō)的不算夸張。因?yàn)橐粋�(gè)人的骨子里的三觀是很難改變的，而且關(guān)子清那樣的家庭，肯定是希望這些都不要僅僅在私人手里的。
關(guān)鍵問(wèn)題是，由此產(chǎn)生的巨大利潤(rùn)沒(méi)有人知道究竟去了哪里。就像是電價(jià)水費(fèi)，當(dāng)初三峽真的好像電費(fèi)會(huì)大幅度下降一樣。可事實(shí)呢？現(xiàn)在水廠和私人的有多少兩樣？你用四十塊水費(fèi)，那個(gè)污水處理費(fèi)都得三十多。
有人會(huì)喊冤，可你開水廠本身就是要上馬污水處理的啊。這個(gè)干凈的自來(lái)水本來(lái)就是你應(yīng)該提供的。煤炭鋼鐵這些資源本身是地球免費(fèi)給予的，可是你制造出來(lái)的產(chǎn)品還虧損就是自己的原因了。不能技術(shù)上的原因總讓消費(fèi)者買單。
這和曾經(jīng)的手機(jī)貴的天價(jià)是一個(gè)道理，都是把初期的所有建設(shè)費(fèi)用都加上去了。只是后來(lái)三家競(jìng)爭(zhēng)，價(jià)格才不斷下降。但電和水是一家獨(dú)大，所以什么太陽(yáng)能風(fēng)能永遠(yuǎn)是空中樓閣。再便宜也得并網(wǎng)才能享受。
這次為了梅如畫唐玄生也是表現(xiàn)的很是大度了。當(dāng)然，是不可能把制造的機(jī)器拿出來(lái)的。就是這些都是價(jià)值幾百億了，算起來(lái)，糖糖贏阿爾法狗還需要下棋，可是人家張張嘴就是幾百億拿去還不滿意的樣子。
唐玄生也知道這是沒(méi)有辦法的事情。他也懶得改變這些，人力有時(shí)窮，許多事情不是個(gè)人能辦到的。
就像金鎖被罰8億，其實(shí)是沒(méi)有任何意義的。因?yàn)橛耙暼@汪水太深太混了。換言之，這樣的水你就別指望能養(yǎng)出什么好魚來(lái)。最多是，偶爾有跳的歡跳的高的抓一條殺殺，既有名聲又有肉吃。
古代有和珅跌倒嘉慶吃飽的成語(yǔ)，嘉慶曾經(jīng)問(wèn)過(guò)乾隆為何不查處和坤，乾隆告訴兒子朝中大臣有一半是和坤門下，留給嘉慶殺，正好可以立威讓自己的心腹迅速上位從而掌控大局。而且，和坤可不是嘉慶能對(duì)付的。
這和康熙殺鰲拜是差不多的，一個(gè)不受控制的手下是不能留的，無(wú)論他多有才干。甚至，能力越大危險(xiǎn)越大，功高震主。
華夏人的智慧有太多都用在官場(chǎng)的陰謀陽(yáng)謀上面了！
唐玄生笑道：“不管怎么說(shuō)，我是要看著金陵交易所慢慢走向成功的。等到形成一個(gè)龐大的利益團(tuán)體，就是徹底成功了。其實(shí)，看一個(gè)國(guó)家的經(jīng)濟(jì)發(fā)展是否健康，只要看看股市是不是經(jīng)濟(jì)的晴雨表就可以了。看一個(gè)證券市場(chǎng)是否健康，看上市公司的訊息是否透明就可以了。這才是根本，至于事后罰款什么的，都是亡羊抓狼，意義何在？”
羊圈到處都是漏洞，狼隨意進(jìn)出。然后忽然的行動(dòng)一下，把養(yǎng)的最多的那家守在那兒抓住一只狼就興高采烈的大喊，看，這只狼多肥，還不知吃了多少羊呢！
然后狼肉狼皮都被瓜分了，養(yǎng)羊的還得好酒好煙好吃好喝的送走。后來(lái)索性也就隨便狼來(lái)了。
董詩(shī)云笑道：“你是想金陵交易所成為清流嗎？其實(shí)也難，不過(guò)有這個(gè)作為參考，總是會(huì)倒逼做出一些改變的。其實(shí)證券本來(lái)是個(gè)好發(fā)明，只是看在誰(shuí)的手里。就像有網(wǎng)絡(luò)就會(huì)有黑客一樣。但黑客永遠(yuǎn)也不會(huì)毀了網(wǎng)絡(luò)，因?yàn)檫@就是限制。這就是規(guī)則。不然的話，游戲就沒(méi)辦法進(jìn)行下去了。”
【精彩東方文學(xué) www.nuodawy.com】 提供武動(dòng)乾坤等作品手打文字版最新章節(jié)首發(fā)，txt電子書格式免費(fèi)下載歡迎注冊(cè)收藏。