1、「機(jī)器問題」重現(xiàn)

從最初的屢屢失敗，到現(xiàn)在的朝氣蓬勃，人工智能會(huì)導(dǎo)致大面積失業(yè)甚至讓人類滅絕嗎?或許歷史會(huì)給我們一些有用的線索。

有些人害怕機(jī)器會(huì)搶走所有人的工作，而只是有選擇地讓少數(shù)人受益，并最終徹底顛覆社會(huì)。然而在歷史上，類似的一幕曾出現(xiàn)過。

兩個(gè)世紀(jì)前，工業(yè)化的浪潮席卷英國(guó)，與今天同樣的擔(dān)憂曾引發(fā)了激烈的爭(zhēng)論。那個(gè)時(shí)候，人們不說「工業(yè)革命」而大談「機(jī)器問題(machinery question)」。1821年，經(jīng)濟(jì)學(xué)家 David Ricardo 第一個(gè)表達(dá)了這種看法，他重點(diǎn)關(guān)注「機(jī)器對(duì)于不同社會(huì)階層的利益的影響」，特別是「勞動(dòng)階級(jí)懷有的意見，他們認(rèn)為使用機(jī)器通常會(huì)不利于他們的利益」。

1839年，Thomas Carlyle (蘇格蘭哲學(xué)家，被看作是那個(gè)時(shí)代最重要的社會(huì)評(píng)論員)對(duì)所謂「機(jī)械惡魔(demon of mechanism)」予以了抨擊 ，他寫道，「機(jī)械惡魔」破壞性的能力將會(huì)擾亂整個(gè)工人團(tuán)體。

現(xiàn)在，這個(gè)「機(jī)器問題」卷土重來，雖然它偽裝成了另外一副樣子——人工智能(AI)技術(shù)正突飛猛進(jìn)，機(jī)器得以執(zhí)行曾經(jīng)只有人才能勝任的各種任務(wù)。科學(xué)家，經(jīng)濟(jì)學(xué)家和哲學(xué)家正在熱議人工智能技術(shù)的潛在影響。這種影響可能是非常深刻的。

因?yàn)槿斯ぶ悄芗夹g(shù)，之前看起來不可能自動(dòng)化的工作——從放射科到法律工作——現(xiàn)在也同樣面臨著危機(jī)。

2013年， 牛津大學(xué)的 Carl Benedikt Frey 和 Michael Osborne 進(jìn)行了一次調(diào)查研究，其結(jié)果后來被人們廣泛引用，該研究發(fā)現(xiàn)美國(guó)有 47% 的工作有很高的可能性會(huì)在不久后被「計(jì)算機(jī)資本取代」。

更近的一個(gè)報(bào)告是：美國(guó)美林銀行預(yù)測(cè)，2025 年以前，人工智能的「每年產(chǎn)生的創(chuàng)造性破壞的影響」可能會(huì)達(dá)到14到33萬億美元，其中包括因人工智能實(shí)現(xiàn)了知識(shí)工作自動(dòng)化，導(dǎo)致雇傭成本減少的9萬億美元，制造業(yè)和醫(yī)療護(hù)理開銷減少的8萬億美元，以及部署無人駕駛汽車和無人機(jī)后因效率提升增加的兩萬億美元。

智囊機(jī)構(gòu)麥肯錫全球研究院(McKinsey Global Institute)說，人工智能正在促進(jìn)社會(huì)發(fā)生轉(zhuǎn)變，這種轉(zhuǎn)變比工業(yè)革命「發(fā)生的速度快 10 倍，規(guī)模大 300 倍，影響幾乎大3000倍」。

跟兩個(gè)世紀(jì)前的人們一樣，很多人擔(dān)心機(jī)器會(huì)讓幾百萬人下崗，引發(fā)不平等問題和社會(huì)動(dòng)亂。Martin Ford 曾寫過兩本關(guān)于自動(dòng)化威脅的暢銷書，他擔(dān)心中產(chǎn)階級(jí)的工作將會(huì)消失，經(jīng)濟(jì)流動(dòng)性將(即個(gè)人，家庭或團(tuán)體提高經(jīng)濟(jì)水平的難易程度)停止，財(cái)閥們會(huì)「將自己關(guān)在封閉式小區(qū)或精英城市里，還可能有自動(dòng)化軍事機(jī)器人和無人機(jī)在旁保護(hù)。」

還有人則擔(dān)心，人工智能會(huì)威脅人類的生存，因?yàn)槌?jí)智能計(jì)算機(jī)可能不會(huì)認(rèn)同人類的目標(biāo)，轉(zhuǎn)而攻擊創(chuàng)造它們的人類。很多人表達(dá)過這類擔(dān)憂，比如物理學(xué)家史蒂芬·霍金。更讓人驚訝的是，伊隆·馬斯克，火箭公司 SpaceX 和 電動(dòng)汽車制造商 Tesla 的創(chuàng)始人，也有同樣的想法。

與 Carlyle 相似，馬斯克警告人類：「我們正在用人工智能召喚惡魔?！顾奶厮估嚳梢岳米钚碌娜斯ぶ悄芗夹g(shù)實(shí)現(xiàn)自動(dòng)行駛，但馬斯克卻擔(dān)心未來的人工智能霸主可能會(huì)太過強(qiáng)大，失去人類的控制。他說：「馬可·奧勒留(羅馬帝國(guó)賢君)當(dāng)國(guó)王挺好的，但如果國(guó)王是卡利古拉(羅馬帝國(guó)早期的典型暴君)情況就不太樂觀了?！?/p>

有人看到風(fēng)險(xiǎn)，有人洞見機(jī)遇。投資者正在不斷涌入這個(gè)領(lǐng)域，科技巨頭們則在不斷收購人工智能創(chuàng)業(yè)公司，并爭(zhēng)先吸引學(xué)術(shù)界最優(yōu)秀的研究人才。

根據(jù)數(shù)據(jù)分析公司 Quid 的研究數(shù)據(jù)，在2015年，人工智能企業(yè)的成本創(chuàng)下85億美元的記錄，幾乎為2010年的四倍。投資公司 Playfair Capital 的 Nathan Benaich

說，2015 年人工智能企業(yè)的投資輪數(shù)比上一年多16%，而與此同時(shí)科技產(chǎn)業(yè)整體投資輪數(shù)減少了3%。Playfair Capital 是一家基金管理機(jī)構(gòu)，該公司在人工智能的投資組合達(dá)到 25%?！竂X+人工智能」取代了「XX行業(yè)的Uber」，成為創(chuàng)業(yè)公司默認(rèn)的商業(yè)模式。

谷歌，F(xiàn)acebook，IBM，亞馬遜和微軟都想方設(shè)法在云端建立人工智能服務(wù)的生態(tài)系統(tǒng)?！高@項(xiàng)技術(shù)將會(huì)用在各行各業(yè)中，只要這個(gè)行業(yè)有任意種類的數(shù)據(jù)，圖像，語言等數(shù)據(jù)類型都可以?！筂etaMind 的創(chuàng)始人 Richard Socher 說，「人工智能將遍地開花。」MetaMind 是一家人工智能創(chuàng)業(yè)公司，最近被云計(jì)算巨頭 Salesforce 收購。

這意味什么?本篇特別報(bào)道將會(huì)審視這項(xiàng)新科技的崛起，探索它對(duì)工作，教育，政策的潛在影響，思考它在道德和監(jiān)管方面的作用。同時(shí)，本文還思考了能從機(jī)器問題最初的答案中學(xué)到的東西。AI 引發(fā)的擔(dān)憂和熱情不相上下，同時(shí)帶來了很多問題，然而值得記住的是，其中的很多問題我們?cè)谝郧岸荚鴨栠^，并已經(jīng)有了答案。

2、技術(shù)：從無法工作到神經(jīng)網(wǎng)絡(luò)

人工智能的繁榮基于傳統(tǒng)與現(xiàn)代想法的結(jié)合。

人工智能如何從剛開始的傲慢與失望，突然成為科技界最熱門的領(lǐng)域呢?人工智能(artificial intelligence)這個(gè)術(shù)語最早被寫在 1956 年的一份研究計(jì)劃中，該計(jì)劃聲稱「如果一個(gè)精心挑選的科學(xué)家小組花一個(gè)夏天一起研究，就能使機(jī)器解決各種人類無法解決的問題……」，從而實(shí)現(xiàn)重大的進(jìn)步。

那被證明只是瘋狂過度地樂觀，人工智能雖然偶有突破，但其承諾的遠(yuǎn)比其所能提供的多得多。最終，大多研究者都避免使用這個(gè)術(shù)語，而更喜歡用「專家系統(tǒng)」或「神經(jīng)網(wǎng)絡(luò)」。現(xiàn)在「人工智能」的名譽(yù)恢復(fù)和重新興起要追溯到 2012 年被稱為 ImageNet 挑戰(zhàn)賽的在線競(jìng)賽。

ImageNet 是一個(gè)擁有數(shù)百萬張圖片的在線數(shù)據(jù)庫，所有圖片都有人工做的標(biāo)簽。對(duì)于任何給定詞，例如「氣球」或「草莓」，ImageNet 里都能找到上百張對(duì)應(yīng)的圖片。每年的 ImageNet 競(jìng)賽鼓勵(lì)該領(lǐng)域的人在計(jì)算機(jī)識(shí)別和自動(dòng)標(biāo)記圖片上進(jìn)行比賽，并衡量他們的進(jìn)展。

這些系統(tǒng)首先使用被正確標(biāo)記的圖片集進(jìn)行訓(xùn)練，然后挑戰(zhàn)標(biāo)記之前沒見過的測(cè)試圖片。在后續(xù)的研討會(huì)上，優(yōu)勝者會(huì)分享并討論他們的技術(shù)。2010 年獲勝的系統(tǒng)可以正確標(biāo)記 72% 的圖片(人類平均有 95% 的準(zhǔn)確率)。

2012 年，多倫多大學(xué)的 Geoff Hinton 帶領(lǐng)的團(tuán)隊(duì)實(shí)現(xiàn)了 85% 的準(zhǔn)確率，這要?dú)w功于一項(xiàng)叫「深度學(xué)習(xí)」的新技術(shù)。這帶來了一種長(zhǎng)遠(yuǎn)快速的改進(jìn)，在2015 年的 ImageNet 競(jìng)賽上，一個(gè)深度學(xué)習(xí)系統(tǒng)以 96% 的準(zhǔn)確率第一次超過了人類。

2012 年的成果被認(rèn)為是一項(xiàng)突破，但 Yoshua Bengio 說，他們依靠的是「結(jié)合以前已經(jīng)有了的東西。」Yoshua Bengio 是蒙特利爾大學(xué)的計(jì)算機(jī)科學(xué)家，他與 Hinto 以及另外幾個(gè)人被稱為深度學(xué)習(xí)的先驅(qū)。大體上，這項(xiàng)技術(shù)使用了大量的計(jì)算和訓(xùn)練數(shù)據(jù)，對(duì)來自人工智能發(fā)展初期的一個(gè)舊思路進(jìn)行改進(jìn)，這個(gè)舊思路也就是人工神經(jīng)網(wǎng)絡(luò)(ANN)——這是生物學(xué)啟發(fā)的人工神經(jīng)元(腦細(xì)胞)網(wǎng)絡(luò)。

在生物大腦中，每個(gè)神經(jīng)元都能被其它神經(jīng)元觸發(fā)，將輸出的信號(hào)饋送給另一個(gè)神經(jīng)元，而且此神經(jīng)元的輸出也能繼續(xù)觸發(fā)其它神經(jīng)元。一個(gè)簡(jiǎn)單的 ANN 網(wǎng)絡(luò)有一個(gè)輸入神經(jīng)元層，在這里數(shù)據(jù)被饋送進(jìn)網(wǎng)絡(luò)中;還有一個(gè)輸出層輸出結(jié)果，中間可能還會(huì)有三兩個(gè)隱藏層對(duì)信息進(jìn)行處理(實(shí)際中，ANN 網(wǎng)絡(luò)全部在軟件中模擬)。

網(wǎng)絡(luò)中的每一個(gè)神經(jīng)元都有一系列的「權(quán)重」和一個(gè)「激活函數(shù)」控制著輸出的信號(hào)發(fā)射。訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)涉及到對(duì)神經(jīng)元權(quán)重的調(diào)整，以便一個(gè)給定的輸入產(chǎn)生期望的輸出。

ANN 在 20 世紀(jì) 90 年代早些時(shí)候就已經(jīng)實(shí)現(xiàn)了一些有用的結(jié)果，例如識(shí)別手寫數(shù)字。但在完成更為復(fù)雜的任務(wù)上，ANN 陷入了困境。

在過去的十幾年中，新技術(shù)的出現(xiàn)和對(duì)激活函數(shù)的一種簡(jiǎn)單調(diào)整使得訓(xùn)練深度網(wǎng)絡(luò)變得可行。同時(shí)，互聯(lián)網(wǎng)的興起產(chǎn)生了數(shù)十億可用于目標(biāo)訓(xùn)練的文檔、圖片、視頻數(shù)據(jù)。這所有的一切都需要大量的數(shù)字操作能力，而 2009 年左右當(dāng)幾個(gè)人工智能研究團(tuán)體意識(shí)到個(gè)人計(jì)算機(jī)和視頻游戲機(jī)上用于生成精致畫面的 GPU 也同樣適用于運(yùn)行深度學(xué)習(xí)算法之后，計(jì)算能力也不再是個(gè)問題了。

斯坦福大學(xué)由吳恩達(dá)帶領(lǐng)的一個(gè)人工智能團(tuán)隊(duì)發(fā)現(xiàn) GPU 能夠幾百倍地加速深度學(xué)習(xí)系統(tǒng)。然后，訓(xùn)練一個(gè)四層的神經(jīng)網(wǎng)絡(luò)突然就變得很快了，由之前需要花費(fèi)幾周的時(shí)間變成了不到一天時(shí)間。GPU 生產(chǎn)商 NVIDIA 的老總黃仁勛說這是一個(gè)令人高興的對(duì)稱：GPU 這一游戲工作者用于為游戲玩家構(gòu)建幻想世界的芯片也能用于幫助計(jì)算機(jī)通過深度學(xué)習(xí)理解真實(shí)世界。

ImageNet 的結(jié)果顯示了深度學(xué)習(xí)的能力。突然間，深度學(xué)習(xí)就獲得了關(guān)注——不只是在人工智能界，而是在整個(gè)科技產(chǎn)業(yè)界內(nèi)!深度學(xué)習(xí)系統(tǒng)因此變得更加的強(qiáng)大：20 或 30層的網(wǎng)絡(luò)變得很常見，微軟的研究人員曾建立過 152 層的網(wǎng)絡(luò)。更深層的網(wǎng)絡(luò)能進(jìn)行更高水平的抽象并產(chǎn)生更好的結(jié)果，事實(shí)證明這些網(wǎng)絡(luò)擅長(zhǎng)解決眾多領(lǐng)域的難題。

「讓人們激動(dòng)的是這一領(lǐng)域的一種學(xué)習(xí)方法：深度學(xué)習(xí)，能夠應(yīng)用于眾多不同的領(lǐng)域，」谷歌機(jī)器智能研究部門負(fù)責(zé)人、如今負(fù)責(zé)搜索引擎的 John Giannandrea 表示，谷歌正在使用深度學(xué)習(xí)提升其網(wǎng)頁搜索結(jié)果的質(zhì)量、理解智能手機(jī)端的口語指令、幫助人們?cè)谒麄兊恼掌兴阉魈囟ǖ膱D片、推薦電子郵件的自動(dòng)回復(fù)、改善網(wǎng)頁的翻譯服務(wù)，并且?guī)椭鼈兊淖詣?dòng)駕駛汽車?yán)斫庵車h(huán)境。

學(xué)習(xí)如何學(xué)習(xí)

深度學(xué)習(xí)有很多不同的方式。最普遍使用的是「監(jiān)督學(xué)習(xí)(supervised learning)」，這項(xiàng)技術(shù)能使用標(biāo)記樣本集訓(xùn)練系統(tǒng)。例如，過濾垃圾郵件：收集出郵件信息樣本的大數(shù)據(jù)集，每一個(gè)都標(biāo)上「垃圾郵件」或者「非垃圾郵件」。

一個(gè)深度學(xué)習(xí)系統(tǒng)能夠使用這些數(shù)據(jù)集進(jìn)行訓(xùn)練，重復(fù)的進(jìn)行樣本訓(xùn)練進(jìn)而調(diào)整神經(jīng)網(wǎng)絡(luò)內(nèi)的權(quán)重，提高評(píng)定垃圾郵件的準(zhǔn)確率。這一方法的巨大優(yōu)點(diǎn)是不需要人類專家寫出規(guī)則列表，也不需要程序員用代碼編寫這些規(guī)則，系統(tǒng)能直接從有標(biāo)簽的數(shù)據(jù)中進(jìn)行學(xué)習(xí)。

使用有標(biāo)簽數(shù)據(jù)訓(xùn)練系統(tǒng)也被用于圖片分類、語音識(shí)別、信用卡交易欺詐偵測(cè)、垃圾和惡意軟件識(shí)別以及廣告定位，所有這些應(yīng)用領(lǐng)域中的正確答案都可通過之前的大量案例獲得。

Facebook 能在你上傳一張照片后識(shí)別、標(biāo)記照片里你的朋友和家人，它們近期還發(fā)布了一個(gè)能夠?yàn)槊と嗣枋稣掌械膬?nèi)容(比如兩個(gè)人、微笑、太陽眼鏡、戶外、水等)的系統(tǒng)。有大量的數(shù)據(jù)可用于監(jiān)督學(xué)習(xí)，吳恩達(dá)先生說，這一科技的應(yīng)用已經(jīng)使現(xiàn)在的金融服務(wù)領(lǐng)域、計(jì)算安全領(lǐng)域和銷售領(lǐng)域的公司將自己重新標(biāo)記為了人工智能公司。

另一項(xiàng)技術(shù)是無監(jiān)督學(xué)習(xí)(unsupervised learning)，其通過將網(wǎng)絡(luò)暴露在大量樣本中來對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，但不會(huì)告訴它要尋求什么模式。相反，該網(wǎng)絡(luò)學(xué)習(xí)識(shí)別相似樣本的特征和聚類，從而揭示數(shù)據(jù)中的隱藏分組、連接和模式。

無監(jiān)督學(xué)習(xí)能在你不知道會(huì)是什么樣的情況下被用于事物搜索：例如，監(jiān)控網(wǎng)絡(luò)中反常的通信模式，那可能代表著網(wǎng)絡(luò)攻擊;或檢查大量的保險(xiǎn)聲明以檢測(cè)新類型的詐騙方式。

一個(gè)經(jīng)典的案例：2011 年當(dāng)吳恩達(dá)在谷歌工作時(shí)，他領(lǐng)導(dǎo)的一個(gè)名為谷歌大腦(Google Brain)項(xiàng)目中的一個(gè)大型的無監(jiān)督學(xué)習(xí)系統(tǒng)本是用于在千部無標(biāo)記 YouTube 視頻中發(fā)現(xiàn)共同模式。一天，吳恩達(dá)的一個(gè)博士生給了他一個(gè)驚喜。吳恩達(dá)回憶說「我記得他把我叫道他的電腦前說，『看這個(gè)』」，電腦屏幕上是一個(gè)毛茸茸的面孔，從數(shù)千的樣本中發(fā)現(xiàn)的模式。系統(tǒng)發(fā)現(xiàn)了貓。

強(qiáng)化學(xué)習(xí)位于監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)之間，它涉及到訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)與只以獎(jiǎng)勵(lì)作為偶然的反饋的環(huán)境進(jìn)行交互。本質(zhì)上，訓(xùn)練涉及到調(diào)整網(wǎng)絡(luò)的權(quán)重，從而獲得能帶來更高獎(jiǎng)勵(lì)的搜索策略。

DeepMind 是這個(gè)領(lǐng)域的專家。2015 年 2 月，它們?cè)?Nature 上發(fā)表的一篇論文描述了一個(gè)能夠?qū)W習(xí)玩 49 種經(jīng)典的 Atari 視頻游戲的強(qiáng)化學(xué)習(xí)系統(tǒng)，它只使用屏幕上的像素和游戲分?jǐn)?shù)作為輸入，輸出則連接到一個(gè)虛擬的控制器上。這個(gè)系統(tǒng)從頭學(xué)起玩游戲，最終在其中 29 種游戲中達(dá)到或超過了人類水平。

把系統(tǒng)游戲化

電子游戲是人工智能研究的理想訓(xùn)練場(chǎng)，DeepMind 的 Demis Hassabis 說，因?yàn)椤杆鼈兪钦鎸?shí)世界的縮影，但更純凈和約束化。」 游戲引擎也可以輕松生成大量訓(xùn)練數(shù)據(jù)。Hassabis 先生以前從事過電子游戲行業(yè)的工作，后來取得了認(rèn)知神經(jīng)學(xué)的博士學(xué)位并創(chuàng)立了 DeepMind。這家公司現(xiàn)位于倫敦國(guó)王十字車站附近，相當(dāng)于谷歌的人工智能研究分部。

今年三月，AlphaGo 于首爾的五輪比賽中打敗了世界頂尖圍棋選手李世石，作為開發(fā)公司的 DeepMind 因此登上頭條。AlphaGo 是一個(gè)有著獨(dú)特特性的強(qiáng)化學(xué)習(xí)系統(tǒng)。它由幾個(gè)相互連通的模塊組成，包括兩個(gè)深度神經(jīng)網(wǎng)絡(luò)，它們各有所長(zhǎng)——像人腦中模塊一樣。

其中一個(gè)通過大量的棋局分析訓(xùn)練提出一些可能的走法，另一個(gè)網(wǎng)絡(luò)則負(fù)責(zé)根據(jù)隨機(jī)采樣技術(shù)來評(píng)估這些走法。這個(gè)系統(tǒng)把生物啟發(fā)的技術(shù)與純機(jī)器化的技術(shù)結(jié)合了起來。人工智能研究者們就哪種技術(shù)更優(yōu)越這個(gè)問題已經(jīng)爭(zhēng)論了幾十年，而 AlphaGo 卻另辟蹊徑兩者都用?！高@是一個(gè)復(fù)合型系統(tǒng)，因?yàn)槲覀冋J(rèn)為解決智能問題只有深度學(xué)習(xí)是不夠的」，Hassabis說。

他和其他研究者們已經(jīng)開始探尋一種叫做遷移學(xué)習(xí)(transfer learning)的新技術(shù)了。這種技術(shù)能讓強(qiáng)化學(xué)習(xí)系統(tǒng)把基礎(chǔ)建立在已習(xí)得的知識(shí)上，而不用每一次都從頭開始訓(xùn)練。Hassabis 先生解釋道，人類可以毫不費(fèi)力地做到這一點(diǎn)。Giannandrea 先生回憶起他四歲的女兒已經(jīng)能辨別出 penny-farthing(一種前輪大后輪小的腳踏車)就是一種自行車，即使她之前從沒見過這樣的東西。「但計(jì)算機(jī)無法做到，」他說。

一家最近被 Salesforce 收購的初創(chuàng)公司 MetaMind 也在研發(fā)一種相關(guān)的技術(shù)——多任務(wù)學(xué)習(xí)(multitask learning)，這種系統(tǒng)用同樣的神經(jīng)網(wǎng)絡(luò)架構(gòu)解決多種不同的問題，在一件事情上獲得的經(jīng)驗(yàn)?zāi)苡脕砀玫亟鉀Q其它事情。跟 DeepMind 類似，它也在探尋模塊化的架構(gòu);其中一個(gè)被稱為「動(dòng)態(tài)記憶網(wǎng)絡(luò)(dynamic memory network)」的系統(tǒng)能消化一系列陳述，然后回答相關(guān)問題，并且推斷出其中的邏輯聯(lián)系(Kermit 是一只青蛙;青蛙是綠色的;所以 Kermit 是綠色的)。

MetaMind 還把自然語言網(wǎng)絡(luò)和圖像識(shí)別網(wǎng)絡(luò)融合到一個(gè)系統(tǒng)中，它可以回答有關(guān)圖像的問題(「這里面的汽車是什么顏色的」)。這種技術(shù)可以用到智能客服聊天機(jī)器人中，或者用于 Salesforce 的客戶呼叫中心。

過去，很多有前景的人工智能技術(shù)發(fā)展都會(huì)逐漸疲軟。但深度學(xué)習(xí)卻不同?！高@東西真的能起作用，」 MetaMind 的 Richard Socher 說。人們每天都會(huì)用到它，雖然他們并未意識(shí)到。Hassabis、Socher和其他人的長(zhǎng)遠(yuǎn)目標(biāo)是開發(fā)出「通用人工智能(AGI )」—一種能完成各種各樣任務(wù)的系統(tǒng)，有了它就不必再為每個(gè)特定問題都專門開發(fā)出一個(gè)系統(tǒng)了。

人工智能多年來的研究方向都集中在解決專業(yè)化的特定問題上，Socher先生說，但現(xiàn)在研究人員們「正努力用更先進(jìn)的樂高積木塊拼出不一樣的東西」。即使他們中最樂觀的人也認(rèn)為還需至少十年才能做出人類智力水平的 AGI 。但 Hassabis 說，「我們認(rèn)為我們已經(jīng)知道實(shí)現(xiàn)接近 AGI 的系統(tǒng)所需的幾十種關(guān)鍵元素了」。

同時(shí)人工智能已經(jīng)在發(fā)揮作用了，而且很快會(huì)更有用。例如谷歌的智能回復(fù)系統(tǒng)，它通過兩個(gè)神經(jīng)網(wǎng)絡(luò)推薦郵件回復(fù)，從研究項(xiàng)目到產(chǎn)品上線只用了四個(gè)月(雖然剛開始它因?yàn)閷?duì)每條信息建議回復(fù)的有「我愛你」而令人失望)。

「在科研期刊上發(fā)表文章剛一個(gè)月，就有某個(gè)公司正確使用你的系統(tǒng)了，」Socher 說。人工智能公司，不論規(guī)模大小都能都能定期發(fā)表學(xué)術(shù)文章;人工智能研究者即使在轉(zhuǎn)行進(jìn)入公司后也能繼續(xù)在同行評(píng)議期刊上發(fā)表研究成果。很多人都是邊為公司工作邊發(fā)表科研文章?！溉绻悴辉试S他們發(fā)表，他們就不會(huì)為你工作了，」Andreessen Horowitz 的 Chris Dixon 解釋說。

谷歌、Facebook、微軟、IBM、亞馬遜、百度以及其他公司都開源了某些深度學(xué)習(xí)軟件。部分原因是這些公司中的研究人員想要發(fā)表自己的成果，因?yàn)檫@有利于公司招募更多人才。從更現(xiàn)實(shí)的角度來看，這也是因?yàn)榇笮突ヂ?lián)網(wǎng)公司不在乎把自己的人工智能軟件公之于眾，因?yàn)樗麄冋嬲膬?yōu)勢(shì)在于能獲取大量用于訓(xùn)練的用戶數(shù)據(jù)。

一家投資基金公司 Bloomberg Beta的Shivon Zilis說，這使得他們能在某些方面占盡優(yōu)勢(shì)，但初創(chuàng)公司也在尋求打入市場(chǎng)的獨(dú)特途徑。比如無人機(jī)初創(chuàng)公司能在人群密集的地方通過模擬數(shù)據(jù)進(jìn)行飛行訓(xùn)練。而且很多訓(xùn)練數(shù)據(jù)都能從網(wǎng)上找到，孵化器公司 Y Combinator 的董事長(zhǎng) Sam Altman 說道。他注意到人類可以用有限的數(shù)據(jù)進(jìn)行學(xué)習(xí)，「這意味著大量訓(xùn)練數(shù)據(jù)并不是實(shí)現(xiàn)智能的必要條件」。像 Numenta 和 Geometric Intelligence 這樣的初創(chuàng)公司正在探索低數(shù)據(jù)依賴性的新智能系統(tǒng)。

在這股人工智能淘金熱中，公司們排著隊(duì)為參與者提供鐵鍬。出現(xiàn)最為頻繁的名字是英偉達(dá)，Dixon 先生說;似乎每一家人工智能創(chuàng)業(yè)公司都在使用它的 GPU 芯片來訓(xùn)練神經(jīng)網(wǎng)絡(luò)。GPU 能力也可從亞馬遜和微軟的云中租用。

與此同時(shí)，IBM 和谷歌則正為更快更高效地運(yùn)行人工智能軟件而設(shè)計(jì)專門的新芯片。谷歌、微軟和 IBM 也正使其語音識(shí)別、句子解析和圖像分析等人工智能服務(wù)免費(fèi)在線提供，讓創(chuàng)業(yè)公司可以結(jié)合這些開發(fā)模塊來構(gòu)建新的人工智能產(chǎn)品和服務(wù)。IBM 的 Guru Banavar 說：來自多個(gè)行業(yè)的 300 多家公司已經(jīng)使用 IBM 的 Watson 平臺(tái)開發(fā)出了人工智能驅(qū)動(dòng)的應(yīng)用，其中包括篩選應(yīng)聘者和挑選葡萄酒。

對(duì)大多數(shù)人而言，所有這些人工智能領(lǐng)域的進(jìn)步都將體現(xiàn)為他們每天都在使用的互聯(lián)網(wǎng)服務(wù)的不斷進(jìn)步。搜索引擎將得到更相關(guān)的結(jié)果;推薦將會(huì)更加準(zhǔn)確。Hassabis 預(yù)測(cè)說：幾年之內(nèi)，所有東西都將會(huì)嵌入某種程度上的智能。人工智能技術(shù)將讓計(jì)算機(jī)接口變成對(duì)話式和有預(yù)測(cè)力的，而不只是簡(jiǎn)單的菜單和按鈕。而且對(duì)話式的交互讓不能閱讀書寫和目前不能使用互聯(lián)網(wǎng)的人也能使用計(jì)算機(jī)，Bengio 說。

厚積多年，一朝薄發(fā);機(jī)器將能夠執(zhí)行之前只有人類才能完成的任務(wù)。自動(dòng)駕駛汽車正快速變得越來越好，到某個(gè)點(diǎn)時(shí)它們也許能夠取代出租車司機(jī)，至少在市中心等受控環(huán)境中可以做到。送貨無人機(jī)，不管是地上跑的還是天上飛的，類似地可以與人類送貨員競(jìng)爭(zhēng)。改進(jìn)后的視覺系統(tǒng)和機(jī)器人技術(shù)讓機(jī)器人可以碼放超市貨架和在倉庫中移動(dòng)物體。而且還給意想不到的突破留下了很多余地，Dixon 說。

其他人卻很擔(dān)心，擔(dān)憂人工智能技術(shù)會(huì)增壓特定任務(wù)中現(xiàn)有的計(jì)算機(jī)化和自動(dòng)化;就像 200 年前的蒸汽動(dòng)力一樣，讓很多工人成了多余。英國(guó)詩人 Robert Southey 宣稱 ：「蒸汽可怕地加劇著已經(jīng)正在進(jìn)行的過程，但太快了?！顾麚?dān)心「這強(qiáng)大之力的發(fā)現(xiàn)」已經(jīng)在「我們知道如何正確使用它」之前到來。許多人對(duì)今天的人工智能也這么想。

3、對(duì)工作的影響：自動(dòng)化與焦慮

更加智能的機(jī)器會(huì)導(dǎo)致大規(guī)模失業(yè)嗎?

坐在位于舊金山的一間辦公室里，Igor Barani 在屏幕上調(diào)出幾張醫(yī)學(xué)掃描結(jié)果。他是 Enlitic 公司的首席執(zhí)行官，這是一家從對(duì) X 光掃描與 CT 掃描圖像分析開始將深度學(xué)習(xí)應(yīng)用于醫(yī)療業(yè)的創(chuàng)業(yè)公司。這也是對(duì)這項(xiàng)技術(shù)的很明顯的應(yīng)用。深度學(xué)習(xí)因它在圖像識(shí)別的某些形式上有著超人的實(shí)力而聞名;大量的標(biāo)簽化訓(xùn)練數(shù)據(jù)需要消化，而它有著巨大的潛力，去讓醫(yī)療變得更加準(zhǔn)確和有效。

Barani 博士(曾經(jīng)是一位腫瘤學(xué)家)指著從三個(gè)角度拍攝的患者肺部 CT 掃影。隨著 Enlitic 的深度學(xué)習(xí)系統(tǒng)的加入，屏幕上出現(xiàn)了紅色閃爍點(diǎn)，比對(duì)它們來看是否是血管、無害的成像物體或惡性的肺部腫瘤。最終系統(tǒng)會(huì)給出一個(gè)重點(diǎn)標(biāo)注的特征以進(jìn)一步調(diào)查。

在與三個(gè)放射科專家一起合作的測(cè)試中，Enlitic 系統(tǒng)在識(shí)別惡性腫瘤上優(yōu)于人類50%，其假陰性率(沒診斷出癌癥)為零，相比之下人類則有著7%。Enlitic 的另一個(gè)系統(tǒng)，可以用來檢查 X 射線掃描來檢測(cè)腕關(guān)節(jié)骨折，并有效地超出了人類的表現(xiàn)。

在2013年廣為關(guān)注的一篇研究中，Carl Benedikt Frey 和 Michael Osborne 核查了702種職業(yè)的計(jì)算能力，并發(fā)現(xiàn)美國(guó)47%的工人都面臨著工作自動(dòng)化的風(fēng)險(xiǎn)。尤其是，他們警告說大部分運(yùn)輸業(yè)和客運(yùn)業(yè)(例如出租車司機(jī)和運(yùn)貨司機(jī))和公關(guān)類(例如接待員與保安)「都有可能會(huì)被計(jì)算機(jī)所取代」，還有許多銷售業(yè)與服務(wù)業(yè)人員(例如收銀員，柜臺(tái)人員，租賃人員，電話推銷員和審計(jì)師等)也面臨著工作被計(jì)算機(jī)取代的威脅。

他們總結(jié)道：「機(jī)器學(xué)習(xí)近期的發(fā)展會(huì)占據(jù)大量的職業(yè)分布，在近期面臨風(fēng)險(xiǎn)的職業(yè)分布廣闊?！购罄m(xù)的研究指出英國(guó)有35%的職業(yè)可能被取代(英語有許多人從事創(chuàng)業(yè)公司，也因此難以被取代)，在日本這個(gè)比例是49%。

經(jīng)濟(jì)學(xué)家正在擔(dān)心「職業(yè)兩極化」的風(fēng)險(xiǎn)，也就是說中層技術(shù)的工作(例如制造業(yè))正在消失，而低等和高等工作在擴(kuò)張。

實(shí)際上，工作可以被劃分為兩種常規(guī)職業(yè)：第一種即高薪水高技術(shù)的職業(yè)(建筑師，高級(jí)管理)，還有低薪水低技術(shù)的職業(yè)(清潔工，快餐員)。許多西方國(guó)家中層職業(yè)薪水的停滯都表現(xiàn)出自動(dòng)化已經(jīng)開始產(chǎn)生影響——盡管這與外包的影響很難區(qū)分出來，后者也取代了許多發(fā)展中國(guó)家的底薪國(guó)家中日?；墓ぷ?例如制造業(yè)和呼叫中心)。

圣路易斯聯(lián)邦儲(chǔ)備銀行發(fā)表的數(shù)據(jù)顯示，在美國(guó)，非常規(guī)認(rèn)知型工作以及非常規(guī)手工型工作自1980年后逐步增長(zhǎng)，而常規(guī)化工作則一直維持幾乎不變。隨著更多工作自動(dòng)化，這種趨勢(shì)很可能會(huì)延續(xù)下去。

在更近的例子中，自動(dòng)取款機(jī)(ATM)可能已經(jīng)有望通過接替一些日常任務(wù)來取代銀行出納員的工作，而 Bessen 指出，事實(shí)上美國(guó)每個(gè)銀行支行的出納員平均數(shù)量已經(jīng)從 1988 年的 20 人降低到了 2004 年的 13 人。

這減少了運(yùn)營(yíng)一家支行的成本，讓銀行可以開設(shè)更多支行以響應(yīng)客戶的需求。城市銀行支行的數(shù)量同期上升了 43%，所以總體上雇員的數(shù)量增加了。ATM 并沒有摧毀工作，而是改變了銀行雇員的工作組合——讓他們遠(yuǎn)離了日常任務(wù)，進(jìn)入到了機(jī)器不能做的銷售和客服領(lǐng)域。

那么誰是正確的：是認(rèn)為這一次不同于以往而機(jī)器將真正奪走所有工作的悲觀者(他們中許多是技術(shù)者類型的)，還是堅(jiān)持認(rèn)為技術(shù)終將創(chuàng)造更多工作樂觀者(大部分是經(jīng)濟(jì)學(xué)家和歷史學(xué)家)?而事實(shí)可能介于兩者之間。人工智能不會(huì)導(dǎo)致大規(guī)模失業(yè)，但它會(huì)加速與計(jì)算機(jī)相關(guān)的自動(dòng)化的趨勢(shì)，像技術(shù)改變之前做的那樣擾亂勞動(dòng)力市場(chǎng)，并要求工作者比以往更快地學(xué)習(xí)新技能。

Bessen 預(yù)計(jì)會(huì)有一次「艱難轉(zhuǎn)型」，而不是「尖銳地打破歷史」。但盡管人們表達(dá)了廣泛不同的意見，但幾乎所有人都同意這個(gè)處方：公司和政府將需要想辦法讓工作者更容易掌握轉(zhuǎn)換工作所需的新技能。這將在悲觀者看法正確的事件中提供更好的防御，同時(shí)預(yù)防比樂觀者所預(yù)計(jì)的人工智能的更快和更重大的影響。

4、教育和政策：你會(huì)失業(yè)還是變得富有?

人工智能將會(huì)給教育、福利和地緣政治的政策制定者帶來影響。

教育

2011 年 7 月，擁有多個(gè)頭銜的斯坦福大學(xué)教授 Sebastian Thrun 在 YouTube 上發(fā)布了一段短視頻，宣布他和他的同事 Peter Norvig 正在使他們的「人工智能入門(Introduction to Artificial Intelligence)」課程可以在網(wǎng)上免費(fèi)觀看。

到 10 月份該課程開始的時(shí)候，來自 190 個(gè)國(guó)家的 160,000 人報(bào)名參加了該課程。與此同時(shí)，另一位斯坦福教授吳恩達(dá)也將自己的一門關(guān)于機(jī)器學(xué)習(xí)的課程免費(fèi)發(fā)布到了網(wǎng)上，有 100,000 人參加了這個(gè)課程。這兩個(gè)課程都持續(xù) 10 周。最后，有 23,000 人完成 Thrun 的課程，13,000 人完成了吳恩達(dá)的課程。

這樣的在線課程，以及短視頻講座、學(xué)生的在線討論板塊和自動(dòng)為他們的課程成績(jī)?cè)u(píng)級(jí)的系統(tǒng)，變成了眾所周知的大規(guī)模開放式在線課程(MOOC)。2012 年，Thrun 創(chuàng)立了在線教育創(chuàng)業(yè)公司 Udacity，吳恩達(dá)也聯(lián)合創(chuàng)立了另一家在線教育創(chuàng)業(yè)公司 Coursera。

就在同一年，哈佛大學(xué)和麻省理工學(xué)院(MIT)聯(lián)合組建了 edX——一個(gè)非營(yíng)利性的 MOOC 提供組織，該組織由 MIT 人工智能實(shí)驗(yàn)負(fù)責(zé)人 Anant Agarwal 所領(lǐng)導(dǎo)。一些人認(rèn)為 MOOC 會(huì)取代傳統(tǒng)的大學(xué)教育。最初圍繞 MOOC 的炒作現(xiàn)在差不多也已經(jīng)偃旗息鼓了(盡管已有數(shù)百萬學(xué)生參加了某種形式的在線課程)，但 MOOC 的繁榮說明了在線教育的巨大潛力。

Udacity、Coursera 和 edX 都是從人工智能實(shí)驗(yàn)室涌現(xiàn)出來的，這個(gè)事實(shí)凸顯了人工智能研究社區(qū)希望對(duì)教育系統(tǒng)進(jìn)行大改的信念。Thrun 說他創(chuàng)立 Udacity 是將其作為「正在進(jìn)行的人工智能革命的解藥」——這場(chǎng)革命將催生對(duì)工作者的新型工作技能的需求。

類似地，吳恩達(dá)認(rèn)為：鑒于人工智能研究者的工作對(duì)勞動(dòng)力市場(chǎng)的潛在影響，研究者「在應(yīng)對(duì)和解決我們導(dǎo)致的問題上負(fù)有道德上的責(zé)任」;他說，Coursera 是他在這方面作出的貢獻(xiàn)。

此外，人工智能技術(shù)在教育方面有很大的發(fā)展?jié)摿?。根?jù)每一個(gè)學(xué)生的情況各自調(diào)整課程，從而實(shí)現(xiàn)最輕松最高效的學(xué)習(xí)方法「適應(yīng)性學(xué)習(xí)(Adaptive Learning)」多年前就應(yīng)該出現(xiàn)了。但新的機(jī)器學(xué)習(xí)技術(shù)可能最終有望幫助實(shí)現(xiàn)這一目標(biāo)。

吳恩達(dá)說，適應(yīng)性學(xué)習(xí)對(duì)大量學(xué)生使用同一材料進(jìn)行學(xué)習(xí)的情況最有效，因?yàn)檫@樣可以收集到大量的數(shù)據(jù)。在這方面的創(chuàng)業(yè)公司有 Geekie、Knewton、Smart Sparrow 和 DreamBox 等，教育行業(yè)的巨頭也對(duì)此很有興趣：2013 年 McGraw-Hill 買下了適應(yīng)性學(xué)習(xí)系統(tǒng) ALEKS;Pearson 最近宣布擴(kuò)大了與 Knewton 的合作關(guān)系。

「老系統(tǒng)將不得不得到認(rèn)真的修改」，美國(guó)西北大學(xué)的 Joel Mokyr 指出，教育系統(tǒng)鼓勵(lì)專業(yè)化，這樣學(xué)生就能在越來越少的主題上學(xué)到越來越多。但隨著知識(shí)過時(shí)的速度越來越快，重要的是要學(xué)會(huì)再學(xué)習(xí)】。Mokyr 認(rèn)為當(dāng)下的教育像粘土——「塑造它，然后烘烤它，就定型了」。

未來，隨著越來越多任務(wù)變得自動(dòng)化，人類技能顯得最有價(jià)值的任務(wù)會(huì)不斷變化?！改惚仨毥K生學(xué)習(xí)——很長(zhǎng)時(shí)間來顯然都是這樣」，吳恩達(dá)說，「你在大學(xué)里學(xué)到的東西不足以讓你繼續(xù)前進(jìn) 40 年?！?/p>

政策政治

對(duì)人工智能和自動(dòng)化的擔(dān)憂也導(dǎo)致了對(duì)更強(qiáng)大的保護(hù)人們免受勞動(dòng)力市場(chǎng)動(dòng)亂影響的安全網(wǎng)的呼吁。尤其是一些人工智能評(píng)論者認(rèn)為應(yīng)該建立一套福利系統(tǒng)，讓每個(gè)人(不管什么情況)都享有保障基本生存的收入(比如說一年 1 萬美元?)，類似的想法在工業(yè)革命時(shí)也由 Thomas Paine 和 John Stuart Mill 等一些人提出過。

其基本思想是：人們做得更多讓自己的收入增加時(shí)，這個(gè)福利不會(huì)減少，這樣人們就會(huì)愿意去做事。這會(huì)讓人們能自由決定自己希望做什么，活在失業(yè)中接受合適的再培訓(xùn)。很多預(yù)言會(huì)有終極工作破壞的人都認(rèn)為可以把這個(gè)情況用來保持消費(fèi)型經(jīng)濟(jì)和支持非勞動(dòng)人口。如果大部分工作都被自動(dòng)化取代了，我們就將需要一種重新分配財(cái)富的可選機(jī)制。

與改革教育系統(tǒng)相比，保障基本收入似乎更簡(jiǎn)單、更有吸引力。這個(gè)想法在技術(shù)行業(yè)內(nèi)享有廣泛支持：創(chuàng)業(yè)孵化器 Y Combinator 甚至還支持著加利福尼亞州奧克蘭市的一項(xiàng)對(duì)該想法的研究。其總裁 Sam Altman 認(rèn)為基本保障收入可以確?！赶蛭磥砉ぷ鞯钠椒€(wěn)過渡」。

看起來似乎是一個(gè)未來烏托邦，但一些懷疑論的觀點(diǎn)認(rèn)為這會(huì)導(dǎo)致抑制技術(shù)造成的不平等和抱怨，從而讓極客能發(fā)明無拘束的未來。Altman 先生說，根據(jù)他的經(jīng)驗(yàn)，技術(shù)人會(huì)支持基本收入保障的想法。

但基本收入保障的前提是要有收入，這就將意味著更高的稅收。此外因?yàn)槿藗儽旧淼呢?cái)富水平和各地的消費(fèi)水平不一樣，公平性方面也難以得到保證。而且還有人認(rèn)為保障基本收入事實(shí)上會(huì)抑制人們接受再訓(xùn)練，催生一個(gè)不愿意勞動(dòng)(而不是不能勞動(dòng))的「懶人」群體;從而加重納稅人的負(fù)擔(dān)。

芬蘭和荷蘭等富裕國(guó)家計(jì)劃在明年開始有限地試驗(yàn)基本收入政策，而其它較為貧窮的國(guó)家顯然從沒考慮過這樣的事。自動(dòng)化的發(fā)展對(duì)地緣政治的影響也將逐漸顯現(xiàn)。

MIT 的 David Autor 說，自動(dòng)化對(duì)發(fā)展中經(jīng)濟(jì)體的影響比對(duì)富裕經(jīng)濟(jì)體的影響更大，因?yàn)榘l(fā)展中經(jīng)濟(jì)體有更高比例的體力勞動(dòng)工作：低工資的工人制造廉價(jià)的產(chǎn)品、在客服中心提供廉價(jià)的服務(wù)、在國(guó)內(nèi)或海外做建筑工作……如果自動(dòng)化使發(fā)達(dá)國(guó)家能在這些方面自給自足，它們對(duì)發(fā)展中國(guó)家提供的產(chǎn)品和服務(wù)的需求就越少——發(fā)展中國(guó)家將失去在這些方面的比較優(yōu)勢(shì)，而與此同時(shí)，機(jī)器人和人工智能的技術(shù)和專利也基本上都掌握在發(fā)達(dá)國(guó)家手里。

自動(dòng)化可能會(huì)讓發(fā)達(dá)國(guó)家通過全面工業(yè)化斷掉貧窮國(guó)家的發(fā)展機(jī)會(huì)。經(jīng)濟(jì)學(xué)家常談?wù)摗高^早去工業(yè)化」;哈佛大學(xué)的 Dani Rodrik 指出第一次世界大戰(zhàn)前英國(guó)的制造業(yè)就業(yè)人數(shù)達(dá)到了峰值的 45%，而巴西、印度和中國(guó)的制造業(yè)就業(yè)人數(shù)比例已經(jīng)度過了峰值，卻還沒超過 15%。這是因?yàn)橹圃鞓I(yè)已經(jīng)遠(yuǎn)比過去自動(dòng)化了。

據(jù)花旗銀行和牛津大學(xué)馬丁學(xué)院的一份報(bào)告指出，中國(guó)已經(jīng)取代美國(guó)成為了第一大工業(yè)自動(dòng)化市場(chǎng)。然而對(duì)于非洲和南美的其它一些新興經(jīng)濟(jì)體而言，自動(dòng)化卻并不是好消息，它們?cè)僖矡o法通過「農(nóng)田到工廠」的勞動(dòng)力轉(zhuǎn)移模式來推動(dòng)經(jīng)濟(jì)增長(zhǎng)了，它們必須尋找新的增長(zhǎng)模式。喬治·梅森大學(xué)經(jīng)濟(jì)學(xué)家 Tyler Cowen 說：如果沒有制造業(yè)的工作構(gòu)成中產(chǎn)階層，這些國(guó)家的「核心經(jīng)濟(jì)結(jié)構(gòu)中將出現(xiàn)非常高的收入不平等?！?/p>

5、道德：弗蘭肯斯坦的回形針

技術(shù)專家不相信人工智能會(huì)失去控制，但還是會(huì)有道德上的憂慮

隨著《末日侵襲》這部電影情節(jié)的發(fā)展，它看起來也沒有那么可怕。所謂的「回形針最多化」(paperclip maximiser)是牛津大學(xué)哲學(xué)家 Nick Bostrom 提出的一個(gè)思維實(shí)驗(yàn)。這個(gè)實(shí)驗(yàn)假設(shè)一個(gè)人工智能能夠希望能收集盡可能多的回形針。它會(huì)想盡一切辦法來收集回形針，并且會(huì)通過自我升級(jí)來找到收集回形針的新方法，它還會(huì)反抗一切阻止它做這件事情的企圖。最后它“把整個(gè)地球和一部分宇宙空間都變成了一個(gè)回形針制造工廠”。

這種明顯非常愚蠢的試圖想表達(dá)一個(gè)非常嚴(yán)肅的觀點(diǎn)：人工智能不需要人類一樣的行為和心理動(dòng)機(jī)。它們可能不會(huì)出現(xiàn)人類常會(huì)犯的錯(cuò)誤和偏差，但是會(huì)犯別的錯(cuò)誤，例如執(zhí)著于回形針。

它們的目標(biāo)已開始可能看起來是無害的，但如果人工智能能夠自我復(fù)制并升級(jí)自己的性能就會(huì)非常危險(xiǎn)了。即使是一個(gè)運(yùn)行在一臺(tái)不聯(lián)網(wǎng)的計(jì)算機(jī)上的「被束縛的超級(jí)人工智能」也會(huì)竭盡全力地勸說它的主人讓他獲得自由。先進(jìn)的人工智能不僅僅是一門新技術(shù)，而是一個(gè)對(duì)人類的威脅，Bostrom 說。

機(jī)器能夠自己獨(dú)立運(yùn)行并不是一個(gè)新鮮想法，英國(guó)作家瑪麗·雪萊在 1818 年就在她的小說《弗蘭肯斯坦》中提出過這個(gè)想法。但直到 1965 年，人們才提出這種能夠不斷自我升級(jí)的人工智能概念。但最近人們?cè)谌斯ぶ悄芊矫嫒〉玫倪M(jìn)展又引起了新的擔(dān)憂，Bostrom 就是一個(gè)人工智能威脅論的知名倡導(dǎo)者，他更喜歡把人工智能叫做「超級(jí)智能」，這也是他的新書的書名。

一些人工智能研究者給出了幾個(gè)理由來證明為什么人們沒必要恐懼人工智能，最起碼是在當(dāng)前階段。

第一，吳恩達(dá)曾說過智能和感性能力以及意識(shí)是不同的。在 IBM 的人工智能道德小組工作的 Farancesca Rossi 也說過，人工智能「總有一天會(huì)覺醒并獲得自己的思想」的想法并不現(xiàn)實(shí)。

第二，所謂的「智能爆發(fā)」也是不可能出現(xiàn)的，因?yàn)檫@需要一個(gè)人工智能在比它的前一個(gè)版本的智能升級(jí)更短的時(shí)間內(nèi)升級(jí)出