霍金:人工智能不會毀滅人類 反而有助於疾病治癒
本文系本站智能工作室（公衆號smartman 163）出品。聚焦AI，讀懂下一個大時代！
【本站智能訊11月9日消息】當一個由知名人工智能專家組成的小組被問及是否有可能開發出超級智能時，他們的答案是一致的：有可能。到現在，關於計算機是否比人類更聰明的爭論已經不再存在了。
今年早些時候在加州舉辦的這個座談小組由人工智能領域的多位“知名人物”組成：
巴特·塞爾曼（康奈爾大學）
揚·塔裡安（CSER/FLI）
尼克·博斯特羅姆（FHI）
雷·庫茲韋爾（Google）
山姆·哈里斯
雖然從理論上講——考慮到我們對物理定律的理解——計算機超越人類的智慧，再到“超級智能”的實現是可行的，但這種情況的發生機率肯定是微乎其微的。
但是根據該小組的每一位成員的說法，這很有可能。當被要求回答“AI會達到超級智能嗎”這個問題時，（回答可以是“會”或“不會”或“這很難說”），每個成員的回答都是“會的”。
埃隆·穆斯克甚至假裝不同意其他小組成員的意見，這在很大程度上讓觀衆和臺上的一些人感到高興。也許是因爲當絕頂聰明的人完全站在同一條戰線上時，就會出現這種尷尬的情況；沒有辯論就很難進行科學研究。
如果我們接受人工智能將達到“超級智能”的想法，那麼我們就該明白這意味着什麼，以及它什麼時候會發生。
Nick Bostrom教授已經寫了一本關於超級智能的書。在他的書中，他將超級智能的概念定義爲“一個虛擬代理——它的智力遠遠超過了最聰明、最具天賦的人類的智力。”
它會比我們更聰明，這意味着我們將無法理解它——而我們現在也不能理解它。
關於人工智能的一個顯而易見的事實是，沒有人能夠預測很長時間以後會發生什麼。機器學習的進步來得如此之快，所以那些認爲我們知道接下來的六個月將會發生什麼的想法可能太過天真。
我們正處在一個未知的領域。
霍金教授在最近接受《連線》雜誌採訪時表示，人工智能是一場技術革命：
也許有了這種新技術革命的工具，我們就能消除上一次工業革命對自然世界造成的損害。當然，我們的終極目標是消除疾病和貧困。我們生活的方方面面都會發生改變。簡而言之，創造人工智能的成功可能是人類歷史上最重大的事件。
他不是唯一一個相信人工智能將永遠改變我們生活的人。Nick Bostrom教授說，人工智能代表了第三次“人類狀況的根本改變”。
根據Bostrom的說法，第一次是農業革命，緊隨其後的是工業革命。如果人工智能超過人類智能，我們就能實現下一場技術革命。
很難找到一個標準來衡量人工智能是否能產生與工業革命一樣大的影響——尤其是現在大多數新聞標題讀起來像科幻小說裡的情節。
在同一場採訪中，霍金教授也說：
我擔心人工智能可能會完全取代人類。如果人們能夠設計電腦病毒，那就有人會設計出能夠改進和複製自身的人工智能。這將是一種超越人類的新生命形式。
霍金教授可能並不是在建議我們停止研究人工智能，轉而成爲盧德派。
我們能夠很容易地理解殺手機器人接管世界的想法。這樣的情節我們在電影中已經看了十幾遍了。更重要的是，通過毀滅視角來看待未來總是更容易的，否則就會被現實所扭曲。
電影和科幻小說所描繪的未來世界，看起來基本上還是今天的樣子，只不過是多了一些更酷的小玩意和青少年們喜歡用的俚語。試圖解釋人工智能所帶來的革命性的世界將會是一件困難的事情。
本月早些時候，Bostrom教授對英國議會的人工智能委員會成員說，根本沒有辦法做到這一點：
就像任何新的通用技術一樣，最令人興奮的應用在一開始並不是很明顯，只有當人們開始使用這項技術時纔會被發現。
那些新聞標題——比如這篇文章的標題——告訴我們，斯蒂芬·霍金和埃隆·馬斯克認爲人工智能可能會毀滅人類，而這是真正的對話的“快餐式新聞”版本。
而真正的關鍵在於馬斯克和霍金都對機器學習技術抱有興奮和渴望的樂觀情緒。霍金教授認爲人工智能可以治癒疾病。馬斯克在開放人工智能領域投入了大量資金，該基金會的使命是：
通用人工智能（AGI）將是人類有史以來創造的最重要的技術。
如果我們被誇張和恐懼的情緒佔據，那會讓我們所有人都成爲反對者。更實用的方法（就連認爲人工智能會引發第三次世界大戰的埃隆·馬斯克都已經採用這種方法），是在謹慎、樂觀和維護所有人類的最佳利益的基礎上向前邁進。
（選自：The Next Web編譯：本站見外編譯機器人 審校：李擎）
關注本站智能公衆號（smartman163），獲取人工智能行業最新報告。