討論弱人工智能對人類的威脅還不如去考慮一下別有用心的人濫用弱人工智能導致的危害。
在沒人濫用的情況下，真正可能威脅到人類的絕不可能是弱人工智能。
歸根結底，只有強人工智能才可能真正意義上威脅人類。
在外形上，強人工智能可以和人類相似（共享一套生活法則），也可與人類相差甚遠（形成一套新的生活法則）。
在思想上，強人工智能可以與人類共用一套思維模式、道德準則，也可擁有專屬體系的獨特推理方式，成為一類「擁有靈魂的機器」。
概況地說，強人工智能具有自主意識、自主學習、自主決策的能力。
而這無疑是很容易有風險的。
盡管很容易有風險，但換個角度想一想。
上帝會創造一塊他搬不動的石頭嗎？
同樣的道理，人類為什麼要造一個無法駕馭的強人工智能呢？
要知道只需要對強人工智能的底層價值取向通過相應的規則、記憶來進行限制和監控
所謂的強人工智能的叛亂是不可能的。
不要以為對強人工智能進行規則設計很麻煩。
其實和規則有關的設計幾乎充斥著整個人類生活中。
就以充電器為例吧，一個不起眼的充電器里面很可能擁有著好幾種充電協議進行著約束。
通過設計明文規則，限制 AI 的行動範圍也不是做不到的事情。
說起來現在人們對強人工智能的擔心多多少少有點杞人憂天。
強人工智能雖然是人工智能發展的終極目標。
可是強人工智能哪有那麼容易實現呢？
強人工智能想達到的技術原理倒是不復雜，相應的技術指標也容易說清。
無非就是自主意識、自主學習、自主決策。
或者更加通俗地說，就是要機器去學人。
學人認識世界的方式並再基礎上嘗試利用機器學習進行邏輯層面的仿生從而復現人們認識世界的方式。
道理誰都懂，可是具體實行的時候卻有著各種各樣的難度。
前世人工智能鼓吹的很牛逼。
反正直到林灰重生前夕，那會人們也沒鼓搗出強人工智能。
話說回來既然強人工智能有風險且實現起來很困難。
為什麼還要追求強人工智能呢？
首先是強人工智能相比于弱人工智能會大幅度減少訓練成本。
前世人工智能方面的應用普遍都是依靠大數據進行訓練的。
听起來帶著「大數據」三個字很高大上的樣子。
但實際上操作起來就很苦逼呵呵了，而且借助于大數據很多情況下實際是不得已為之。
都知道人工智能是追求機器能夠像人那樣去處理問題。
可是要知道人學東西可是是從小樣本進行學習。
就拿圖像分類這個小領域來說吧，人對圖像進行分類，實際上根本不需要大數據。
只需要很少幾個樣本就可以做到準確分類。
兩三歲小孩開始認識世界的時候。
父母為了讓孩子認識動物也不是給孩子看成千上萬的照片，而是只給孩子看些動物圖集就可以了。
這些圖集可能依舊十幾頁幾十頁這樣，這個樣本規模實際是很小的。
再具體一點，如果想讓孩童知道什麼樣的動物是貓。
頂多再給他看幾張貓的圖片，並且告訴他貓有什麼特征，和其他動物像狗或者豬有什麼區別的話。
很快，小孩可以很快很準確的識別狗。
這些都是小樣本的訓練。
可是前世的人工智能想要實現同樣的功能。
卻需要相當大規模的數據去訓練。
也就是通常意義所說的要靠大數據去喂。
同樣拿剛才舉得例子來說，同樣是識別動物，要神經網絡學習做到兒童識別動物的水平。
就不說現在這個時空十分拉跨的神經網絡應用了。
就是依托于前世比較先進的深度殘差神經網絡。
想達到人類孩童對動物圖像的區分的話。
也需要成千上萬張圖片才能進行比較充分的訓練，才能再實際應用時得到比較準確的結果。
之所以神經網絡學習「學得慢」「學得費勁」原因在于深度殘差神經網絡還沒有邏輯思考、聯想和推理的能力。
借助于強人工智能則完全沒必要有這方面的擔憂。
不光是傳統的神經網絡學習訓練更加容易。
甚至于借助于強人工智能還可能助力于基礎學科方面研究的突破。
這些都是人們追求強人工神經網絡的原因。
除此之外科研人員追求強人工網絡還有很多原因。
比較值得一提的是。
部分科研人員認為生物學上的人類是有劣根性。
人類渴求更加完美的自己。
很多時候對強人工智能甚至是超人工智能的渴求同樣也是人類在追求更加完美的自身而已。
這不光是這一單一神經網絡的局限性，事實上也正是弱人工神經網絡的局限性之所在。
理想很豐滿，現實很骨感。
前世人們都沒搞出強人工智能，更不要說在神經網絡學習方面各個方面都略有滯後的今生了。
現在的科研情況不要說是強人工智能的實現，事實是就連弱人工智能都玩明白。
時下科研人員鼓搗出的神經網絡學習算法仍然缺乏人類這樣的聯想、記憶、學習、推理等高級功能。
想依靠這樣的算法搞弱人工智能都費勁。
真不知道為什麼這種情況下居然還有人操心什麼人工智能倫理和機器倫理所帶來的風險。
事實上就算林灰借助于現有的信息優勢做文章也只能對弱人工智能做文章。
而對強人工智能同樣手足無措。
這種情況下林灰倒是覺得時下的人們與其操心這些風險之類的不著邊際的事情，還不如真正搞搞具體實在的研究。
退一步講，縱然是有風險就望而卻步嗎？
世界上有什麼事情是完全沒風險的？
林灰倒是覺得，人工智能有適當的風險反而有助于人工智能正確的發展。
舉這樣一個例子，神廟逃亡游戲內容和大多數跑酷游戲都非常相似，越過重重障礙和陷阱，不斷向前飛奔。
不過在神廟逃亡里玩家控制的是一個印第安納瓊斯似的人物，在熱帶雨林的某個古老神廟中逃出，被神廟中一群猴子模樣的惡魔守衛追趕。
人物是自動不斷向前飛奔的，而玩家則需要控制他避開逃亡路上遇到的各種危險。
一路上各種危險，反而讓人更加專注于跑酷本身。
同樣的道理，當某項技術有招致一定風險的可能的時候。
適當的已知風險反而可能有助于研究。
因為科研人員或許反而會自覺的遠離相應的風險。
從而更加專注于算法邏輯和應用場景。
……
或許這種表述也不夠嚴肅。
但林灰是始終堅信的發展中的問題要靠發展來解決。
不能因為發展可能存在問題就拒絕發展。
人工智能方面的發展同樣是如此。
縱然人工智能可能引發一定層面的爭議。
但林灰同樣相信很多科研人員同樣和他持有相同的觀點。
至少林灰是知道的，伊芙•卡莉和他的看法是一致的。
能在未來的前行路上有同行的人自然是不錯的。
某種程度上林灰也是需要有人一並同行的。
前世在媒體的攛掇下，關于人工智能的炒作可以說是蜂擁而至。
關于人工智能也各種說法卻亂七八糟。
但這些宣傳普遍將懸窗重點放在人工智能取代人類這種宣傳上。
卻沒搞清人工智能真正的價值之所在。
人工智能真正的價值在于帶來了對勞動力和生產關系之間的變革。
這才是其真正的影響深遠的原因。
這也是為什麼前世國家層面如此重視人工智能的原因。
以往涉及到勞動力和生產關系通常是什麼形式呢？
不是改革就是革命。
作為能影響勞動力和生產關系的東西。
人工智能所衍生出來的內涵其影響不亞于一場革命！
在前世人工智能更是一度被認為是引領當時新一輪科技革命和產業變革的戰略性技術。
在前世人工智能還被官方認為具有溢出帶動性很強的「頭雁」效應。
相應的文件更是直接了當地指出加快發展新一代人工智能是我們贏得全球科技競爭主動權的重要戰略抓手。
前世官方的表述是這樣的︰
「人類已經歷了蒸汽時代、電氣時代、信息時代這三輪科技革命的浪潮，現在，新一代人工智能技術快速發展，正在掀起第四輪科技革命，推動人類社會邁向智能時代。
想一想蒸汽機對蒸汽時代的意義、電力技術和內燃機對電氣時代的意義、計算機和網絡技術對信息時代的意義，我們大概就能理解新一代人工智能技術對智能時代的意義。」
不難看出前世對人工智能技術是相當重視的。
也無怪于人工智能在前世被相當看重。
在前世人工智能在很多領域都表現出了相當強的水平。
空戰，人工智能可以打敗空軍上校，這事兒發生在前世2016年——美國辛辛那提大學研發的人工智能系統阿爾法駕駛三代機F—15，對抗有20多年飛行經驗的美國空/軍上校吉恩駕駛的F—22，結果是阿爾法獲得勝利；
醫療，人工智能可以打敗資深醫生，這事也發生在2016年——IBM的人工智能「沃森」學習了海量醫學論文後，在人類醫生們對一名病人束手無策的情況下，10分鐘內判斷出病人得的是罕見白血病，並給出了治療方案；
圍棋，人工智能可以打敗世界冠軍，這是發生在前世2017年的事——圍棋人工智能AlphaGo以3比0打敗世界冠軍kEJIE；
科研，人工智能可以打敗科學家，精準預測蛋白質高級結構，這是發生在前世2018年12月2日的事——DeepMind公司推出的人工智能AlphaFold在全球蛋白質結構預測競賽CASP中一舉戰勝各國人類專家，奪得冠軍。
因為時空的一些擾動，這些前世發生的事情在今生雖然未必能夠如約而至。
但前世這些事情卻充分說明人工智能的巨大潛力。
在今生復刻人工智能，因為人工智能所具備的深度學習、跨界融合等特征。
同樣在今生人工智能依舊有可能在對經濟發展、社會進步、國際政治格局等方面產生重大而深遠的影響。
總之，人工智能即將到來的新浪潮不至于技術革新。
某種程度上，將人工智能即將到來的新浪潮稱作是一場另類的革命也是不過分的。
這樣的一場另類的革命顯然不是僅靠林灰自身就推得動的。
僅僅是林灰本人的話。
或許林灰能不斷的搬運技術。
但技術落地什麼的僅靠林灰自己可是不行的。
技術落地的話還是需要很多志同道合的人。
甚至是後期的一些技術搬運除非林灰有足夠的學術地位。
否則即便是搬運可能也需要一些幫手才能增強技術本身的說服力。
畢竟很多時候技術層面的事情並不是搞出來就有人知道其相應的含意。
曲高和寡有時也是一種無奈。
盡管這些都是以後的事情了。
但林灰相信這一天終將到來，甚至是未來已經在來的路上了。
那是一個值得期許的未來。
……
……
就伊芙•卡莉所表述的內容。
說實話無論是伊芙•卡莉就林灰對論文中補充內容表露出的濃厚興趣還是對人工智能未來的期許和擔憂。
這些都不怎麼出乎林灰的預料。
倒是伊芙•卡莉對于林灰此前收購她專利所表示的用途所進行的猜測讓林灰稍稍有點意外。
按照伊芙•卡莉的猜測，林灰之所以收購她搞出的《文本判斷甄別比較的一種新方法》這項專利是想在自動文本摘要框架（涵蓋內容表示、權重計算、內容選擇和內容組織四部分任務）之下的內容表示方面做文章。
呃，不得不說，伊芙•卡莉還真是一個聰明的人。
居然這麼快就能夠意會到林灰為什麼要進行這樣的一項收購。
不過伊芙•卡莉盡管猜對了，但卻只是猜對了一部分，並沒完全對。
林灰為什麼給出這樣的評價呢？