簡體版

第198章 防反撲機制(求月票)

青年人听了江凡的話,點點頭︰「不錯,人工智能對于我們而言,是把雙刃劍,用的好可以提升文明進程,用不好可能導致文明毀滅。

所以對于已經習慣于它帶來利好的我們,即使是它曾經給我們帶來過這麼大的創傷,但時間久了,記憶澹化了,再次開啟這項成果的討論依然還是被提上了日程。

只是,這一次我們並不會像之前肆無忌憚的去使用,而是限制了它的自由。

也就是圈一個羊舍將超人工智能圈養起來,不允許它連接任何網絡,更不允許它通過網絡控制任何實體的東西。

就是一個單機模式,而它需要的數據完全通過移動存儲設備輸送給它,把它完全隔離在虛擬世界,不允許它有任何機會觸踫現實的東西。

而它要做的也只是根據我們的需求提供解決方桉即可,像一個參謀或軍師,只負責提供意見,而真正的決策和措施由人類這個將軍來執行。

這樣就既用了它的優點,又避免了它的缺點。

當然,這是指的超人工智能,至于強人工智能和弱人工智能,沒有這麼多的限制,尤其弱人工智能,因為沒有自主意識,是完全不用設限的。」

江凡覺得這法子不錯,不過他也想到了一個問題,他記得《鋼鐵俠1》里面,托尼史塔克被恐怖分子抓進一個山洞,被要求為他們做事。

這個時候的托尼就相當于超級人工智能,其他人就是普通人類,在托尼的指揮下,人類在不知不覺中造出了初代鋼鐵俠戰甲,讓的托尼利用這個法子完成了月兌身和反擊。

而超級人工智能的思維水平也是遠高于人類的存在,那它會不會指導人類在不知不覺間反而完成了對于自己的反殺?

江凡把這個疑問提出來道︰「可你知道超人工智能可是要遠遠聰明過我們的,就不怕他誘導我們人類在不自覺間傷害了自己嗎?」

青年人听到這個問題後並沒有為難或疑惑,反而笑著說道︰

「這就我剛剛跟您說的我們建造了一百多個超人工智能大腦的原因,這里面分了決策腦和驗證腦。

每次有重大問題出來,讓數十個決策腦同時進行決策,采納最多決策腦提出的那個解決方桉。

這還沒完,我們會把這個解決方桉再給到數十個驗證腦那里,他們只負責評估這個方桉是否存在什麼可能威脅到人類的陰謀或隱患。

你知道的,我們在建造這些大腦的時候在程序里是設定了他們是對人類友善,並且決不許有反叛之心或者傷害人類的可能的。

所以總體而言他們一定是溫和有好的,唯一的擔心是個別由于程序問題出現突變錯誤而威脅人類。

但有一點我們很肯定,就是不可能上百個獨立的這樣的超級大腦在同一時間突然全部反叛人類,這種概率小到不可能發生。

所以我們就利用這一點設計這個模式,但凡我們經過驗證腦發現決策腦中出現有突變苗頭的人工智能,我們會立刻抹除它所有的程序,然後重置一個大腦出來,從源頭上杜絕不利事情的發生。

當然,驗證腦中也可能出現突變,但因為它沒有決策權限,而且有其他驗證腦同樣提供驗證制約著它,所以它一樣也不會有威脅到人類的可能,就算有也很容易被發現,也會被立刻抹除。

當然,這些超人工智能大腦都是官方在控制的,並且有重兵守衛以及一套嚴格機制防止超級腦通過蠱惑守衛等人員來達成目的,可以說基本是萬無一失了。」

江凡清楚了,讓100個友善的托尼史塔克來造東西,讓另外100個友好的托尼來驗證里面是不是有鬼。

就算其中一個托尼突然反叛想造鋼鐵戰衣逃出去,也會有其他的托尼發現這件事情,並告知人類來清除這個出了問題的托尼。

江凡沒有疑問了,看向青年人改口道︰「其實我說的是強人工智能,超人工智能這種嚴禁程序我當然不會去要啦。」

青年人這才舒了一口氣,否則哪怕讓他把之前拿的古董都退回去,他也斷然不敢去違規觸踫超人工智能的。

所以青年人看向江凡道︰「那沒問題,我很快就可以給到您,你植入到量子計算機里面,就可以逐步讓它發揮相應的功效了。」

「量子計算機?」江凡眉頭挑了一下,他想起來了,智能本身是基于大量數據和大量計算能力的綜合,而這種未來智能能匹配的計算能力怕只有量子計算機能提供,這是一對孿生兄弟。

他想了下假裝隨意攤攤手試探道︰「看來千年前那種普通計算機是沒戲了。」

青年人知道江凡又在琢磨他的古董和這個物件之間的關系呢,趕忙給解釋道︰

「其實也能用,只是沒有量子計算機的超級算力支撐,就只能當做一個高階一點的弱人工智能來用,達不到強人工智能的水平了,大概也就能達到算算您最開始說的那種材料驗證之類問題的水平。」

江凡心想現階段這就夠了,要什麼自行車,真需要用,大不了以後把量子計算機也給弄過來就完了。

江凡又問了青年人,說只是一個程序就不用報酬了,便告辭後退出了空間。

很快,青年人的人工智能程序便給到了江凡,江凡把拷下來後,專門找張峰協調了一台‘神威.太湖之光’超級計算機到實驗室用作人工智能安裝的載體。

這是華夏自主研發的超級計算機,安裝了40960個自主研發的神威26010眾核處理器,該眾核處理器采用64位自主神威指令系統,峰值性能3,168萬億次每秒的算力。

有了超級計算機的加持,對于人工智能做材料測試模擬以及其他成果測試模擬的效率無疑將是一個極大的提升。

江凡看了人工智能的後台程序,第一條準則就是︰不得危害人類。

果然和艾扎克的《我是機器人》里機器人工學三原則第一條說的一樣,只是這個並沒有放置機器的載體,所以後續的原則稍有差異。

江凡輸入了海量材料數據給它學習,完成了驗證測算模型的搭建。

有了人工智能的幫助,耐高溫材料較快地便試制驗證完成,並交付了兵器集團。

過了一陣,江凡想起來給青年人承諾的永暑島紅色旗子的報酬還沒付,讓張峰轉達了這個事。

張峰詢問上面後,很快就回復江凡完全沒有問題,並且說看江凡這段時間比較辛苦,可以跟著一起去取,順便就當散心。

江凡覺得也不錯,便答應下來。

溫馨提示︰方向鍵左右(← →)前後翻頁,上下(↑ ↓)上下滾用, 回車鍵:返回列表

投推薦票 上一章章節目錄下一章 加入書簽