機器得承認，人類才是需求的主導。

第三條原則是根據人類行為給機器設定偏好并提供依據。

這么設定是因為機器往往不清楚如何具體實現人類的價值。

但這不要緊，人類可以協助機器實現。所以要加強人機互動。

因為郝淮構想中的機器人，目的不僅僅是為了滿足某個人或用戶的需求，而是要遵循大家公認的道德價值觀。

比如，人可能會犯錯，做出違背道德的事。但郝淮不想讓機器人模仿這些行為。

相反，他希望機器能嘗試理解人類行為的動機，理解普遍的道德觀念，并在適當時候阻止人類做不應該做的事。

這三條看似寬松實則嚴格的法則，不僅能限制機器人自我發展的潛力，還在某些適度寬松的地方，留給了機器人自我邏輯完善的余地。

防止因某些設定過于極端的法則導致機器人邏輯矛盾，進而引發故障。

這三個法則將直接焊死在核心代碼里，永不可改。

“法則之后，就是防火墻和模塊接入……”

“如果能確保法則不出問題，接下來就要保證病毒進不來?！?

郝淮捏了捏鼻子，眼神也銳利了幾分。

在那些機械文明中，有的因編程時的漏洞導致人工智能失控，有的則是人為因素。

因此，郝淮在吸收大量資料后，決定將核心代碼純凈化！

簡單講，就是核心代碼會被防火墻嚴密包裹。

日常運行通過復制的鏡像系統進行。

而且，核心代碼不接納任何第三方程序。

這就是防火墻和模塊接入的含義。

用防火墻保護核心代碼，再通過鏡像系統與所有第三方程序連接。

這樣一來，所有外部程序都將以模塊化形式存在。

一旦發現病毒，就能迅速隔離帶毒模塊。

就算病毒侵入系統，也能直接銷毀鏡像系統，然后重新復制一份。

平時，核心系統完全不參與工作，

也與所有模塊完全隔離。

只有當鏡像系統出問題時，才會人工復制一份新的。

只要核心系統不受病毒感染，就算病毒再厲害，也無法對人工智能構成威脅。

就像電腦殺毒，最粗暴的方法就是重裝系統！

而守護核心系統的防火墻，郝淮計劃定期升級。

確保防火墻技術始終領先地球二十年！

這樣一來，即便有天才出現，在郝淮反應過來前破解防火墻也很難。

只要給郝淮反應時間，就算有問題，他也自信能解決。

至于最后的終極代碼，

那就是殺手锏了。

真到了核心代碼都被污染，無藥可救的地步，

這個代碼會摧毀所有程序！

一切歸零！

雖然代價不小，但與人類安全相比，根本不值一提。

這四道鎖將從各個層面徹底鎖死人工智能。

要是這樣還能出問題，

那只能說地球真是多災多難了。

“就是這工作量有點大啊！”

“算了，先搞定核心代碼和三大法則。”

“其他的一步步來吧?！?

整理了一下思緒，

郝淮揉了揉有些發疼的額頭。

這不是過家家，這么龐大的防御體系，容不得半點差錯！

必須慎之又慎！

用最簡潔的編碼，編寫出所有的代碼！

…………

正當郝淮全身心投入人工智能時，

五月中旬，宣傳已久的王偉