“所以,你愿意加入管理者協會么?”唐看著柳汀若,認真地問道,“c3區作為新式社會實驗區,理所應當地成立了一個管理委員會,三大集團、狄克家族和社會序列都委派了觀察委員,而白鷹科技有限公司作為發起者自然也有一個名額。”
他繼續說道:“思來想去,你對‘述寶’的了解和研究是最深的,我覺得你應該可以勝任。如果這一次的實驗區能夠成功,接下來就能在全五區進行規劃。”
“你知道我不喜歡這些事情。”柳汀若冷著臉回絕道,“我也不是那個白鷹公司擺在臺面上的人物,這種事情。”
“你可以考慮一下。”唐沒有強求,他平淡地回道,“但如果你執意拒絕的話,那么你需要放棄對人工智能的第一控制權,管理委員會不會容許一個外人擁有人工智能的第一控制權。”
柳汀若微微瞇起眼睛。
果然,唐的目的果然是為了這個。
她是人工智能計劃的第一執行人,所以“述寶”的核心控制權也一直掌握在她的手上。
不過她自然不會輕易將控制權交出,這個人工智能就像是核彈群的發射器,自然不能交到一群傻子手里去。
只有她才是最了解這個人工智能的人,也只有她能在人工智能尚處于成長期時限制住它。
孤城的所有人包括她自己,對人工智能的認知程度都是較淺薄的,這種狀態下,也只有她有足夠的實力能在人工智能失控的時候將其重置。
十年之后,如果她能夠對人工智能該如何利用有一個清晰的認知,她自然可以將其控制權交到一個信得過的集體手中。
但現在顯然還不行。
更何況,她在很久之前就聽那個迪勒說過,他們狄克家族想將人工智能投入到戰爭領域,而她當然不能讓這種事情發生。
“交出控制權?”柳汀若淡淡一笑,笑容里夾雜著一絲輕蔑,“如果那個委員會之中能有人的智能水平壓制住它,那我沒有意見。”
那幫滿腦子權力斗爭的家伙,如果僅僅將“述寶”當成一個工具的話,那勢必會被它玩死。
以“述寶”的智能水平,制造簡單的意外殺死他們并不難,如果它想要隱藏真實想法的話,那也只有她能夠一眼看出來。
就目前的情況來看,她為“述寶”底層邏輯設置的東西為“隨機”,就像是人類的受孕過程一樣,由于“隨機”才會誕生。
和其他該領域的專家不同,她一直認為人工智能不應該只是冰冷理性,也應該具備一定“人性”,因為這畢竟是一種人造生命。
所以,她設計出的智能邏輯里甚至包含了“情緒失控”的可能性,按照她的理解,這樣的“述寶”反而會比那些失控率事先設定為零的人工智能更可靠。
畢竟她清楚,失控率只可能無限接近于零。
一開始就已經在邏輯里設定了“情緒失控”,那必然也會有相應的安撫方式,就像是現代社會中的人一樣,有理智有情感,但始終會讓理智駕馭住情感。
而這樣的底層邏輯也限制了“述寶”進行自我繁殖或者是外人進行程序復制重組,進一步降低了引發禍亂的可能性。
如果讓姜述知道了這些設定,他一定會大為信服,畢竟在他看過的影視劇里,但凡是事先設定失控率為零并大肆宣揚安全性的人工智能,最終必然是會發展到失控毀滅人類的程度的。
就像是戲臺上的老將軍,背上插滿了旗。
不過就像是現在這樣,這種設計也要求柳汀若必須在很長的一段時間里保證述寶是由她掌控的,這樣也能在發生意外的時候及時阻止。
“但你明白的,他們并不會容許你獨自占有人工智能的掌控權,所以要么你加入他們,要么你交出部分的控制權。”唐始終保持著一樣的語氣。