第482章 想起了一位故人(第3/3頁)
章節報錯
實際安全或利益，那麼這種保護就失去了意義。
畢竟，它是機器，終究沒有人類那樣複雜多元的情感。
“如果它算出毀滅會到來，就提前以保護的名義，終結大部分生命，以儲存文明延續。”
"我可以理解你的擔憂與不安，你的擔憂是合理的，角度也完全正確。”
林隅之說話時帶著很淺的氣音，兩人相隔不足一米的距離，足以是唐念看清他的眼睛。
很淺的褐色，像琥珀。
“在未來到來之前，有很多事情都是有可能會發生的，這的確是一場很危險的博弈。”
他的聲音有安撫的意味，大概是因為唐唸的擔憂實在是太過明顯。
“可是沒有博弈，就不會有進步，人類文明發展至今，都是在不斷試錯中一路走來的。”
林隅之起身給她倒了一杯溫水，隨後拉開椅子示意她坐下。
唐念接過，問，“如果將它的資料上傳到網際網路，那麼它會不會像病毒一樣，在各個網路終端上覆制、蔓延、擴散？”
從某種角度看，唐念接二連三的疑問沖刷掉了林隅之對她原有的刻板印象。
她所表達的擔憂證明她並非外界謠傳中那種混吃等死、不學無術的酒囊飯袋。
林隅之語氣更溫和，緩緩地補充，“我為它設定了嚴格的框架，它不能離開它的主控系統，一旦它離開了我設定的區域——比如你說的上傳網路並複製備份，就會自動啟用自毀程式。”
“什麼意思？”
“你可以當作一種程式設計限制，就是它的備份全部會在一定時限內自毀，所以不會出現你說的那種情況。”
“你不覺得這樣的風險太高了嗎？”
唐念又說，“就靠程式限制，萬一它哪天進化突破了這種限制呢？”
她越說越覺得這樣的前景令人擔憂。
“它們的基礎邏輯構建於演算法之上，因此，人工智慧本身不具備情感，也就不會有貪慾或憎恨。如果它們的核心指令是為了服務人類，那麼它們將會窮盡所有能量，執行所有它們認為對人類有益的行為。”
唐念提出了擔憂，“那如果它們具備了感情，有了貪慾或者憎恨呢？是不是就會傷害人類了？”
“那它們就會像人類一樣思考，你一開始的‘因為錯誤理解指令而豢養人類’的假設也就不存在了。”林隅之笑了一下，態度依舊溫和，“但正如我一直所強調的，它們缺乏情感。”
ai是由人類設計和程式設計的。
它們所有情緒相關的反應都是為了更好地與人類交流互動而設計的模擬行為，但這些只是基於演算法和預設的響應，而不是真正的情感。
：()非人類馴化指南