Aron Hsu 的部落格

https://tw.news.appledaily.com/headline/daily/20181001/38140595/

數位分身 這個人工智慧夥伴將與你十分相似，在雲端提供你最佳建議。

《科學人》獨家授權
撰文╱多明戈斯 Pedro Domingos
翻譯╱周坤毅
人工智慧（AI）有一天會取代人類嗎？或是會以前所未見的方式增強我們的能力、提升人性？許多人擔心，機器具備這般能力後，將運用習得的新知識來接管人類的工作，甚至奴役或消滅人類。但這種可能性很小，因為機器缺少自由意志。AI演算法基本上只能達成我們設定的目標，例如「找出從旅館到機場最短的路線」。這些演算法與普通演算法的區別在於，計算如何達成目標時相當有彈性，不必執行一連串預設的步驟。儘管AI能累積經驗而自行改進，但當初設定的目標依然不變；無法達成目標的演算法會自動被淘汰。此外，人類也會檢查機器所達到的成果是否滿足我們的目標，並確認機器不會違反我們設定的任何限制，例如「遵守交通規則」。

我們想到AI時，往往把人類的特質（例如意志與知覺）投射在AI上。許多人更熟悉擬人的AI（例如家用機器人），而非在幕後默默工作的其他無數機器人。好萊塢為了讓故事引人入勝，也以具有人類外形的機器人來呈現AI，進一步助長了這種觀念。但AI只是一種解決難題的方法，達成這項任務不需要自由意志。AI背叛人類的可能性，比你自打巴掌的機率還低。
那麼，使用AI的未來會是什麼樣子？智慧機器確實會取代許多人的工作，但對社會的影響和前一次自動化生產的影響應該很像。200年前，美國人大多從事農業，然而今天機器已幾乎取代所有農夫的工作，但農夫並沒有消失。宣揚世界末日的人認為這次情況不同，因為智慧機器同時取代了我們的肌肉與頭腦，人類將無事可做。但AI能執行所有人類工作的那天，依舊遙遙無期。在可預見的未來，AI與人類將各擅勝場。
另一種在未來學家之間盛行的想法是，電腦模型將會逼真到讓人難以分辨。我們能把自己的心智上傳雲端，像資料一樣永遠存在，不再受到物質世界惱人的限制。問題是這種做法在生物學上不可行，你若想上傳自己的心智，就需要每個神經元的精確模型以及儲存其中的記憶。再者，資料擷取必須非常可靠，才能確保模型的預測不會偏離真實神經元的活動，這簡直是不可能的任務。即使真的可行，你會願意上傳自己的心智嗎？你該如何確定你的模型沒有錯失你不可或缺的某一部分，或者你的模型會具有意識？如果你最完整的「分身」被偷了呢？

在十年之內，我們每個人可能都會擁有「數位分身」。這個AI夥伴將比今天的智慧型手機更不可或缺。你的數位分身不必跟在你身邊，而是和你現在大部分資料一樣儲存在雲端。蘋果公司的Siri、亞馬遜公司的Alexa與Google的語音助理，已讓我們窺見數位分身早期的樣貌。你的模型是數位分身的核心，會學習你與數位世界交流時產生的所有資料，範圍從桌上型電腦、網站、穿戴式裝置到居家環境中的感測器（例如智慧喇叭、空調恆溫器、行動通訊基地台與攝影機）。
隨著機器學習演算法增強，蒐集了更多個人資料，我們的數位分身將越來越精確。一旦終極演算法出現，再配合擴增實境（AR）頭戴式裝置或其他個人感測器持續獲取你的感覺運動資料流後，你的數位分身將比你最好的朋友更了解你。
你的模型與資料將儲存在「資料銀行」中，就像傳統銀行替你存錢或投資一樣。現今有許多公司將樂意提供這類服務。Google的共同創辦人布林（Sergey Brin）表示，Google希望成為「你的第三腦半球」。但你大概不希望你頭腦的一部分得靠顯示廣告才能維持，因此最好把數位分身交給利益衝突較少的公司，或與志同道合的人成立資料協會。

謀事在人

畢竟，最大的隱憂並不是有一天AI會變得邪惡，而是控制AI的人會濫用AI。資料銀行最重要的責任，是確保你的模型不會用於損害你的利益。你和資料銀行都得對AI犯罪提高警覺，以免讓壞蛋有機可乘。假如你不幸住在獨裁國家，政府將能以前所未見的方式監控你，這會帶來空前的危險。考慮機器學習的進步速度以及已開始使用的治安預測系統，在電影《關鍵報告》（Minority Report）中，人們在犯罪前就被逮捕的情節，也就不再那麼難以置信。此外，還有不平等的問題，在每個人都負擔得起數位分身之前，人類社會還需要時間來調適這些情況。
因此每一個人的首要責任，是別變得自滿而過度信任數位分身。我們很容易忘記AI就像封閉在象牙塔的學者，而且在可預見的未來都將如此。AI的外在看似客觀甚至完美，但內在就像人類一樣充滿缺陷，只是方式不同。AI缺乏常識，容易犯下人類不會犯的錯誤，例如把穿越馬路的行人誤認成被風吹起的塑膠袋。AI也很可能按照字面解讀人類的命令，一絲不苟執行我們說過的話，而非我們真正想要達成的事。因此下次你要求自動駕駛汽車不計代價準時趕到機場前，最好先想一下再說出口。

實際上，數位分身將和你十分相似，足以代替你進行各種虛擬交流。它的任務不是接管你的人生，而是替你嘗試那些你沒有時間、耐心或知識去做的決定。它會讀完亞馬遜網站上的每一本書，再推薦你最有可能想自己去讀的少數幾本。如果你想買車，它會替你研究各種購車方案，並與經銷商的機器人討價還價。如果你在找工作，它會先篩選所有適合你的工作，然後針對最有希望的職位安排視訊面試。如果你被診斷出癌症，它會替你嘗試所有可能的療法，並建議最有效的一種（為了大眾福祉，你也有道義責任讓數位分身參與醫學研究）。如果你想找約會對象，你的數位分身會和所有符合資格的數位分身進行數百萬場虛擬約會。在網路空間中最契合的一對，便能在實際生活中來場浪漫約會。
你的數位分身就像大幅擴張的潛意識，關鍵差異在於你的潛意識只存在於腦袋，而你的數位分身不斷與其他人或組織的數位分身交流。每個人的數位分身會持續嘗試向其他模型學習，組成數位分身的社會將以電腦運算的速度朝各方向擴展，找出我們會做的決定。機器將成為我們的先鋒，帶領人類個體與族群朝未來邁進。AI將帶領我們走向何方？而我們會選擇往哪裡走？

小啟

《蘋果》取得《Scientific American》中文版《科學人》雜誌獨家授權，不定期推出專版，嚴選與時事、生活息息相關的科普知識，以及最新科學研究成果，透過精心規劃編輯的專版，邀請讀者輕鬆進入科學領域，精確掌握全球科學發展趨勢。

更多內容，詳見《科學人》2018年第200期10月號

撰文╱多明戈斯 Pedro Domingos
美國華盛頓大學資訊科學系教授，也是人工智慧促進協會會士，著有《大演算》（The Master Algorithm），現居西雅圖附近。

翻譯╱周坤毅
清大動力機械工程所碩士，現任職澳洲福特汽車公司。