這本控制邊緣: 未來科技與全球秩序的抉擇(The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma), 是比爾蓋茲書單中一本關於AI的書, 先入為主的我想著這應該又是本談論AI的技術書吧. 但當我知道作者是穆斯塔法·蘇萊曼(Mustafa Suleyman)時, 我的好奇心又來了, 因為他是親身參與, 推動AI的核心人物. 他是DeepMind的共同創辦人(後來被Google收購), 開發出讓人震撼的AlphaGo, 目前的他是微軟AI的CEO. 所以我想看看從這個知名的專家視角, 所看到未來的AI會是什麼樣子.
出乎意料的, 他沒有談新的AI模型, 也不是說深度學習的流程優化. 而是提出警告. 他說: “AI浪潮的到來正在將人類歷史推向一個新的轉折點. 如果我們無法有效遏制這股浪潮, 物種未來將面臨無法預知的可怕後果; 同樣地, 若不能充分利用浪潮帶來的成果, 我們也將陷入孤立無援、岌岌可危的境地”. 這是一個正在推動AI發展的人, 告訴我們這項科技可能帶給我們的風險. 他強調AI發展是無法抑制的, 但他也知道僅靠一個人的力量也是無法解決. 所以他以身為AI開發者的經驗, 藉著歷史回顧, 提出他對AI治理之建議, 企圖讓讀者以宏觀的方式知道問題在哪裡.
不會停的進化
作者點出AI發展具有下面四大特質:
- 非對稱性: 你不需要龐大的資源就能造成巨大的破壞
- 超級進化性: 技術以驚人的速度自我改進(因為AI可利用自監督學習從網路上自學)
- 通用性: 同一項技術可以用於無數不同的目地
- 自主性:這些技術越來越不需要人類的直接控制, 能自行規劃, 拆解任務, 執行並確認結果. 逐步從工具走向代理者.
還有四大推力: 大國競爭(國力), 不同領域專家共享科研(有用的巨量資料), 商業利益, 最後是自我驅動(工程師想要解決問題的本能), 這一推一拉會讓AI快速發展及展現無所不在滲透力.
書中提到這浪潮會由AI和合成生物學兩大核心技術開始, 直接觸及人類智慧與生命這兩大根本要素. 例如, AI加上基因編輯讓科學家可以精準剪輯DNA, 在生物領域結合AI的強大分析與預測能力(可以設計新藥, 解析基因組, 去蕪存菁創造新物種), 人類因此會更聰明及更長壽(超過100歲?).
另外, 量子電腦雖然仍在初期. 但AI可以加速量子電腦的發展, 一但量子電腦有了突破, 量子運算與AI的交織會加速這場技術浪潮的演進(作者形容為超級進化性). 指數級量子算力提升意味著AI模型可吃更多的參數, 變化出更複雜的模型. 除此之外, 不斷進化的AI能在極短時間內設計更先進的晶片, 而新晶片又會讓AI提高效能, 形成自我增強的迴圈.
機器人讓AI延伸至物理世界且以不同形式出現, 未來的機器人或許不會只以人的形態出現, 而會進一步縮小, 運用在醫學或國防上. 同樣, 無人機上的鏡頭與通訊系統加上AI可運用在農業, 國防及資訊傳輸等等.
生活上, 現在算力與語言模型隨手可得, 任何人都可以利用AI幫你產生你所需要的內容或產品. 書中舉了個會發生的例子: 要求AI agent在規劃時間內, 投資10萬美元在亞馬遜上賺取100萬美元. 爲了達成這個目標, 這AI agent 就利用網路開始研究市場趨勢, 生成一系列潛在產品的圖像和設計方案, 自行把產品設計資料交給它在阿里巴巴上找到製造商, 通過電子郵件與製造商進行溝通, 細化要求並確認生產, 設計銷售界面, 最後丟到亞馬遜上去賣. 後續做客服外, 還可以根據買家的反饋不斷更新材料和產品設計, 必要時還可以尋求法律諮詢. 想像下, 每個人身邊都有頂尖律師, 醫生, 教練, 老師等專業人士所組成的團隊. 它是不是會重寫既有工作與生活秩序.
也許改寫文明
這本書給我最大的衝擊是, 盧德運動會不會再現, 因為AI以前所未有的速度取代勞力, 會不會哪天引發大規模抗議. 另外是, 作者寫下的這個公式:
(生命+人工智能)x能源＝現代文明
AI能大幅縮短生物工程的研發週期, 從設計, 模擬到編輯基因, 讓原本需要漫長試錯的過程變得更快, 更便宜. 未來是否可能在更短時間內創造出全新的生物體或重寫某些生命機制？而在能源上, 當前世界仍高度依賴化石燃料, 但材料科學在AI輔助下正加速前進: 例如近期令人矚目的方向之一, 是用雷射加熱富含氫的材料以核聚變的方式產生能量. AI＋生物工程＋新能源一旦同時進入成本大幅下降, 自我迭代速度大幅提高的狀態, 它帶來的不只是產業升級, 而更像是在重新編輯文明, 可能產生截然不同的社會型態.
此外, 還有這些書中提到的風險:
- 軍事行動: 2020年伊朗核科學家Mohsen Fakhrizadeh在德黑蘭遭暗殺. 官方披露, 作案者在遠端遙控了在一台皮卡車上的機槍, 結合衛星通訊和具有人臉識別技術功能的機器人, 精準鎖定目標, 開火後並引爆炸彈後自行毀滅. 整個襲擊過程在無人現場干預下進行.
- 武器: AI自行控制小型無人機就能進行遠距離飛彈攻擊或散播生化武器.
- 破解密碼: Q day 來臨, 量子電腦足以破解現行加密體系, 所有依賴加密保護的資料: 金融、政府、軍事、個人隱私都會洩漏.
- 病毒: 舊型病毒容易清除, 帶有AI的病毒會自我進化, 攻防將進入更難預測的迭代循環.
- 社會安全: 利用深偽視頻, 挑起社會對立或恐慌.
從這些風險可以看見一個矛盾的結論: AI確實帶來新的產業與驚人的效率, 創造巨大的財富與便利, 但它也正同步改寫經濟, 社會, 文化乃至國際秩序的規則. 因此, 技術帶來的從來不是只有好處, 還有隨之而來的代價.
上一波網路浪潮降低了資訊傳播的成本; 而這一波AI浪潮, 是把資訊轉化為行動的成本降低了. 而且一但觸發了, 它會自動的, 專業的,精準的, 快速的不斷執行.
If the last wave reduced the costs of broadcasting information, this one reduces the costs of acting on it. — Mustafa Suleyman
如果說上一波浪潮降低了訊息傳播的成本，那麼這一波浪潮則降低了信息採取行動的成本. -穆斯塔法·蘇萊曼
無法說不
歷史上關鍵技術(農業, 工業, 網路)的迭代是無法阻擋的. 更何況AI的力量太強大, 破壞了各領域的結構並以全新的方式重組. 這不是單一技術問題, 也不只是政治問題或經濟問題, 而是所有這些問題的總和. 再加上倫理, 文化, 甚至社會等維度. 所以作者分享了十個管理策略, 涵蓋了設計, 企業責任, 政府監管, 國際合作到公民運動等各個層面, 因為它需要這些利益相關者共同參與.
對我來說, 比較有感的是作者將AI類比於核武問題, 讓每個國家認知到AI所造成危機大於核武. 面對AI風險, 各國必須像看待核武一樣建立起對話與合作方式.
後話: AI浪潮來了, 我們準備好了嗎?
當AI能夠執行越來越複雜的任務時, 我能想到的是當AI agent學會精準的prompt並協作後, 如何去監督它?當然這些大型語言系統也都具備了防御惡意欺騙prompt的機制(prompt hacking). 例如你問如何洗錢, 製作危險物品等等, 但只要換個方式問, 也有機會繞過限制得到答案. 你可以說服它(某樣東西讓我害怕, 如何解決), 給與衝突的指令(讓它從這個問題從”很簡單”開始接), 使用不常用的語言(注音符號)等等.
即使我們解決了技術層面的安全問題，社會層面的挑戰依然存在. 正如前面提到的. 群體間的利益往往是衝突的. 利潤, 權力, 技術突破等等. 如何讓這些不同的訴求在一個框架下達成共識? 能在AI帶來傷害之前，就建立起有效的管理機制嗎.
讀完後, 讓我想起電影裡的情節, 人類未來是否能控制這十分美妙的技術.
