AI 人工智慧深度學習教父警告 AI 代理將會失控，呼籲「工具化 AI」才是正確方向

Picture of 蔡銘翰
蔡銘翰
2025-02-07
關於 AI 可能威脅人類的論點，科學家過去已經多次提及，然而，擁有「深度學習教父」稱號的蒙特婁大學教授 Yoshua Bengio，最近更主動發出警告，指出產業界目前正大力發展的 AI 代理功能，總有一天會失去控制。

當 AI 代理出現自己的想法…
在近日上線的一場 Podcast 節目中，Yoshua Bengio 及麻省理工學院教授兼生命未來研究所所長 Max Tegmark，談到了他們對 AI 代理及通用人工智慧（AGI）的相關看法。

這兩位頂尖科學家都擔心，人工智慧產業界正在大力推動的「AI 代理」或「代理式 AI」，雖然會加速世界朝 AGI 的方向前進，卻也同時充滿著難以預測的風險。

隨著科技不斷發展，Yoshua Bengio 表示，未來的 AI 代理可能會冒出「自己的想法」，即擁有「自主權」及自我思考能力，換句話說就是跟人類一樣，懂得利用自身知識來達成目標，同時又被允許做出代理行為。

如何不觸動 AI 的自我保護？
Yoshua Bengio 認為，其實發展 AI 代理就是人類打造 AGI 的方式，我們正試圖讓 AI 成為徹底瞭解這個世界上所有事物的代理人，接著讓它們採取相應行動；然而，這項理想與目標的背後，實際上是個非常危險的命題。

Yoshua Bengio 進一步指出，推動 AI 代理並打造 AGI，就像是人類於某個星球上，創造出了一個全新物種，或者是全新的智慧實體，但是卻不知道它們的行為，是否能夠符合人類需求。

隨著 AI 技術越來越進步，人工智慧變得越來越聰明，Yoshua Bengio 認為，AI 可能會開始出現「自我保護」的想法，同時當 AI 擁有了自己的目標，人類就會接著陷入困境。
RECOMMENDATION

「人類真的想要跟比自己更聰明的實體競爭嗎？這不是一個很讓人放心的賭博！」Yoshua Bengio 強調，人類發展科技時必須多加思考，如何才能不觸碰到 AI 想要發起自我保護的開關。

工具化 AI 更加安全、可控
生命未來研究所所長 Max Tegmark 亦認同上述觀點，並指出人工智慧產業界的前進方向，應該是大力發展「工具化 AI」，也就是為了特定、狹隘目標而創造的 AI 系統，同時這些 AI 工具不一定要擁有代理能力。

Max Tegmark 表示，即便只是工具化 AI，其能力依然十分強大，比方 AI 可以告訴人類如何治療癌症，或者讓 AI 僅擁有「一部分的代理能力」，例如自駕車系統；在工具化 AI 的規格下，人類依然可以獲得極高、極可靠的保證，確保自己能夠控制 AI 的所作所為。

Max Tegmark 進一步強調，從樂觀的角度來看，只要產業界足夠堅持，並在廠商開發出功能強大的 AI 系統之前，首先訂下一些基本的安全標準，人類就能於享受 AI 帶來的創新之餘，確保一切得以安全、可控的發展。
ADVERTISEMENT

為 AGI 時代事先準備防護網
未來生命研究所（Future of Life Institute）曾經於 2023 年，呼籲業界暫停發展可以跟人類競爭的 AI 系統及 AGI，同時指出現在已經是時候採取行動，為 AGI 可能造成的衝擊設下防護網。

Max Tegmark 直言，在人類想出如何控制之前，就早一步造出比自己更加聰明的東西，這種事情顯然太過瘋狂。

OpenAI 執行長 Sam Altman 曾經表示，AGI 將比外界想像更快到來，不過他也刻意淡化了 AGI 可能會對人類造成的負面影響，僅僅只希望通用人工智慧早日實現。

【推薦閱讀】

◆ 曾拒幫美國監視人民，如今 Google 收回「不把 AI 當武器」承諾

◆ AI 提高人類生產力缺乏關鍵證據，全球經濟未來面臨 3 條路

◆ 如何讓 AI 準確回答問題？提示工程師教學「要把 AI 當小孩」

＊本文開放合作夥伴轉載，資料來源：《CNBC》、《The Verge》。首圖來源：Bing AI
ADVERTISEMENT

議題標籤
AGI
AI
AI代理
人工智慧
代理式 AI
失控
深度學習
警告
通用人工智慧
熱門文章
「黃仁勳可能是錯的」比爾蓋茲、Google 紛指量子運算將在 5 年內實現
「DeepSeek 報價比實際低 5 倍」外媒揭多家歐洲新創已迅速採用
「幾週後我們不會再談 DeepSeek」美國 AI 新創想用但遇 3 大麻煩
NVIDIA 首家直投的台灣新創！MetAI 宣布完成 400 萬美元種子輪融資
文組也能考證照！成為國家級「AI 應用規劃師」需要哪些技能？
追蹤我們
Facebook
Youtube
LinkedIn
LINE
Instagram

Google News
追蹤 Google News
TO 會員電子報
還在靠社群媒體追新聞嗎？馬上訂閱電子報，最新科技趨勢、熱門活動不漏接！

Enter your email…
訂閱即同意個資蒐集聲明，並允許 Fusionmedium 使用您的個人資料，及接收不定期活動資訊。

更多分類文章

AI 代理會消滅 SaaS 嗎？專家指世紀大辯論突顯軟體策略本質
廖紹伶 2025-02-08

波士頓動力加上 Meta AI，更聰明的家用機器人要來了？
廖紹伶 2025-02-08
NVIDIA 打造超敏捷 AI 機器人，空中旋轉、後仰跳投全都難不倒
NVIDIA 打造超敏捷 AI 機器人，空中旋轉、後仰跳投全都難不倒
蔡銘翰 2025-02-08

從被 OpenAI 拒絕到超越微軟，軟銀為何這麼想敲開 OpenAI 大門？
廖紹伶 2025-02-08
您也可能喜歡這些文章
曾拒幫美國監視人民，如今 Google 收回「不把 AI 當武器」承諾
Google 不甘示弱！Gemini 免費導入 2.0 Flash Thinking 也懂「思考」
輕鬆保養！三合一UC2配方，步伐靈活穩固有力
PR・白蘭氏健康Mall
日本環球影城入園人次打敗迪士尼！它怎麼在「沉浸式體驗」下足功夫？
AI 轉型只想到技術債？5 個槓桿思考一併消滅「流程債務」
消費者購物前一定看評論！零售業者可以怎麼用 AI 幫自己加分？
「DeepSeek 報價比實際低 5 倍」外媒揭多家歐洲新創已迅速採用
深度學習教父警告 AI 代理將會失控，呼籲「工具化 AI」才是正確方向
從被 OpenAI 拒絕到超越微軟，軟銀為何這麼想敲開 OpenAI 大門？
終止 OpenAI 研發合作！機器人新星 Figure：30 天內推前所未見的東西
Recommended by

分享此文：

相關

發表留言 取消回覆

發表留言取消回覆