前言
在這篇文章中，我們將深入探討這個話題，並通過 AI 領域的兩位重量級人物——Geoff Hinton 和 Andrew Ng——的對話來探索這個重要議題。他們的對話包括了 AI 研究共識的重要性，AI 是否真正理解世界，以及從統計到理解的關係等議題。透過這些論述，我們期望可以對 AI 所帶來的挑戰有更深入的理解，並探索我們如何可以確保 AI 的發展在帶來便利的同時，也能最大程度地保護社會的利益。
對話者介紹：AI 的先驅和翹楚
在我們深入進入這場對話的核心主題之前，首先來認識一下兩位重要的講者。一位是 Geoff Hinton，他被譽為「深度學習之父」，對於AI的發展做出了許多重大的貢獻。另一位是 Andrew Ng，他是史丹佛大學的教授，並且是 Coursera 的共同創辦人，他在 AI 教育和應用方面有著深遠影響力。
AI 研究共識的重要性
首要的論點在於 AI 研究社區是否需要達成對於 AI 可能引發的風險的共識，類似於氣候科學家在氣候變遷議題上的共識。這樣的共識可以提供給政策決策者一個來自專業人士的統一意見，否則他們可能會選擇他們所偏好的觀點，這可能會影響到政策的制定。然而，目前 AI 社群的觀點分歧大，甚至存在相當程度的對立。我們需要進一步討論和達成共識，才能夠更有效地警示和應對 AI 的潛在風險。
AI 是否理解世界？
對於 AI 模型是否真正理解世界，這也是一個爭論不休的議題。有人認為 AI 如同 'stochastic parrots'（隨機鸚鵡）一般，僅僅是在重複它所學習的資料，而並不真正理解。而有些人，包括 Hinton 和 Ng，認為大型的 AI 模型如 GPT-4 等是在構建一種「世界模型」，從而具有某種理解世界的能力。這個問題的答案，可能會對我們如何評估 AI 的風險產生重大影響。
統計與理解：線上之間的爭議
儘管 AI 模型的運作基於統計，但是否能從統計中得出「理解」仍是一個有爭議的問題。像是 Hinton 就主張，一旦模型能夠基於大量特徵的複雜互動來預測下一個語詞，這種情況已經不只是單純的統計了，他認為這就是一種理解。這種看法並非所有人都接受，這一點在 AI 研究社群內也需要進一步的討論。
前進之路：共識與持續對話
這次的對話結束，但是討論並未結束。Hinton 和 Ng 強調了繼續進行這樣的討論的重要性，並且希望能在 AI 社群中達成對於 AI 風險及其理解能力的共識。透過持續的對話和學習，我們可以更好地理解並應對 AI 所帶來的挑戰。
綜上所述，這場對話提供了我們對於 AI 和風險理解的新視角。當我們繼續發展並應用 AI 技術時，這種討論是不可或缺的一部分，因為只有透過深入理解和共識，我們才能確保 AI 的發展能對社會帶來最大的利益。
