2026 年 6 月 10 日，Anthropic 執行長 Dario Amodei 發表新文章〈Policy on the AI Exponential〉，主張 AI 進步的速度遠遠超過政府立法的速度，並且提議該用管飛機的方式來管 AI。文章一開頭他借《魔戒》裡那棵走路、講話都很慢的樹人 Treebeard 來比喻政府在政策制定上的動作：AI 用四年從「連一行像樣的程式都寫不出來」，變成「在主要 AI 公司裡包辦了大部分的程式碼」，但國會要推動一條法案往往要好幾年。
但是，真正讓我想寫這篇文章的，是 Dario 整篇文章透出來的那種對於 AI 深信不已的信念。Dario 不是把 AI 當成又一個很強的軟體工具，他是真心相信 AI 會變成「a country of geniuses in a datacenter」（一整個資料中心的天才之國），在認知工作上全面超過人、變成人類腦力的通用替代品。他把 AI 拿來跟核武、工業革命並列，說它會重設整個地緣政治的棋盤。文章裡有一句：一個有強 AI 的國家對上沒有強 AI 的國家，差距就像是二戰的美國海軍陸戰隊對上一群拿劍的中世紀士兵。會這樣寫的人，心裡對 AI 的認定的絕對不只是「工具升級」，是典範轉移等級的改變。
我個人也覺得這個信念是真的，不是行銷話術。Dario 自己在文章裡反過來拒絕「AI 只是公關問題、需要更好的行銷」這種說法，他說大家會怕 AI 是因為風險真的存在。他舉的具體證據是 Anthropic 自家 Claude Mythos Preview 在資安攻防上展現的能力，他說這證明 AI 已經是「具有全球與國家戰略後果的工具」。一個會把自家模型的能力講成國安威脅、還主動要求政府應該有權擋下自家產品上市的人，我覺得是很難說他只是在演戲。
但是，到底會不會真的走到那一步，另一派有完全不同的看法。a16z 的合夥人 Martin Casado 長期的論點是：AI 的影響力大概就跟微晶片、跟網路同一個等級。很大、會改變很多產業，但它畢竟還是工具。他公開說自己不是 AGI 那一派的，覺得 AGI 這個詞反而讓討論失焦；他把現在的 AI 形容成「感覺像 1996 年」，意思是還在很早期、後面還有很長的路要走。他做了一個有趣的算數：AI 要競爭的對象其實是人腦，而人腦只用 15 瓦、又便宜又有效率。在這個計算框架下，AI 只是一個成本被壓得很低的工具，不是一個新的智慧生命。
這兩種看法差距非常明顯，而且現在還沒辦法判斷誰對。我自己比較靠近後面這種：AI 是我這些年看過最強的工具，但「工具」這兩個字我還是想留著。它跟網路、跟 iPhone 一樣，會重新分配誰有生產力、會長出新的公司和新的工作，可是它終究要有人去用、去指揮它做什麼。Dario 描繪的那個「比所有人都強、還會自己把自己愈做愈好」的版本，有沒有可能發生？有可能，我不敢說一定不會。但把「有可能」直接當成「已經是現狀」來規劃，跟 Casado 講的「先看清楚多出來的風險再動手」，中間的作法差很多。
不過講到要不要監管，我反而覺得不用先吵贏「AI 到底是天才之國還是高級工具」這一題。有意思的是，兩派講監管時抓的比喻其實是同一組。Dario 拿汽車、飛機、藥物來類比，說 AI 該像美國聯邦航空總署（FAA）管飛機那樣，超過一定運算規模的模型，上市前要先過第三方安全測試，政府有權擋下或召回不合格的模型。Casado 那一派則拿網路來類比，說當年網路出現新型威脅（像電腦蠕蟲）時，我們是看清楚「相對於既有系統多出來的那部分風險」才動手，主張用證據、不要用生存焦慮去立法。
可是網路這個比喻，其實同時也是支持監管的理由。網路一開始也被當成「只是一個很強的工具」，結果這二、三十年我們還是替它建了一大堆規矩：個資保護、網路犯罪、平台責任、反壟斷。社群平台的推薦演算法在過去十幾年對社會做了什麼，大家也都還記得。所以用「它只是個工具、跟網路一樣」這句話，並不會推導出「不用管」，反而正好說明我們最後一定會去管它，就像我們管每一個夠強的工具一樣。你不需要先相信 AI 會變成資料中心裡的天才之國，才會覺得這東西需要被治理；一個很強、很多人手上都有、又確實能造成真實傷害的工具（Dario 舉的那個資安能力已經是真的），這個理由就夠了。
真正要小心的不是「該不該管」，而是「誰來寫規則」。Dario 的提案一出來，Steven Sinofsky 這些人馬上點出 regulatory capture（監管俘獲）的疑慮：當被監管的公司自己跳出來設計監管，而且這套規則剛好對資本雄厚的大公司（Anthropic、Google、Microsoft）比較有利、對小新創比較難跨過門檻時，你就得多注意了。想要監管，跟想要好的監管，是兩件不同的事。
所以我讀完這篇的感想是，大家現在花很多力氣在吵 AI 到底是神還是烤麵包機，可能吵錯了方向。網路當年也「只是個工具」，我們照樣替它寫了幾十年的法規。AI 會不會強到取代人，這題可以慢慢辯論；但它需要被好好管理這件事，這應該是無庸置疑的。比起要多害怕它，我比較在意的是這支筆最後握在誰手上。
資料來源：
Dario Amodei〈Policy on the AI Exponential〉：https://darioamodei.com/post/policy-on-the-ai-exponential
a16z, Martin Casado〈The Economic Case for Generative AI and Foundation Models〉：https://a16z.com/the-economic-case-for-generative-ai-and-foundation-models/
The Generalist 對 Martin Casado 的訪談〈This feels like 1996〉：https://www.generalist.com/p/this-feels-like-1996-martin-casado
沒有留言:
張貼留言