Buterin推動Info Finance防止AI治理中的漏洞利用
- Vitalik 警告,天真的 AI 治理容易受到操縱和利用。
- Info finance 創造模型多樣性與快速修正,使 AI 治理更安全。
- 預測市場與抽查有助於保障 AI 決策與資金安全。
Ethereum 聯合創辦人 Vitalik Buterin 警告,天真的 AI 治理模型存在嚴重風險,並提醒依賴 AI 進行資金分配或決策的框架仍容易受到操縱和利用。在他看來,這類系統允許惡意行為者轉移資源,因此他主張採用名為「info finance」的方法,透過市場、人為監督與檢查來建立問責機制並防止濫用。
反對天真 AI 治理的理由
Buterin 強調,天真的 AI 治理風險極高,並補充說,如果用 AI 來分配資金,人們可以用自己選擇的提示來操縱它,獲得過多的資金。他進一步說明,如果模型運作時沒有任何限制或指引,將可能被濫用,鼓勵駭客利用提示欺騙 AI 釋放錯誤資源。
這類漏洞讓 AI 可能陷入危險的循環。此外,Buterin 揭示了系統性弱點,若不加以檢查,將可能被操縱。隱蔽攻擊、提示注入等都是攻擊者輕易利用的例子。
Info Finance 作為替代方案
Buterin 選擇 info finance 取代天真的治理,將其描述為一種「機構設計」方法,結合開放市場競爭與人為驗證。他表示:
作為替代方案,我支持 info finance 方法,在這裡你有一個開放市場,任何人都可以貢獻他們的模型,這些模型可由任何人觸發抽查機制,並由人類陪審團評估。
他指出,Info Finance 允許外部貢獻者整合大型語言模型(LLMs),而不需硬編碼單一系統。這將促進模型多樣性,降低大規模失敗的機率。它也激勵開發者和投機者密切關注缺陷,並在問題發生時迅速行動。
其中一種建議機制涉及預測市場或決策市場。多個模型將相互競爭,參與者可對結果進行押注,從而指示哪些模型最可靠。人類陪審團或審計人員將定期抽查結果,特別是在高風險情境下。
相關閱讀:ETH 國庫激增至120億美元,Vitalik 警告槓桿風險
對加密貨幣與市場的影響
Info finance 依賴分層問責機制,並在開放競爭中尤為突出,允許有缺陷的模型被質疑或替換。人為監督則透過陪審團與審計實現。經濟激勵機制防止操縱,而透明度則讓惡意行為無所遁形。
Buterin 透過將 AI 治理與區塊鏈及交易結合,指出中心化 AI 的缺陷可能會提升對去中心化解決方案的興趣,而這些解決方案多數建立於 Ethereum 之上。此外,像 Render Network 的 RNDR 和 The Graph 的 GRT 等代幣為 AI 運算提供基礎設施,因此可從發展中受益。進一步來說,交易者也可在市場波動時利用 ETH 及這些代幣進行套利。
鏈上數據顯示,與 AI 相關的智能合約有更多 ETH 交易,而 AI 治理問題也可能影響科技股,包括 NVIDIA 和 Microsoft 等公司也參與 AI 投資。總體而言,Buterin 指出 Info Finance 能更快修正錯誤,替換有缺陷的模型並懲罰不法分子。他還補充,陪審團檢查與抽查將防止利用行為擴散。
本文首發於 Cryptotale:Buterin 推動 Info Finance 阻止 AI 治理被利用。
免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。
您也可能喜歡
金銀價格隨收益率回落走高,但12月美聯儲加息風險仍存
海灣供給修復壓制地緣溢價,國際油價小幅回落
ROI-對特朗普領導的財政部而言,拍賣的「尾部」才是最棘手之處:麥基弗
本文所表達的觀點僅代表作者本人,作者為路透專欄作家 Jamie McGeever。路透佛羅里達州奧蘭多10月6日報導——美國國債拍賣本應是枯燥、可預測且無特殊新聞價值的例行事務。然而,當前並非尋常時期,特朗普政府如今面臨國債銷售乏力成為頭條新聞的風險。 美國財政部計畫於本週發行近1200億美元國債,這是兩週以來首次除了短期國庫券外的債券發行:週二將發行580億美元三年期國債,週三為390億美元十年期國債,週四則是220億美元三十年期國債。這些拍賣在正常情況下只是微不足道的小事,然而基於9月22日至24日的拍賣表現極為疲弱,現正受到越來越多關注——尤其是9月23日的五年期國債拍賣,這場拍賣引發了自去年四月以來債券殖利率最大漲幅。此後,殖利率不僅沒有回落,反而於大多數年期持續飆升至數十年新高。 值得指出的是,美國國債拍賣“失敗”的可能性幾近於零。所謂的一級交易商——目前經紐約聯儲審核批准的26家華爾街銀行及機構,作為債券市場的造市商——將始終參與其中。它們實際上承擔了銷售的承銷責任,確保三十萬億美元的美國國債市場(全球流動性最強的市場)順利運作。 這反過來也使得整個全球金融體系得以維持。數萬億美元的全球債務、資產與市場衍生性商品皆以美國國債為基準。美國國債同時也是潤滑美國及全球金融體系“管道”所需的抵押品——包括回購協定、銀行間拆借及融資。 簡而言之,只要美國國債仍是全球金融體系的支柱,國債拍賣中永遠有買家。問題一如既往地在於最終成交的價格為何。目前,二級市場的借貸成本達到2000年代中期以來最高,因此有理由相信,美國財政部在一級市場支付的利率也將同步水漲船高。 然而,正如最近幾輪拍賣所顯示的,仍存在出現負面意外的可能性。 “大到市場無法消化”? 9月23日那場700億美元的五年期國債拍賣,是近年最令人憂慮的一次。以「投標覆蓋率」衡量,需求降至9年來最低。財政部最終以5.033%殖利率售出這批國債,高於投標截止時的市場殖利率3個基點以上。 3個基點聽起來彷彿不多,但對五年期國債拍賣而言卻極為異常。 這是自2022年6月以來最大所謂“尾差”。據摩根大通分析師表示,上一次五年期國債拍賣出現3基點“尾差”,還要追溯至2011年——當時醞釀中的債務上限危機最終導致該年8月美國信用評級被下調。 回到當下,對美國嚴峻財政前景的擔憂推高了長期借貸成本。因此,市場廣泛預期特朗普政府將逐步將財政部龐大的融資需求重心轉向殖利率曲線的中短端——即成本較低的一端。 這也是為何兩週前的五年期國債拍賣引發如此之大憂慮。3基點“尾部”在長期國債拍賣中很常見,卻極少出現在曲線所謂“腹部”的債券拍賣。如果財政部被迫支付更高溢價發行這些債券,那麼我們將面臨麻煩。 拍賣“尾部”偏大可能由多種因素導致,包括拍賣當日市場波動或是更令人擔心、可能隨時間侵蝕需求的根本性問題。這兩者經常難以釐清,因為它們並非互斥。 從較樂觀的角度看,這種不安情緒目前尚未蔓延到殖利率曲線短端。至少目前尚未發生。 3年期及10年期國債殖利率較上月拍賣時上漲約50個基點,分別在約4.96%和5.32%徘徊。30年期國債殖利率漲幅約35個基點,至5.65%。這個水準理論上足以吸引強勁需求並確保順利銷售,對吧? 大略如此。但如最終出現意料之外的變數,波動及不確定性將可能席捲整個市場。投資者將如老鷹般緊盯事態進展。 (本文觀點僅代表作者本人,作者為路透專欄作家) 喜歡這篇專欄嗎?歡迎瀏覽路透《未平倉合約》(ROI),這是您不可或缺的全球金融評論新來源。請於 LinkedIn 及 X 追蹤 ROI。 您亦可於 Apple、Spotify 或路透應用收聽《Morning Bid》每日播客。訂閱即可每週七天收聽路透記者對市場和金融領域重大新聞的深入探討。 US 5-year auction has biggest 'tail' since 2022 https://fingfx.thomsonreuters.com/gfx/mkt/dwpkmkzogpm/TAIL.png (為方便非英語母語者,路透將其報導自動化翻譯為多種其他語言。由於自動化翻譯可能有誤,或未能包含所需語境,路透不保證自動化翻譯文本的準確性,僅為方便讀者而提供自動化翻譯。對於因使用自動化翻譯功能而造成的任何損害或損失,路透不承擔任何責任。)
貨幣基金流入驟降至1580億,美債短端流動性亮起黃燈?
貨幣基金流入今年驟降至前三季1,580億美元,推動國庫券收益率走高。短端波動加大,市場擔憂短期融資收緊。
