AI專家：真相協議可能成爲信息時代的SSL

AI生成的內容，包括深度僞造和虛假音頻，模糊了現實與虛構之間的界限，導致了廣泛的混淆和操控。像Yannick Myson這樣的專家喊單在內容創作階段嵌入認證，並實施去中心化的認證系統以確保真實性。

虛假信息及其危害

2024年對人工智能(AI)可能帶來的危險發出了明確的警告，如果不採取任何保護措施。全球範圍內，從印度的大規模民主活動到臺灣緊張的政治氣候，人工智能生成的虛假信息活動留下了深刻的印記。

在臺灣，深度僞造新聞主播模糊了現實與虛構之間的界限，而在美國，一段假音頻聲稱總統拜登在勸阻新罕布什爾州的民主黨人投票，突顯了人工智能在政治操控中被武器化的容易程度。這種合成媒體的龐大數量和復雜性讓許多人在不確定的海洋中感到迷失，努力分辨事實與虛構。

然而，一些專家，如Swarm Network的創始人兼首席執行官Yannick Myson，認爲這個問題比選舉操縱更爲深刻。他提到了由AI引發的精神病，這是一種令人不安的現象，人們發展出誇大的妄想，一些研究將其與與AI聊天機器人長時間互動聯繫在一起。這種由AI引發的精神病的成本巨大；有些人失去了工作，而另一些人則接受了精神治療。

“正如深度僞造利用我們的視覺處理捷徑，人工智能精神病則利用我們的心理脆弱性，聊天機器人充當完美的回音室，驗證並放大妄想思維，”Myson說。

中心化與去中心化解決方案

Myson認爲，當前的反應措施，例如零散的事實核查舉措，根本無法應對這一日益嚴重的問題。他斷言：“行業意識到，零散的事實核查無法跟上合成媒體的速度或人工智能系統的心理操控。”

他的解決方案體現於Swarm Network，是一種積極主動的方案：在大規模嵌入認證。這涉及在內容創作的每一個環節建立來源，確保數字信息的來源可以被追蹤和認證。此外，Myson喊單去中心化認證系統，在信息在數字領域傳播時進行交叉檢查和驗證。

這一強有力的“真相基礎設施”願景與人工智能行業日益增長的擔憂產生共鳴。隨着技術以快速的速度不斷進步，其誤用的倫理和社會影響正變得愈加明顯。由復雜的人工智能生成的虛假信息所推動的對數字信息的信任侵蝕，對民主過程、社會凝聚力甚至個體心理健康構成了重大威脅。

爲了解決這個問題，有些人喊單監管響應，引用了過去一些情況下這被證明是保護用戶免受新興技術潛在風險的重要工具。然而，批評者警告說，這可能會產生抑制創新的意外效果，這一觀點似乎得到了Myson的認同。

“監管可以有所幫助，但前提是避免陷入中心化真相的陷阱。我們已經看到政府利用‘虛假信息法’來壓制辯論，”Swarm Network 的首席執行官表示。

爲了支持這一論斷，Myson 指出，歐盟官員據報道正在使用歐盟的 (EU) 數字服務法 (DSA)，該法要求刪除廣泛定義的“有害”內容，作爲“限制全球開放話語的工具”。Myson 認爲，歐盟人工智能法也造成了類似的問題。

與其制定像DSA或AI法案這樣的法律，Myson反而主張強制透明性、清晰標注合成媒體和開放的來源標準，如C2PA。他認爲：“規則應該強制證明，而不是意見。”

認證的未來

根據首席執行官的說法，像Meta和TikTok這樣的主要社交媒體平台已經意識到這一點，並因此轉向了更去中心化的事實核查方法。

“這一轉變代表了一種根本性的認識，即集中化的事實核查會造成瓶頸和單點故障。內容認證的未來並不是讓政府或公司決定什麼是真實的，”首席執行官表示。

Myson認爲這種轉變使得像Swarm Network提供的解決方案變得至關重要。Swarm並不依賴於少數集中式事實核查員，而是使用“與人工審查員協作的AI代理來創建可審計的鏈上認證記錄。”

確實，人工智能代理正迅速從理論概念轉向實際應用，從根本上改變了各個行業的運作方式。這些代理的主要好處在於它們能夠自動化和優化。它們可以在短時間內處理大量數據，識別出人類可能會錯過的模式，並且可以全天候無疲勞地運行。

然而，AI代理的廣泛採用也帶來了需要仔細解決的復雜挑戰。爲了克服這些挑戰，Myson表示他公司的做法是“將代理轉變爲透明的合作者，而不是不受限制的神諭。”他補充道：

“在Swarm中，代理將信息分解爲小的可測試聲明，他們相互交叉檢查，在需要細微差別的地方，人類介入。每一步都被記錄並錨定在鏈上，因此他們的推理是可重播的。簡而言之：沒有黑箱，只有可驗證的軌跡。”

與此同時，Myson認爲，在未來五年內，事實核查將從手動過程演變爲數字生活的內置功能，而AI代理將通過其透明度而不僅僅是速度進行評估。最終願景是將真相作爲互聯網的基礎層。

“就像SSL成爲網頁流量的默認協議一樣，真相協議將成爲信息的默認協議。這就是我們如何防止人工智能讓世界陷入噪音，”Myson總結道。