**AI生成コンテンツ、ディープフェイクやフェイクオーディオを含むものは、現実と虚構の境界を曖昧にし、広範な混乱と操作を引き起こしました。ヤニック・ミソンのような専門家は、コンテンツ作成段階で確認を組み込むことと、真偽性を確保するための分散型確認システムの実装を提唱しています。**## 偽情報とその危険性2024年は、人工知能(AI)が安全策が講じられなければもたらす危険性についての厳しい警告となりました。インドの大規模な民主的活動から台湾の緊迫した政治的気候に至るまで、AIによって生成された偽情報キャンペーンはその痕跡を残しました。台湾では、ディープフェイクニュースキャスターが現実と虚構の境界を曖昧にし、アメリカでは、バイデン大統領がニューハンプシャーの民主党員に投票を思いとどまるように促しているという偽の音声が、AIが政治的操作のために武器化される容易さを浮き彫りにしました。この合成メディアの膨大な量と洗練さは、多くの人々を不安の海で漂わせ、真実と虚偽を見分けるのに苦労させています。しかし、Swarm Networkの創設者でCEOのヤニック・ミソンのような専門家たちは、問題は選挙操作よりも深刻であると主張しています。彼は、AIチャットボットとの長期的なインタラクションに関連付けられている、壮大な妄想を発展させる人々の不穏な現象であるAIによる精神病を引用しています。このAIによる精神病のコストは莫大であり、職を失った人もいれば、精神科治療を受けることになった人もいます。「ディープフェイクが私たちの視覚処理のショートカットを利用するのと同様に、AI精神病は私たちの心理的な脆弱性を利用し、チャットボットが妄想的な思考を検証し増幅する完璧なエコーチェンバーとして機能する」とマイソンは述べた。## 中央集権型と分散型ソリューションマイソンは、現在の反応的措置、例えばパッチワークのファクトチェックの取り組みが、この高まる問題に対抗するには単に不十分だと考えています。「業界が目覚めつつあるのは、パッチワークのファクトチェックは合成メディアの速度やAIシステムの心理的操作に追いつけないということです」と彼は主張しています。彼の解決策は、Swarm Networkに具現化されており、積極的なものである：スケールでの確認を埋め込むこと。これは、コンテンツ作成のまさにその時点で出所を確立し、デジタル情報の起源を追跡し、認証できることを保証することを含む。さらに、Mysonは、情報がデジタル領域全体に広がる際にクロスチェックされ、検証される分散型確認システムを提唱している。この堅牢な「真実のインフラ」のビジョンは、AI業界内で高まる懸念と共鳴しています。技術が急速に進歩し続ける中、その悪用の倫理的および社会的影響がますます明らかになっています。高度なAI生成の虚偽によって煽られるデジタル情報への信頼の erosion は、民主的プロセス、社会的結束、さらには個人のメンタルウェルビーイングに対して重大な脅威をもたらします。これに対抗するために、一部の人々は規制の対応を提唱しており、これは新興技術に関連する潜在的なリスクからユーザーを保護するための重要な手段であった過去の事例を引用しています。しかし、批評家は、これがイノベーションを抑制する意図しない影響を持つ可能性があると警告しており、マイソンはこの見解に同意しているようです。「規制は役立つことができますが、真実を中央集権化する罠を避ける場合に限ります。私たちは政府が『誤情報法』を武器化して議論を沈黙させるのを見てきました」とSwarm NetworkのCEOは述べました。この主張を裏付けるために、マイソンはEUの官僚が「有害」と広く定義されたコンテンツの削除を義務付ける(EU)デジタルサービス法(DSA)をどのように使用しているかを指摘し、これを「世界中のオープンな議論を制約するための道具」としています。マイソンは、EU AI法も同様の問題を引き起こすと主張しています。DSAやAI法のような法案を制定する代わりに、マイソンは透明性の義務化、合成メディアの明確なラベリング、C2PAのようなオープンな出所基準を提唱している。「ルールは証拠を強制すべきであり、意見ではない」と彼は主張した。 ## ベリフィケーションの未来CEOによると、MetaやTikTokのような主要なソーシャルメディアプラットフォームはこれを認識しており、それ以来、事実確認に対してより分散型のアプローチにシフトしています。「この変化は、中央集権的なファクトチェックがボトルネックと単一障害点を生むという根本的な認識を表しています。コンテンツの確認の未来は、政府や企業に何が真実であるかを決定する権力を与えることではありません。」とCEOは述べました。Mysonは、このシフトがSwarm Networkが提供するようなソリューションを重要にすると考えています。中央集権的なファクトチェック者に依存するのではなく、Swarmは「人間のレビュアーと協力して動作するAIエージェントを使用して、確認された主張の監査可能なオンチェーン記録を作成します。」確かに、AIエージェントは理論的概念から実用的なアプリケーションへと急速に移行しており、さまざまなセクターの運営方法を根本的に変えています。これらのエージェントの主な利点は、自動化と最適化の能力です。彼らは短期間で膨大なデータを処理し、人間が見逃すかもしれないパターンを特定し、疲労なしに24時間年中無休で稼働することができます。それでも、AIエージェントの広範な採用は、慎重に対処する必要がある複雑な課題も引き起こします。これらの課題のいくつかを克服するために、マイソン氏は彼の会社のアプローチを「エージェントを制御されていないオラクルではなく、透明なコラボレーターに変えることだ」と述べました。彼は次のように付け加えました:「Swarmでは、エージェントが情報を小さく、テスト可能な主張に分解し、互いにクロスチェックを行い、微妙な点が必要な場合には人間が介入します。すべてのステップはログに記録され、オンチェーンにアンカーされるため、その推論は再生可能です。要するに：ブラックボックスはなく、検証可能なトレイルだけです。」一方、マイソンは、今後5年間で、ファクトチェックが手動プロセスからデジタルライフの組み込み機能へと進化し、AIエージェントは速度だけでなく、その透明性によって評価されるようになると考えています。最終的なビジョンは、真実をインターネットの基盤となるレイヤーにすることです。「SSLがウェブトラフィックのデフォルトになったのと同じように、真実プロトコルが情報のデフォルトになるでしょう。そして、それが私たちがAIが世界をノイズで溺れさせるのを防ぐ方法です」とマイソンは結論付けました。
AIエキスパート：真実プロトコルは情報時代のSSLになる可能性がある
AI生成コンテンツ、ディープフェイクやフェイクオーディオを含むものは、現実と虚構の境界を曖昧にし、広範な混乱と操作を引き起こしました。ヤニック・ミソンのような専門家は、コンテンツ作成段階で確認を組み込むことと、真偽性を確保するための分散型確認システムの実装を提唱しています。
偽情報とその危険性
2024年は、人工知能(AI)が安全策が講じられなければもたらす危険性についての厳しい警告となりました。インドの大規模な民主的活動から台湾の緊迫した政治的気候に至るまで、AIによって生成された偽情報キャンペーンはその痕跡を残しました。
台湾では、ディープフェイクニュースキャスターが現実と虚構の境界を曖昧にし、アメリカでは、バイデン大統領がニューハンプシャーの民主党員に投票を思いとどまるように促しているという偽の音声が、AIが政治的操作のために武器化される容易さを浮き彫りにしました。この合成メディアの膨大な量と洗練さは、多くの人々を不安の海で漂わせ、真実と虚偽を見分けるのに苦労させています。
しかし、Swarm Networkの創設者でCEOのヤニック・ミソンのような専門家たちは、問題は選挙操作よりも深刻であると主張しています。彼は、AIチャットボットとの長期的なインタラクションに関連付けられている、壮大な妄想を発展させる人々の不穏な現象であるAIによる精神病を引用しています。このAIによる精神病のコストは莫大であり、職を失った人もいれば、精神科治療を受けることになった人もいます。
「ディープフェイクが私たちの視覚処理のショートカットを利用するのと同様に、AI精神病は私たちの心理的な脆弱性を利用し、チャットボットが妄想的な思考を検証し増幅する完璧なエコーチェンバーとして機能する」とマイソンは述べた。
中央集権型と分散型ソリューション
マイソンは、現在の反応的措置、例えばパッチワークのファクトチェックの取り組みが、この高まる問題に対抗するには単に不十分だと考えています。「業界が目覚めつつあるのは、パッチワークのファクトチェックは合成メディアの速度やAIシステムの心理的操作に追いつけないということです」と彼は主張しています。
彼の解決策は、Swarm Networkに具現化されており、積極的なものである：スケールでの確認を埋め込むこと。これは、コンテンツ作成のまさにその時点で出所を確立し、デジタル情報の起源を追跡し、認証できることを保証することを含む。さらに、Mysonは、情報がデジタル領域全体に広がる際にクロスチェックされ、検証される分散型確認システムを提唱している。
この堅牢な「真実のインフラ」のビジョンは、AI業界内で高まる懸念と共鳴しています。技術が急速に進歩し続ける中、その悪用の倫理的および社会的影響がますます明らかになっています。高度なAI生成の虚偽によって煽られるデジタル情報への信頼の erosion は、民主的プロセス、社会的結束、さらには個人のメンタルウェルビーイングに対して重大な脅威をもたらします。
これに対抗するために、一部の人々は規制の対応を提唱しており、これは新興技術に関連する潜在的なリスクからユーザーを保護するための重要な手段であった過去の事例を引用しています。しかし、批評家は、これがイノベーションを抑制する意図しない影響を持つ可能性があると警告しており、マイソンはこの見解に同意しているようです。
「規制は役立つことができますが、真実を中央集権化する罠を避ける場合に限ります。私たちは政府が『誤情報法』を武器化して議論を沈黙させるのを見てきました」とSwarm NetworkのCEOは述べました。
この主張を裏付けるために、マイソンはEUの官僚が「有害」と広く定義されたコンテンツの削除を義務付ける(EU)デジタルサービス法(DSA)をどのように使用しているかを指摘し、これを「世界中のオープンな議論を制約するための道具」としています。マイソンは、EU AI法も同様の問題を引き起こすと主張しています。
DSAやAI法のような法案を制定する代わりに、マイソンは透明性の義務化、合成メディアの明確なラベリング、C2PAのようなオープンな出所基準を提唱している。「ルールは証拠を強制すべきであり、意見ではない」と彼は主張した。
ベリフィケーションの未来
CEOによると、MetaやTikTokのような主要なソーシャルメディアプラットフォームはこれを認識しており、それ以来、事実確認に対してより分散型のアプローチにシフトしています。
「この変化は、中央集権的なファクトチェックがボトルネックと単一障害点を生むという根本的な認識を表しています。コンテンツの確認の未来は、政府や企業に何が真実であるかを決定する権力を与えることではありません。」とCEOは述べました。
Mysonは、このシフトがSwarm Networkが提供するようなソリューションを重要にすると考えています。中央集権的なファクトチェック者に依存するのではなく、Swarmは「人間のレビュアーと協力して動作するAIエージェントを使用して、確認された主張の監査可能なオンチェーン記録を作成します。」
確かに、AIエージェントは理論的概念から実用的なアプリケーションへと急速に移行しており、さまざまなセクターの運営方法を根本的に変えています。これらのエージェントの主な利点は、自動化と最適化の能力です。彼らは短期間で膨大なデータを処理し、人間が見逃すかもしれないパターンを特定し、疲労なしに24時間年中無休で稼働することができます。
それでも、AIエージェントの広範な採用は、慎重に対処する必要がある複雑な課題も引き起こします。これらの課題のいくつかを克服するために、マイソン氏は彼の会社のアプローチを「エージェントを制御されていないオラクルではなく、透明なコラボレーターに変えることだ」と述べました。彼は次のように付け加えました:
「Swarmでは、エージェントが情報を小さく、テスト可能な主張に分解し、互いにクロスチェックを行い、微妙な点が必要な場合には人間が介入します。すべてのステップはログに記録され、オンチェーンにアンカーされるため、その推論は再生可能です。要するに：ブラックボックスはなく、検証可能なトレイルだけです。」
一方、マイソンは、今後5年間で、ファクトチェックが手動プロセスからデジタルライフの組み込み機能へと進化し、AIエージェントは速度だけでなく、その透明性によって評価されるようになると考えています。最終的なビジョンは、真実をインターネットの基盤となるレイヤーにすることです。
「SSLがウェブトラフィックのデフォルトになったのと同じように、真実プロトコルが情報のデフォルトになるでしょう。そして、それが私たちがAIが世界をノイズで溺れさせるのを防ぐ方法です」とマイソンは結論付けました。