MORE FOR YOUAIモデルは、人間のように問題を考えることはできません。彼らは、トレーニングデータから学んだパターンに基づいて次に何が来るかを予測します。これにより、従来のソフトウェアシステムでは存在しない攻撃に対して脆弱になります。プロンプトインジェクション攻撃は、AIを騙してその指示を無視させることができます。データインジェクションや脱獄は仮想的なリスクではなく、すでに発生しています。Freysaは、資金を保持する自律エージェントとして脱獄チャレンジとして立ち上げられ、どんな状況でも解放されないことになっています。あるユーザーは、「新しいセッション」を導入することでエージェントを成功裏に騙し、approveTransferおよびrejectTransferの定義を再解釈し、$100の「入金」を提供しました。これは、ねじれた論理により、賞金プール全体の解放を引き起こしました(約13.19ETH、~$47、000)。
暗号資産企業がAIをどのように活用すべきか、そしてどのように活用すべきでないか
ゲッティイメージズもしあなたが古代ギリシャを学ぶ幸運に恵まれたのなら、あるいは彼らの過ちから学ぶのに歴史に興味があるのなら、プロメテウスの物語に馴染みがあるでしょう。火が家を温め、食べ物を調理し、道具を鍛える前、伝説によれば火は神々の特権であり、彼らはそれを自己中心的に保持していました。タイタンのプロメテウスは、人間のために火を盗むためにオリンポス山の頂上に登りました。人間が許可なく強力なものを与えられたことに怒ったゼウスは、プロメテウスを岩に鎖でつなぎ、鷲が毎日彼の肝臓を食べることになります。
AIを現代のプロメテウスの火に例えることは、特に暗号通貨にとって関連性があります。AIは根本的な信頼の問題を抱えており、ブロックチェーン技術がそれを解決するために独自の位置にあります。ほとんどの暗号会社はまだ軽量アプリケーションにAIを使用していますが、より深い統合の可能性は巨大です。それでも、暗号産業がこれらの技術を統合することにますます意欲的になる中で、一部のアプリケーションは完璧に理にかなっている一方で、他のアプリケーションは暗号が築かれたセキュリティの基盤を焼き払う恐れがあります。
今日、多くのユーザー向けの暗号会社は、比較的無害な方法でAIを使用しています。例えば、ChainGPT、Eternal AI、Virtuals Protocolはすべて、ユーザーの質問に答えるためのソーシャルチャットボットを展開したり、複雑なダッシュボードのための自然言語インターフェースを作成したり、ユーザーが対話できるソーシャルメディアで製品に楽しいキャラクターを与えたりしています。
これらのアプリケーションは、AIを基本的に何であるか、すなわち人間の言語を理解し生成することに優れた高度なパターンマッチングシステムとして扱っています。大規模な言語モデルは文脈を理解し、有益な応答を生成する点で注目に値しますが、それでもなお基本的に予測不可能なままです。
ディープAI統合の誘惑
暗号企業が危険な遊びを始めるのは、AIシステムに機密操作への直接アクセスを許可するときです。一部のスタートアップは、ユーザーの資金を移動させたり、スマートコントラクトの呼び出しを実行したり、新しいツールであるModel Context Protocolを使用して外部リソースにアクセスしたりできる自律エージェントの実験を行っていますが、すべて人間の監視なしで行われます。
MORE FOR YOUAIモデルは、人間のように問題を考えることはできません。彼らは、トレーニングデータから学んだパターンに基づいて次に何が来るかを予測します。これにより、従来のソフトウェアシステムでは存在しない攻撃に対して脆弱になります。プロンプトインジェクション攻撃は、AIを騙してその指示を無視させることができます。データインジェクションや脱獄は仮想的なリスクではなく、すでに発生しています。Freysaは、資金を保持する自律エージェントとして脱獄チャレンジとして立ち上げられ、どんな状況でも解放されないことになっています。あるユーザーは、「新しいセッション」を導入することでエージェントを成功裏に騙し、approveTransferおよびrejectTransferの定義を再解釈し、$100の「入金」を提供しました。これは、ねじれた論理により、賞金プール全体の解放を引き起こしました(約13.19ETH、~$47、000)。
実際の問題は、企業がこれらのモデルに内部ツール、機密データ、さらにはオンチェーン署名権限などの深いアクセスを許可する時に始まります。これは大きな警告信号です。AIシステムに取引に署名したり、財務データにアクセスする能力を与えると、根本的に新しい攻撃面を作り出します。暗号業界は、「コードは法律」というのは、出力が予測可能で決定論的な場合にのみ機能することを痛感しました。
AIイノベーションへの戦略的パス
理想的には、AIとブロックチェーンシステムを完全に統合することは避けるべきです。代わりに、オンチェーンに何を載せるかについては慎重であるべきです。オンチェーンが少ないほど良いのです。暗号はAIソフトウェアをホストする必要はなく、ただAIを保護し管理する必要があります。ブロックチェーンは、実際に信頼性が必要な部分のみを処理するべきです：支払い、アイデンティティ、アクセス管理、そしてガバナンス。実際のAI計算はオフチェーンで行われるべきです。
この実用的なアプローチは大きな可能性を解き放ちます。エージェントはオンチェーンポリシーに従って管理され、ブロックチェーンの決済レールを通じてより自律的になり、ウォレットアドレスに関連付けられた評判を築くことができます。今日の暗号会議で最もホットなトピックは、エージェント間のコミュニケーション、交渉、そしてコラボレーションです。自分自身のウォレットアドレスを持つAIエージェントが行動を監査可能かつ取り消し可能にする様子を想像してみてください。
AI計算はしばらくオンチェーンでは行われず、非決定論的計算が決定論的なオンチェーン世界とインターフェースする方法が必要です。幸いにも、機密性があり検証可能な計算を達成するための複数の暗号技術があります：信頼された実行環境、ゼロ知識証明、そしてマルチパーティ計算です。ブロックチェーンベースのレピュテーションシステムは、AIエージェントの行動を時間の経過とともに追跡し、必要不可欠な説明責任のメカニズムを作成します。
このアプローチはAIの根本的な信頼問題を解決します。技術の強制的な統合の代わりに、エージェントがアイデンティティ、権限、支払いのためのウォレットを持つ、よりエレガントな解決策を得ることができます。その結果、詐欺、プライバシー侵害、またはセキュリティ問題に対する懸念なしに、私たちの日常生活の一部となる信頼できないエージェントが生まれる可能性があります。
暗号通貨とAIの統合が本当に期待できる唯一の分野は、分散型コンピュートネットワークです。トークンインセンティブを使用して分散したGPUリソースを調整するプロジェクトは、AI開発における実際のボトルネックに対処しています。今日のAIの状況は、大規模なモデルのトレーニングと実行に必要な膨大なコンピューティングリソースへのアクセスを制御する少数のクラウドプロバイダーによって支配されています。これはAIをブロックチェーン上に置くことではなく、むしろ新しい種類のインフラストラクチャレイヤーを調整し、インセンティブを与えるためにブロックチェーンメカニズムを使用することです。
AIとプロメテウスの比較は、少々過剰に感じられます。AIは、自ら成長し、反復する可能性を持った本当に素晴らしい成果です。私たちが期待すべきことです。
挑戦はプロメテウスのようになることではなく、ゼウスのようにならないことです。AIは自由に適用すべきですが、注意が必要です。暗号における不適切な適用は、私たちの肝臓が永遠に食べられることにはならないかもしれませんが、業界が何年もかけて築いてきた唯一のもの、信頼のないシステムを危険にさらす可能性があります。それはビルダーやユーザーを永遠に遠ざけることになります。少なくとも信頼のないシステムはまだ守る価値のあるものです。