過去のコンピューティングパワーやアルゴリズムのリソース独占的な飛躍に比べ、市場がエッジコンピューティング + 小モデル方式に重心を置くと、より大きな市場活力がもたらされます。
作者: Haotian
マッキンゼーのLilliケースは、企業AI市場に重要な発展の考え方を提供しました:エッジコンピューティング + 小モデルの潜在的な市場機会。この10万件の内部文書を統合したAIアシスタントは、70%の従業員の採用率を得ただけでなく、平均して週に17回使用されており、この製品の粘着性は企業ツールの中では非常に珍しいものです。以下、私の考えについて話します。
1)企業データの安全性は痛点:マッキンゼーの100年にわたる蓄積されたコア知識資産や、中小企業が蓄積した特定データは非常に強いデータの敏感性を持っており、公共クラウド上で処理するものではありません。「データはローカルから出さず、AIの能力は妥協しない」というバランス状態を探求することが、実際の市場の必需品です。エッジコンピューティングは一つの探索方向です;
2)専門の小モデルが汎用の大モデルに取って代わる:企業ユーザーが必要とするのは「百億パラメータ、オールマイティ」の汎用モデルではなく、特定の領域の問題に正確に答える専門アシスタントです。それに対して、大モデルの汎用性と専門性の深さの間には自然な矛盾があります。企業のシーンでは、小モデルの方がより重視されることが多いです;
3)自社での AI インフラと API 呼び出しのコストバランス:エッジコンピューティングと小型モデルの組み合わせは初期投資が大きいものの、長期的な運用コストは著しく低下します。もし 45000 人の従業員が高頻度で使用する AI 大モデルが API 呼び出しから得られる場合、この依存関係、使用規模、そして評価の増加は、自社での AI インフラの構築が中規模および大規模企業にとって合理的な選択となるでしょう;
4)エッジハードウェア市場の新しい機会:大規模モデルのトレーニングには高性能GPUが欠かせませんが、エッジ推論に対するハードウェアの要求はまったく異なります。クアルコムやメディアテックなどの半導体メーカーがエッジAI向けに最適化したプロセッサが市場の好機を迎えています。すべての企業が自社の"Lilli"を構築しようとする中、低消費電力、高効率で設計されたエッジAIチップがインフラの必需品となるでしょう;
5)分散型 web3 AI 市場も同時に強化される:企業が小さなモデルにおけるコンピューティングパワー、ファインチューニング、アルゴリズムなどの需要が喚起されると、リソースの調整をどのようにバランスさせるかが問題になる。従来の中央集権的なリソース調整は課題となり、これは直接的に web3AI の分散型小モデルのファインチューニングネットワークや、分散型コンピューティングパワーサービスプラットフォームなどに大きな市場需要をもたらす。
市場がAGIの汎用能力の限界について議論している間、多くの企業のエンドユーザーがAIの実用的価値を掘り下げているのを見るのは明るいニュースです。明らかに、過去のコンピューティングパワーやアルゴリズムの資源独占的な飛躍と比較して、市場がエッジコンピューティング + 小モデル方式に重心を置くと、より大きな市場の活力をもたらすでしょう。
235k 投稿
206k 投稿
150k 投稿
80k 投稿
67k 投稿
65k 投稿
61k 投稿
59k 投稿
52k 投稿
51k 投稿
マッキンゼーのリリケースは企業AI市場にどのような発展のアイデアを提供していますか?
作者: Haotian
マッキンゼーのLilliケースは、企業AI市場に重要な発展の考え方を提供しました:エッジコンピューティング + 小モデルの潜在的な市場機会。この10万件の内部文書を統合したAIアシスタントは、70%の従業員の採用率を得ただけでなく、平均して週に17回使用されており、この製品の粘着性は企業ツールの中では非常に珍しいものです。以下、私の考えについて話します。
1)企業データの安全性は痛点:マッキンゼーの100年にわたる蓄積されたコア知識資産や、中小企業が蓄積した特定データは非常に強いデータの敏感性を持っており、公共クラウド上で処理するものではありません。「データはローカルから出さず、AIの能力は妥協しない」というバランス状態を探求することが、実際の市場の必需品です。エッジコンピューティングは一つの探索方向です;
2)専門の小モデルが汎用の大モデルに取って代わる:企業ユーザーが必要とするのは「百億パラメータ、オールマイティ」の汎用モデルではなく、特定の領域の問題に正確に答える専門アシスタントです。それに対して、大モデルの汎用性と専門性の深さの間には自然な矛盾があります。企業のシーンでは、小モデルの方がより重視されることが多いです;
3)自社での AI インフラと API 呼び出しのコストバランス:エッジコンピューティングと小型モデルの組み合わせは初期投資が大きいものの、長期的な運用コストは著しく低下します。もし 45000 人の従業員が高頻度で使用する AI 大モデルが API 呼び出しから得られる場合、この依存関係、使用規模、そして評価の増加は、自社での AI インフラの構築が中規模および大規模企業にとって合理的な選択となるでしょう;
4)エッジハードウェア市場の新しい機会:大規模モデルのトレーニングには高性能GPUが欠かせませんが、エッジ推論に対するハードウェアの要求はまったく異なります。クアルコムやメディアテックなどの半導体メーカーがエッジAI向けに最適化したプロセッサが市場の好機を迎えています。すべての企業が自社の"Lilli"を構築しようとする中、低消費電力、高効率で設計されたエッジAIチップがインフラの必需品となるでしょう;
5)分散型 web3 AI 市場も同時に強化される:企業が小さなモデルにおけるコンピューティングパワー、ファインチューニング、アルゴリズムなどの需要が喚起されると、リソースの調整をどのようにバランスさせるかが問題になる。従来の中央集権的なリソース調整は課題となり、これは直接的に web3AI の分散型小モデルのファインチューニングネットワークや、分散型コンピューティングパワーサービスプラットフォームなどに大きな市場需要をもたらす。
市場がAGIの汎用能力の限界について議論している間、多くの企業のエンドユーザーがAIの実用的価値を掘り下げているのを見るのは明るいニュースです。明らかに、過去のコンピューティングパワーやアルゴリズムの資源独占的な飛躍と比較して、市場がエッジコンピューティング + 小モデル方式に重心を置くと、より大きな市場の活力をもたらすでしょう。