Dibandingkan dengan kemajuan monopoli sumber daya yang bersaing dalam Daya Komputasi dan Algoritme di masa lalu, ketika pasar memfokuskan perhatian pada Komputasi Edge + model kecil, itu akan membawa lebih banyak vitalitas pasar.
Penulis: Haotian
Kasus Lilli dari McKinsey memberikan pemikiran pengembangan kunci untuk pasar AI perusahaan: peluang pasar potensial dengan Komputasi Edge + model kecil. Asisten AI yang mengintegrasikan 100.000 dokumen internal ini tidak hanya mencapai tingkat adopsi 70% di antara karyawan, tetapi juga digunakan rata-rata 17 kali per minggu, yang menunjukkan tingkat keterikatan produk yang jarang terjadi dalam alat perusahaan. Berikut adalah pemikiran saya:
1）Keamanan data perusahaan adalah titik sakit: Aset pengetahuan inti yang terakumulasi oleh McKinsey selama 100 tahun serta beberapa data spesifik yang terakumulasi oleh perusahaan kecil dan menengah memiliki sensitivitas data yang sangat tinggi, dan tidak diolah di cloud publik. Bagaimana mengeksplorasi keadaan keseimbangan "data tidak keluar dari lokal, kemampuan AI tidak dikompromikan" adalah kebutuhan pasar yang sebenarnya. Komputasi Edge adalah arah eksplorasi;
2）Model kecil profesional akan menggantikan model besar umum: Pengguna perusahaan tidak membutuhkan model umum "dengan ratusan miliar parameter dan serba bisa", tetapi asisten profesional yang dapat menjawab pertanyaan di bidang tertentu dengan akurat. Sebaliknya, ada konflik alami antara universalitas model besar dan kedalaman profesional, dan dalam konteks perusahaan, model kecil seringkali lebih dihargai;
3）Keseimbangan biaya untuk membangun infrastruktur AI sendiri dan pemanggilan API: Meskipun kombinasi Komputasi Edge dan model kecil memerlukan investasi awal yang besar, namun biaya operasional jangka panjang dapat secara signifikan berkurang. Bayangkan jika model AI besar yang digunakan secara frekuent oleh 45000 karyawan berasal dari pemanggilan API, ketergantungan yang dihasilkan, skala penggunaan, dan peningkatan ulasan akan membuat pembangunan infrastruktur AI sendiri menjadi pilihan yang rasional bagi perusahaan menengah dan besar;
4）Peluang Baru di Pasar Perangkat Keras Edge: Pelatihan model besar tidak terlepas dari GPU kelas atas, tetapi persyaratan perangkat keras untuk inferensi edge sangat berbeda. Produsen chip seperti Qualcomm dan MediaTek yang mengoptimalkan prosesor untuk AI edge kini mendapatkan peluang pasar yang baik. Ketika setiap perusahaan ingin menciptakan "Lilli" sendiri, chip AI edge yang dirancang untuk efisiensi tinggi dan konsumsi daya rendah akan menjadi kebutuhan infrastruktur.
5）Pasar AI web3 terdesentralisasi juga diperkuat: Setelah permintaan daya komputasi, fine-tuning, dan algoritme pada model kecil oleh perusahaan meningkat, bagaimana menyeimbangkan penjadwalan sumber daya akan menjadi masalah. Penjadwalan sumber daya terpusat yang tradisional akan menjadi tantangan, ini secara langsung akan menghasilkan permintaan pasar yang besar untuk jaringan fine-tuning model kecil AI web3 terdesentralisasi, platform layanan daya komputasi terdesentralisasi, dan sebagainya.
Ketika pasar masih mendiskusikan batas kemampuan umum AGI, lebih menyenangkan melihat banyak pengguna di sektor perusahaan telah menggali nilai praktis AI. Jelas, dibandingkan dengan kemajuan monopoli sumber daya di bidang Daya Komputasi dan Algoritme di masa lalu, ketika pasar memusatkan perhatian pada Komputasi Edge + model kecil, hal ini akan membawa lebih banyak vitalitas pasar.
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Apa yang ditawarkan kasus Lilli McKinsey untuk pasar AI perusahaan?
Penulis: Haotian
Kasus Lilli dari McKinsey memberikan pemikiran pengembangan kunci untuk pasar AI perusahaan: peluang pasar potensial dengan Komputasi Edge + model kecil. Asisten AI yang mengintegrasikan 100.000 dokumen internal ini tidak hanya mencapai tingkat adopsi 70% di antara karyawan, tetapi juga digunakan rata-rata 17 kali per minggu, yang menunjukkan tingkat keterikatan produk yang jarang terjadi dalam alat perusahaan. Berikut adalah pemikiran saya:
1）Keamanan data perusahaan adalah titik sakit: Aset pengetahuan inti yang terakumulasi oleh McKinsey selama 100 tahun serta beberapa data spesifik yang terakumulasi oleh perusahaan kecil dan menengah memiliki sensitivitas data yang sangat tinggi, dan tidak diolah di cloud publik. Bagaimana mengeksplorasi keadaan keseimbangan "data tidak keluar dari lokal, kemampuan AI tidak dikompromikan" adalah kebutuhan pasar yang sebenarnya. Komputasi Edge adalah arah eksplorasi;
2）Model kecil profesional akan menggantikan model besar umum: Pengguna perusahaan tidak membutuhkan model umum "dengan ratusan miliar parameter dan serba bisa", tetapi asisten profesional yang dapat menjawab pertanyaan di bidang tertentu dengan akurat. Sebaliknya, ada konflik alami antara universalitas model besar dan kedalaman profesional, dan dalam konteks perusahaan, model kecil seringkali lebih dihargai;
3）Keseimbangan biaya untuk membangun infrastruktur AI sendiri dan pemanggilan API: Meskipun kombinasi Komputasi Edge dan model kecil memerlukan investasi awal yang besar, namun biaya operasional jangka panjang dapat secara signifikan berkurang. Bayangkan jika model AI besar yang digunakan secara frekuent oleh 45000 karyawan berasal dari pemanggilan API, ketergantungan yang dihasilkan, skala penggunaan, dan peningkatan ulasan akan membuat pembangunan infrastruktur AI sendiri menjadi pilihan yang rasional bagi perusahaan menengah dan besar;
4）Peluang Baru di Pasar Perangkat Keras Edge: Pelatihan model besar tidak terlepas dari GPU kelas atas, tetapi persyaratan perangkat keras untuk inferensi edge sangat berbeda. Produsen chip seperti Qualcomm dan MediaTek yang mengoptimalkan prosesor untuk AI edge kini mendapatkan peluang pasar yang baik. Ketika setiap perusahaan ingin menciptakan "Lilli" sendiri, chip AI edge yang dirancang untuk efisiensi tinggi dan konsumsi daya rendah akan menjadi kebutuhan infrastruktur.
5）Pasar AI web3 terdesentralisasi juga diperkuat: Setelah permintaan daya komputasi, fine-tuning, dan algoritme pada model kecil oleh perusahaan meningkat, bagaimana menyeimbangkan penjadwalan sumber daya akan menjadi masalah. Penjadwalan sumber daya terpusat yang tradisional akan menjadi tantangan, ini secara langsung akan menghasilkan permintaan pasar yang besar untuk jaringan fine-tuning model kecil AI web3 terdesentralisasi, platform layanan daya komputasi terdesentralisasi, dan sebagainya.
Ketika pasar masih mendiskusikan batas kemampuan umum AGI, lebih menyenangkan melihat banyak pengguna di sektor perusahaan telah menggali nilai praktis AI. Jelas, dibandingkan dengan kemajuan monopoli sumber daya di bidang Daya Komputasi dan Algoritme di masa lalu, ketika pasar memusatkan perhatian pada Komputasi Edge + model kecil, hal ini akan membawa lebih banyak vitalitas pasar.