En comparación con el avance monopolístico de recursos en potencia computacional y algoritmos del pasado, cuando el mercado se centra en la computación Edge + modelos pequeños, se generará una mayor vitalidad en el mercado.
Escrito por: Haotian
El caso Lilli de McKinsey proporciona una idea de desarrollo clave para el mercado de la IA empresarial: la oportunidad potencial de mercado de la computación periférica + modelos pequeños. El asistente de IA, que consolida 100.000 documentos internos, no solo tiene una tasa de adopción del 70% por parte de los empleados, sino que también se utiliza una media de 17 veces a la semana, una adherencia del producto que rara vez se ve en las herramientas empresariales. Esto es lo que pienso:
La seguridad de los datos empresariales es un punto crítico: los activos de conocimiento central acumulados por McKinsey durante 100 años y algunos datos específicos acumulados por pequeñas y medianas empresas tienen una sensibilidad de datos muy alta, y no se deben manejar en la nube pública. Cómo explorar un estado de equilibrio donde "los datos no salgan de la localidad, y la capacidad de IA no se reduzca" es una necesidad urgente del mercado. La Computación Edge es una dirección de exploración;
Los pequeños modelos especializados reemplazarán a los grandes modelos generales: los usuarios empresariales no necesitan un modelo general "de cien mil millones de parámetros y todo en uno", sino un asistente profesional que pueda responder con precisión a problemas en campos específicos. En comparación, existe una contradicción natural entre la versatilidad de los grandes modelos y la profundidad profesional, y en escenarios empresariales a menudo se valora más los pequeños modelos;
3）Equilibrio de costos para la construcción de infraestructuras de IA y llamadas a API: A pesar de que la combinación de Computación Edge y modelos pequeños requiere una inversión inicial considerable, los costos operativos a largo plazo se reducen significativamente. Imagina que si 45000 empleados utilizan con frecuencia un gran modelo de IA que proviene de llamadas a API, esta dependencia, el aumento en la escala de uso y las opiniones harían que la construcción de infraestructuras de IA se convierta en una elección racional para las empresas medianas y grandes.
Nuevas oportunidades en el mercado de hardware periférico: El entrenamiento de modelos grandes es inseparable de las GPU de gama alta, pero la inferencia perimetral tiene requisitos de hardware completamente diferentes. Qualcomm, MediaTek y otros fabricantes de chips están abriendo oportunidades de mercado para los procesadores optimizados para la IA periférica. Cuando todas las empresas quieran construir su propio "Lilli", los chips de IA periféricos diseñados para un bajo consumo de energía y una alta eficiencia se convertirán en una necesidad para la infraestructura;
El mercado descentralizado de web3 AI también se fortalece: una vez que las empresas comiencen a tener demanda en potencia computacional, ajuste fino, algoritmo, etc. en modelos pequeños, cómo equilibrar la programación de recursos se convertirá en un problema. La programación de recursos centralizada tradicional se volverá un desafío, lo que generará una gran demanda de mercado para redes de ajuste fino de modelos pequeños descentralizados en web3 AI, plataformas de servicios de potencia computacional descentralizadas, entre otros.
Cuando el mercado todavía discute los límites de la capacidad general de la AGI, es más gratificante ver que muchos usuarios empresariales ya están explorando el valor práctico de la IA. Claramente, en comparación con el avance monopolístico de recursos que se centraba en la potencia computacional y el algoritmo, cuando el mercado pone su énfasis en la Computación Edge + modelos pequeños, se generará una mayor vitalidad en el mercado.
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
¿Qué ideas de desarrollo proporciona el caso de Lilli de McKinsey para el mercado de IA empresarial?
Escrito por: Haotian
El caso Lilli de McKinsey proporciona una idea de desarrollo clave para el mercado de la IA empresarial: la oportunidad potencial de mercado de la computación periférica + modelos pequeños. El asistente de IA, que consolida 100.000 documentos internos, no solo tiene una tasa de adopción del 70% por parte de los empleados, sino que también se utiliza una media de 17 veces a la semana, una adherencia del producto que rara vez se ve en las herramientas empresariales. Esto es lo que pienso:
La seguridad de los datos empresariales es un punto crítico: los activos de conocimiento central acumulados por McKinsey durante 100 años y algunos datos específicos acumulados por pequeñas y medianas empresas tienen una sensibilidad de datos muy alta, y no se deben manejar en la nube pública. Cómo explorar un estado de equilibrio donde "los datos no salgan de la localidad, y la capacidad de IA no se reduzca" es una necesidad urgente del mercado. La Computación Edge es una dirección de exploración;
Los pequeños modelos especializados reemplazarán a los grandes modelos generales: los usuarios empresariales no necesitan un modelo general "de cien mil millones de parámetros y todo en uno", sino un asistente profesional que pueda responder con precisión a problemas en campos específicos. En comparación, existe una contradicción natural entre la versatilidad de los grandes modelos y la profundidad profesional, y en escenarios empresariales a menudo se valora más los pequeños modelos;
3）Equilibrio de costos para la construcción de infraestructuras de IA y llamadas a API: A pesar de que la combinación de Computación Edge y modelos pequeños requiere una inversión inicial considerable, los costos operativos a largo plazo se reducen significativamente. Imagina que si 45000 empleados utilizan con frecuencia un gran modelo de IA que proviene de llamadas a API, esta dependencia, el aumento en la escala de uso y las opiniones harían que la construcción de infraestructuras de IA se convierta en una elección racional para las empresas medianas y grandes.
Nuevas oportunidades en el mercado de hardware periférico: El entrenamiento de modelos grandes es inseparable de las GPU de gama alta, pero la inferencia perimetral tiene requisitos de hardware completamente diferentes. Qualcomm, MediaTek y otros fabricantes de chips están abriendo oportunidades de mercado para los procesadores optimizados para la IA periférica. Cuando todas las empresas quieran construir su propio "Lilli", los chips de IA periféricos diseñados para un bajo consumo de energía y una alta eficiencia se convertirán en una necesidad para la infraestructura;
El mercado descentralizado de web3 AI también se fortalece: una vez que las empresas comiencen a tener demanda en potencia computacional, ajuste fino, algoritmo, etc. en modelos pequeños, cómo equilibrar la programación de recursos se convertirá en un problema. La programación de recursos centralizada tradicional se volverá un desafío, lo que generará una gran demanda de mercado para redes de ajuste fino de modelos pequeños descentralizados en web3 AI, plataformas de servicios de potencia computacional descentralizadas, entre otros.
Cuando el mercado todavía discute los límites de la capacidad general de la AGI, es más gratificante ver que muchos usuarios empresariales ya están explorando el valor práctico de la IA. Claramente, en comparación con el avance monopolístico de recursos que se centraba en la potencia computacional y el algoritmo, cuando el mercado pone su énfasis en la Computación Edge + modelos pequeños, se generará una mayor vitalidad en el mercado.