A Huaxi Securities prevê que o mercado global de software de IA atingirá US$ 126 bilhões em 2025, com uma taxa composta de crescimento de 41,02% de 2021 a 2025.
Por trás da prosperidade do ChatGPT está o suporte do poder de computação astronômico.
De acordo com estimativas, em termos de servidores de treinamento de IA, um único treinamento de modelo de linguagem grande impulsiona a demanda por servidores de treinamento de IA para cerca de 200 milhões de dólares americanos; em termos de servidores de raciocínio de IA, como o ChatGPT, pode impulsionar a demanda por servidores de raciocínio para cerca de 4,5 bilhões de dólares americanos na fase inicial.
Por um tempo, os ChatGPTs surgiram um após o outro, e a trilha do servidor AI por trás deles também começou a subir de acordo.
O poder de computação determina o ChatGPT
O poder de computação é o principal motor do modelo grande, e sua fórmula de cálculo é muito simples: quantos chips de GPU podem gerar tanto poder de computação e o número de chips de GPU de ponta pode afetar diretamente o poder de computação.
**O poder de computação exigido pelo ChatGPT não é fixo, mas aumenta passo a passo. Quanto mais inteligente for o ChatGPT, o preço por trás disso é que mais e mais poder de computação é necessário. **
De acordo com especulações da mídia, o custo de treinamento GPT-3 deve ser de 5 milhões de dólares americanos por vez, o modelo GPT-3 precisa custar cerca de 1,4 milhão de dólares americanos em custos de treinamento e o modelo PaLM do Google precisa custar cerca de 11,2 milhões de dólares americanos. dólares em custos de treinamento.
De acordo com os executivos da Microsoft, o supercomputador AI que fornece poder de computação para o ChatGPT é um grande supercomputador de primeira linha construído pela Microsoft com um investimento de US$ 1 bilhão em 2019. Está equipado com dezenas de milhares de GPUs Nvidia A100 e mais de 60 No total, centenas de milhares de GPUs Nvidia são implantados no data center.
A fim de atender à demanda cada vez maior por poder de computação ChatGPT, a Microsoft anunciou que lançará uma série de máquinas virtuais de IA escaláveis do Azure baseadas no mais recente chip H100 GPU da Nvidia e na tecnologia de interconexão de rede Quantum-2 InfiniBand da Nvidia para acelerar significativamente o desenvolvimento de modelos de IA.
Parece que por trás do ChatGPT está cheio de Nvidia, Nvidia e Nvidia.
Na verdade, a Nvidia, como líder do hardware, não apenas ocupa a maior parte do mercado de consumo, mas também é a escolha número um no campo de chips de servidor AI.
Coisas raras são mais caras. Atualmente, o chip principal da Nvidia H100 aumentou de preço em quase 70.000 yuans em uma semana, e o preço geralmente chega a 300.000 yuans; Yuan subiu até 90.000 yuans, um aumento de mais de 50%.
Não só não pode ser comprado a preços mais altos, como até os Estados Unidos proibiram a Nvidia de vender chips. Em agosto do ano passado, o governo dos EUA emitiu uma política de controle de exportação, proibindo a Nvidia de vender os chips A100 e H100 para a China.
Para não perder o mercado chinês e cumprir os controles de exportação dos EUA, a Nvidia lançou posteriormente versões castradas de desempenho dos chips A800 e H800. Mas esses dois chips também foram arrebatados pelo mercado em falta, e o preço também aumentou de acordo.
Lideradas por Baidu, Ali e Tencent, a maioria das empresas de Internet na China anunciou sua entrada no modelo de grande escala. De acordo com estatísticas de mercado, desde o ChatGPT, o número de modelos grandes a serem lançados na China este ano ultrapassou 10.
Se você deseja atingir o nível do ChatGPT, precisa de pelo menos 3.000 chips A100, que são 270 milhões de RMB a um preço de 90.000 por peça para concluir a implantação de um modelo grande; 10 modelos grandes precisam de 30.000 chips A100, 2,7 bilhões de RMB .
Além do custo do treinamento posterior, os chips necessários são ainda mais astronômicos. Mas, a julgar pelo prazo de entrega atual da Nvidia, não é fácil comprar chips suficientes.
Em transe, a era do cartão de mineração voltou.
Nvidia sentada no ar novamente
Quando a moeda virtual estava em alta nos últimos anos, como fornecedora de placas gráficas necessárias para mineração, a Nvidia teve um lucro enorme de 4,8 bilhões de dólares americanos em poucos anos. Agora contando com o ChatGPT para viver uma segunda vida, deixe a história se repetir novamente.
Diante do aumento da demanda do mercado, a Nvidia, que aproveitou a onda da IA para dar a volta por cima, lançou um serviço de aluguel de poder de computação.
Em 21 de março, na conferência GTC de 2023, o fundador e CEO da NVIDIA, Jensen Huang, lançou a NVIDIA DGX Cloud, que pode fornecer às empresas a infraestrutura e o software necessários para treinar modelos avançados de IA. Cada instância do DGX Cloud é equipada com 8 GPUs H100 ou A100 de 80 GB. As empresas podem alugar clusters DGX Cloud mensalmente na forma de aluguel de nuvem. O preço começa em $ 37.000 por instância por mês.
** Não há realmente nenhum substituto para a Nvidia? Por que as empresas preferem escolher o leasing em vez de outros fabricantes de chips de GPU? **
De acordo com dados da IDC, os servidores GPU domésticos representarão mais de 88,4% do mercado doméstico de servidores em 2021, e os produtos que usam NVIDIA representarão mais de 80%.
**O chip exigido pelo modelo grande de IA tem requisitos mais altos sobre a precisão do processamento de informações e a velocidade do poder de computação. No campo da supercomputação, a capacidade de computação de ponto flutuante de dupla precisão FP64 é um indicador rígido para alta cálculos de poder de computação. O H100 e o A100 da Nvidia são atualmente os únicos chips com esses recursos. **
As vendas de chips Nvidia não são a única coisa que está paralisada nos Estados Unidos.Tecnologia, equipamentos e materiais restringem a pesquisa e o desenvolvimento de empresas chinesas. No entanto, sob as pesadas restrições dos Estados Unidos, as empresas chinesas ainda ficaram sem vários azarões sob pressão.
De acordo com o mais recente "Relatório de rastreamento do mercado de computação acelerada da China (segundo semestre de 2021)" divulgado pela IDC, a escala do mercado de servidores de IA da China atingirá 35,03 bilhões de yuans em 2021, um aumento de 68,6% em relação ao ano anterior.
No campo de chips GPU de nível empresarial, o fabricante chinês Biren Technology lançará o chip BR100 em 2022, Tianshu Zhixin lançará o chip Zhikai 100 e Cambrian lançará o chip Siyuan 270.
Entre eles, a Biren Technology disse que o BR100 tem o maior poder de computação do mundo, e seu pico de poder de computação atingiu mais de três vezes o dos principais produtos do mercado.O poder de computação atinge o nível PFLOPS.
Embora os dados sejam bons, falta a capacidade crucial de processar FP64 e ainda não pode substituir completamente os dois irmãos Nvidia H100 e A100.
Além disso, a plataforma CUDA usada pela Nvidia já se tornou o ecossistema de desenvolvimento de IA mais amplamente utilizado, suportando apenas a GPU baseada em Tesla da Nvidia, que não pode ser substituída por chips domésticos neste estágio.
Embora os fabricantes de chips chineses estejam se atualizando no campo de chips GPU, a lacuna tecnológica e o gargalo nos Estados Unidos ainda são questões importantes e levará algum tempo para trabalhar duro.
Mais do que servidor AI
Não apenas servidores de IA e chips de GPU, mas também o mercado de armazenamento estão crescendo com a ajuda de modelos em grande escala.
**As condições operacionais do ChatGPT incluem dados de treinamento, algoritmos de modelo e alto poder de computação. A infraestrutura subjacente com alto poder de computação é a base para dados e treinamento massivos. **
A característica mais óbvia é que, após várias iterações do ChatGPT, o número de parâmetros aumentou de 117 milhões para 175 bilhões, um aumento de quase 2.000 vezes, o que também traz grandes desafios para computação e armazenamento.
**Com o início da nova era da IA, espera-se que a quantidade de geração, armazenamento e processamento de dados globais aumente exponencialmente e a memória se beneficie significativamente. O armazenamento computacional é um pilar importante do ChatGPT.Com a entrada de gigantes da tecnologia como Alibaba e Baidu nos projetos do ChatGPT, a demanda geral do mercado de armazenamento de computação aumentará ainda mais rapidamente. **
À medida que o AIGC continua a florescer, Pequim, Xangai, Guangzhou e outras regiões desenvolvidas com economia digital também introduziram políticas para promover a construção de centros de computação inteligentes. Por exemplo, Pequim propõe construir um novo lote de centros de dados computacionais e centros de poder de computação de inteligência artificial e cultivá-los em centros de poder de computação de inteligência artificial até 2023; Xangai propõe construir um lote de computação de inteligência artificial de alto desempenho e alto rendimento centros de energia , Promover a construção de plataformas de serviços de energia de computação pública, etc.
E todas as esferas da vida enfrentarão o batismo do ChatGPT.Sob a nova onda de inteligência artificial, as indústrias relacionadas à IA abrirão um amplo espaço de mercado.
E as empresas chinesas estão fadadas a romper as restrições dos Estados Unidos e quebrar os grilhões da injustiça.
Ver original
O conteúdo serve apenas de referência e não constitui uma solicitação ou oferta. Não é prestado qualquer aconselhamento em matéria de investimento, fiscal ou jurídica. Consulte a Declaração de exoneração de responsabilidade para obter mais informações sobre os riscos.
O jogo de poder da computação por trás do ChatGPT As empresas chinesas precisam urgentemente quebrar os grilhões dos Estados Unidos
A Huaxi Securities prevê que o mercado global de software de IA atingirá US$ 126 bilhões em 2025, com uma taxa composta de crescimento de 41,02% de 2021 a 2025.
Por trás da prosperidade do ChatGPT está o suporte do poder de computação astronômico.
De acordo com estimativas, em termos de servidores de treinamento de IA, um único treinamento de modelo de linguagem grande impulsiona a demanda por servidores de treinamento de IA para cerca de 200 milhões de dólares americanos; em termos de servidores de raciocínio de IA, como o ChatGPT, pode impulsionar a demanda por servidores de raciocínio para cerca de 4,5 bilhões de dólares americanos na fase inicial.
Por um tempo, os ChatGPTs surgiram um após o outro, e a trilha do servidor AI por trás deles também começou a subir de acordo.
O poder de computação determina o ChatGPT
O poder de computação é o principal motor do modelo grande, e sua fórmula de cálculo é muito simples: quantos chips de GPU podem gerar tanto poder de computação e o número de chips de GPU de ponta pode afetar diretamente o poder de computação.
**O poder de computação exigido pelo ChatGPT não é fixo, mas aumenta passo a passo. Quanto mais inteligente for o ChatGPT, o preço por trás disso é que mais e mais poder de computação é necessário. **
De acordo com especulações da mídia, o custo de treinamento GPT-3 deve ser de 5 milhões de dólares americanos por vez, o modelo GPT-3 precisa custar cerca de 1,4 milhão de dólares americanos em custos de treinamento e o modelo PaLM do Google precisa custar cerca de 11,2 milhões de dólares americanos. dólares em custos de treinamento.
De acordo com os executivos da Microsoft, o supercomputador AI que fornece poder de computação para o ChatGPT é um grande supercomputador de primeira linha construído pela Microsoft com um investimento de US$ 1 bilhão em 2019. Está equipado com dezenas de milhares de GPUs Nvidia A100 e mais de 60 No total, centenas de milhares de GPUs Nvidia são implantados no data center.
A fim de atender à demanda cada vez maior por poder de computação ChatGPT, a Microsoft anunciou que lançará uma série de máquinas virtuais de IA escaláveis do Azure baseadas no mais recente chip H100 GPU da Nvidia e na tecnologia de interconexão de rede Quantum-2 InfiniBand da Nvidia para acelerar significativamente o desenvolvimento de modelos de IA.
Parece que por trás do ChatGPT está cheio de Nvidia, Nvidia e Nvidia.
Na verdade, a Nvidia, como líder do hardware, não apenas ocupa a maior parte do mercado de consumo, mas também é a escolha número um no campo de chips de servidor AI.
Coisas raras são mais caras. Atualmente, o chip principal da Nvidia H100 aumentou de preço em quase 70.000 yuans em uma semana, e o preço geralmente chega a 300.000 yuans; Yuan subiu até 90.000 yuans, um aumento de mais de 50%.
Não só não pode ser comprado a preços mais altos, como até os Estados Unidos proibiram a Nvidia de vender chips. Em agosto do ano passado, o governo dos EUA emitiu uma política de controle de exportação, proibindo a Nvidia de vender os chips A100 e H100 para a China.
Para não perder o mercado chinês e cumprir os controles de exportação dos EUA, a Nvidia lançou posteriormente versões castradas de desempenho dos chips A800 e H800. Mas esses dois chips também foram arrebatados pelo mercado em falta, e o preço também aumentou de acordo.
Lideradas por Baidu, Ali e Tencent, a maioria das empresas de Internet na China anunciou sua entrada no modelo de grande escala. De acordo com estatísticas de mercado, desde o ChatGPT, o número de modelos grandes a serem lançados na China este ano ultrapassou 10.
Se você deseja atingir o nível do ChatGPT, precisa de pelo menos 3.000 chips A100, que são 270 milhões de RMB a um preço de 90.000 por peça para concluir a implantação de um modelo grande; 10 modelos grandes precisam de 30.000 chips A100, 2,7 bilhões de RMB .
Além do custo do treinamento posterior, os chips necessários são ainda mais astronômicos. Mas, a julgar pelo prazo de entrega atual da Nvidia, não é fácil comprar chips suficientes.
Em transe, a era do cartão de mineração voltou.
Nvidia sentada no ar novamente
Quando a moeda virtual estava em alta nos últimos anos, como fornecedora de placas gráficas necessárias para mineração, a Nvidia teve um lucro enorme de 4,8 bilhões de dólares americanos em poucos anos. Agora contando com o ChatGPT para viver uma segunda vida, deixe a história se repetir novamente.
Diante do aumento da demanda do mercado, a Nvidia, que aproveitou a onda da IA para dar a volta por cima, lançou um serviço de aluguel de poder de computação.
Em 21 de março, na conferência GTC de 2023, o fundador e CEO da NVIDIA, Jensen Huang, lançou a NVIDIA DGX Cloud, que pode fornecer às empresas a infraestrutura e o software necessários para treinar modelos avançados de IA. Cada instância do DGX Cloud é equipada com 8 GPUs H100 ou A100 de 80 GB. As empresas podem alugar clusters DGX Cloud mensalmente na forma de aluguel de nuvem. O preço começa em $ 37.000 por instância por mês.
** Não há realmente nenhum substituto para a Nvidia? Por que as empresas preferem escolher o leasing em vez de outros fabricantes de chips de GPU? **
De acordo com dados da IDC, os servidores GPU domésticos representarão mais de 88,4% do mercado doméstico de servidores em 2021, e os produtos que usam NVIDIA representarão mais de 80%.
**O chip exigido pelo modelo grande de IA tem requisitos mais altos sobre a precisão do processamento de informações e a velocidade do poder de computação. No campo da supercomputação, a capacidade de computação de ponto flutuante de dupla precisão FP64 é um indicador rígido para alta cálculos de poder de computação. O H100 e o A100 da Nvidia são atualmente os únicos chips com esses recursos. **
As vendas de chips Nvidia não são a única coisa que está paralisada nos Estados Unidos.Tecnologia, equipamentos e materiais restringem a pesquisa e o desenvolvimento de empresas chinesas. No entanto, sob as pesadas restrições dos Estados Unidos, as empresas chinesas ainda ficaram sem vários azarões sob pressão.
De acordo com o mais recente "Relatório de rastreamento do mercado de computação acelerada da China (segundo semestre de 2021)" divulgado pela IDC, a escala do mercado de servidores de IA da China atingirá 35,03 bilhões de yuans em 2021, um aumento de 68,6% em relação ao ano anterior.
No campo de chips GPU de nível empresarial, o fabricante chinês Biren Technology lançará o chip BR100 em 2022, Tianshu Zhixin lançará o chip Zhikai 100 e Cambrian lançará o chip Siyuan 270.
Entre eles, a Biren Technology disse que o BR100 tem o maior poder de computação do mundo, e seu pico de poder de computação atingiu mais de três vezes o dos principais produtos do mercado.O poder de computação atinge o nível PFLOPS.
Embora os dados sejam bons, falta a capacidade crucial de processar FP64 e ainda não pode substituir completamente os dois irmãos Nvidia H100 e A100.
Além disso, a plataforma CUDA usada pela Nvidia já se tornou o ecossistema de desenvolvimento de IA mais amplamente utilizado, suportando apenas a GPU baseada em Tesla da Nvidia, que não pode ser substituída por chips domésticos neste estágio.
Embora os fabricantes de chips chineses estejam se atualizando no campo de chips GPU, a lacuna tecnológica e o gargalo nos Estados Unidos ainda são questões importantes e levará algum tempo para trabalhar duro.
Mais do que servidor AI
Não apenas servidores de IA e chips de GPU, mas também o mercado de armazenamento estão crescendo com a ajuda de modelos em grande escala.
**As condições operacionais do ChatGPT incluem dados de treinamento, algoritmos de modelo e alto poder de computação. A infraestrutura subjacente com alto poder de computação é a base para dados e treinamento massivos. **
A característica mais óbvia é que, após várias iterações do ChatGPT, o número de parâmetros aumentou de 117 milhões para 175 bilhões, um aumento de quase 2.000 vezes, o que também traz grandes desafios para computação e armazenamento.
**Com o início da nova era da IA, espera-se que a quantidade de geração, armazenamento e processamento de dados globais aumente exponencialmente e a memória se beneficie significativamente. O armazenamento computacional é um pilar importante do ChatGPT.Com a entrada de gigantes da tecnologia como Alibaba e Baidu nos projetos do ChatGPT, a demanda geral do mercado de armazenamento de computação aumentará ainda mais rapidamente. **
À medida que o AIGC continua a florescer, Pequim, Xangai, Guangzhou e outras regiões desenvolvidas com economia digital também introduziram políticas para promover a construção de centros de computação inteligentes. Por exemplo, Pequim propõe construir um novo lote de centros de dados computacionais e centros de poder de computação de inteligência artificial e cultivá-los em centros de poder de computação de inteligência artificial até 2023; Xangai propõe construir um lote de computação de inteligência artificial de alto desempenho e alto rendimento centros de energia , Promover a construção de plataformas de serviços de energia de computação pública, etc.
E todas as esferas da vida enfrentarão o batismo do ChatGPT.Sob a nova onda de inteligência artificial, as indústrias relacionadas à IA abrirão um amplo espaço de mercado.
E as empresas chinesas estão fadadas a romper as restrições dos Estados Unidos e quebrar os grilhões da injustiça.