Huaxi Securities, küresel AI yazılım pazarının 2021'den 2025'e kadar %41,02'lik bileşik büyüme oranıyla 2025'te 126 milyar ABD dolarına ulaşacağını tahmin ediyor.
ChatGPT'nin başarısının arkasında astronomik bilgi işlem gücünün desteği vardır.
Tahminlere göre, AI eğitim sunucuları açısından, tek bir büyük dil modeli eğitimi, AI eğitim sunucularına olan talebi yaklaşık 200 milyon ABD dolarına çıkarıyor; ChatGPT gibi AI çıkarım sunucuları açısından, çıkarım sunucularına olan talebi artırabilir. erken aşamada yaklaşık 4,5 milyar ABD dolarına.
Bir ara ChatGPT'ler peş peşe ortaya çıktı ve arkalarındaki AI sunucu takibi de buna bağlı olarak yükselmeye başladı.
Bilgi işlem gücü ChatGPT'yi belirler
Bilgi işlem gücü, büyük modelin temel motorudur ve hesaplama formülü çok basittir: Kaç tane GPU yongası, aynı miktarda bilgi işlem gücü üretebilir ve üst düzey GPU yongalarının sayısı, bilgi işlem gücünü doğrudan etkileyebilir.
**ChatGPT'nin gerektirdiği bilgi işlem gücü sabit değildir, adım adım artar. ChatGPT ne kadar akıllıysa, bunun arkasındaki fiyat, giderek daha fazla bilgi işlem gücünün gerekli olmasıdır. **
Medya spekülasyonlarına göre, GPT-3 eğitim maliyetinin zaman başına 5 milyon ABD doları olması bekleniyor, GPT-3 modelinin eğitim maliyetinin yaklaşık 1,4 milyon ABD dolarına ve Google'ın PaLM modelinin yaklaşık 11,2 milyon ABD dolarına mal olması gerekiyor. dolar eğitim maliyeti.
Microsoft yöneticilerine göre, ChatGPT için bilgi işlem gücü sağlayan yapay zeka süper bilgisayarı, Microsoft tarafından 2019 yılında 1 milyar ABD doları yatırımla oluşturulmuş birinci sınıf büyük bir süper bilgisayardır. 60 Toplamda, veri merkezinde yüz binlerce Nvidia GPU konuşlandırılmıştır.
ChatGPT bilgi işlem gücüne yönelik sürekli artan talebi karşılamak için Microsoft, geliştirmeyi önemli ölçüde hızlandırmak için Nvidia'nın en yeni amiral gemisi çipi H100 GPU'ya ve Nvidia'nın Quantum-2 InfiniBand ağ ara bağlantı teknolojisine dayalı bir dizi Azure ölçeklenebilir AI sanal makinesini piyasaya süreceğini duyurdu. AI modellerinin sayısı.
Görünüşe göre ChatGPT'nin arkasında Nvidia, Nvidia ve Nvidia var.
Aslında, donanım efendisi olarak Nvidia, yalnızca tüketici pazarındaki pazarın çoğunu işgal etmekle kalmıyor, aynı zamanda AI sunucu yongaları alanında da bir numaralı tercih.
Nadir şeyler daha pahalı. Şu anda, Nvidia'nın amiral gemisi çipi H100'ün fiyatı bir haftada yaklaşık 70.000 yuan arttı ve fiyat genellikle 300.000 yuan'a kadar çıktı; Yuan 90.000 yuan'a yükseldi, %50
Sadece daha yüksek fiyatlarla satın alınamaz, aynı zamanda Amerika Birleşik Devletleri bile Nvidia'nın çip satmasını yasakladı. Geçen yıl Ağustos ayında ABD hükümeti, Nvidia'nın A100 ve H100 yongalarını Çin'e satmasını yasaklayan bir ihracat kontrol politikası yayınladı.
Çin pazarını kaybetmemek ve ABD ihracat kontrollerine uymak için Nvidia, daha sonra A800 ve H800 yongalarının performans açısından hadım edilmiş sürümlerini piyasaya sürdü. Ancak bu iki çip de piyasa tarafından kısa arzda kapıldı ve fiyat da buna bağlı olarak yükseldi.
Baidu, Ali ve Tencent liderliğindeki Çin'deki çoğu İnternet şirketi, büyük ölçekli modele girdiklerini duyurdu. Pazar istatistiklerine göre, ChatGPT'den bu yana bu yıl Çin'de piyasaya sürülecek büyük modellerin sayısı 10'u geçti.
ChatGPT seviyesine ulaşmak istiyorsanız, büyük bir modelin dağıtımını tamamlamak için parça başına 90.000 fiyatla 270 milyon yuan olan en az 3.000 A100 yongasına ihtiyacınız var; 10 büyük modelin 30.000 A100 yongasına, 2.7 milyar yuan'a ihtiyacı var .
Daha sonraki eğitim maliyetine ek olarak, gerekli çipler daha da astronomiktir. Ancak Nvidia'nın mevcut teslimat süresine bakılırsa, yeterince fiş satın almak kolay değil.
Bir trans halinde, madencilik kartı dönemi yeniden geldi.
Nvidia yine havada oturuyor
Geçtiğimiz birkaç yıl içinde sanal para birimi sıcakken, madencilik için gerekli bir grafik kartı sağlayıcısı olan Nvidia, birkaç yıl içinde 4,8 milyar ABD doları gibi büyük bir kâr elde etti. Şimdi ikinci bir hayat yaşamak için ChatGPT'ye güvenerek tarihin tekerrür etmesine izin verin.
Piyasa talebindeki artışla karşı karşıya kalan Nvidia, tersine çevirmek için yapay zeka dalgasından yararlandı ve bir bilgi işlem gücü kiralama hizmeti başlattı.
21 Mart 2023 GTC konferansında NVIDIA kurucusu ve CEO'su Jen-Hsun Huang, işletmelere gelişmiş yapay zeka modellerini eğitmek için gereken altyapıyı ve yazılımı sağlayabilen NVIDIA DGX Cloud'u piyasaya sürdü. DGX Cloud'un her bir örneği 8 adet H100 veya A100 80GB GPU ile donatılmıştır.Kuruluşlar DGX Cloud kümelerini bulut kiralama şeklinde aylık olarak kiralayabilirler.Fiyat, örnek başına aylık 37.000 ABD Dolarından başlar.
**Gerçekten Nvidia'nın yerini alacak bir şey yok mu? Şirketler neden diğer GPU çip üreticileri yerine kiralamayı tercih ediyor? **
IDC verilerine göre 2021 yılında yerli GPU sunucuları, yurtiçi sunucu pazarının %88,4'ünden fazlasını, NVIDIA kullanan ürünler ise %80'den fazlasını oluşturacak.
**AI büyük modelinin gerektirdiği çip, bilgi işleme hassasiyeti ve bilgi işlem gücünün hızı konusunda daha yüksek gereksinimlere sahiptir.Süper hesaplama alanında, çift duyarlıklı kayan noktalı bilgi işlem yeteneği FP64, yüksek için zor bir göstergedir. hesaplama gücü hesaplamaları. Nvidia'nın H100 ve A100'ü şu anda bu yeteneklere sahip tek yongalardır. **
Amerika Birleşik Devletleri'nde sıkışıp kalan tek şey Nvidia çiplerinin satışı değil, teknoloji, ekipman ve malzemelerin tümü Çinli şirketlerin araştırma ve geliştirmesini kısıtlıyor. Bununla birlikte, Amerika Birleşik Devletleri'nin ağır kısıtlamaları altında, Çinli şirketlerin baskı altındaki birkaç kara atı hâlâ tükendi.
IDC tarafından yayınlanan en son "Çin Hızlandırılmış Bilişim Pazarı (2021'in İkinci Yarısı) İzleme Raporuna" göre, Çin'in yapay zeka sunucu pazarının ölçeği, yıllık %68,6 artışla 2021'de 35,03 milyar yuan'a ulaşacak.
Kurumsal düzeyde GPU yongaları alanında, Çinli üretici Biren Technology 2022'de BR100 yongasını, Tianshu Zhixin Zhikai 100 yongasını ve Cambrian Siyuan 270 yongasını piyasaya sürecek.
Bunların arasında BR100'ün dünyadaki en yüksek bilgi işlem gücüne sahip olduğunu ve tepe işlem gücünün piyasadaki amiral gemisi ürünlerin üç katından fazlasına ulaştığını söyleyen Biren Teknoloji, işlem gücünün PFLOPS seviyesine ulaştığını söyledi.
Veriler iyi olmasına rağmen, FP64'ü işlemek için çok önemli bir yetenekten yoksundur ve yine de iki kardeş Nvidia H100 ve A100'ün yerini tamamen alamaz.
Üstelik Nvidia'nın kullandığı CUDA platformu, şimdiden en yaygın kullanılan yapay zeka geliştirme ekosistemi haline geldi.Yalnızca Nvidia'nın Tesla tabanlı GPU'sunu destekliyor ve bu aşamada yerli yongalarla değiştirilemiyor.
Çinli çip üreticileri, GPU çipleri alanında arayı kapatıyor olsa da, Amerika Birleşik Devletleri'ndeki teknolojik boşluk ve darboğaz hala kilit sorunlar ve çok çalışmak biraz zaman alacak.
AI sunucusundan daha fazlası
Sadece AI sunucuları ve GPU yongaları değil, aynı zamanda depolama pazarı da büyük ölçekli modeller yardımıyla tüm hızıyla yükseliyor.
**ChatGPT'nin çalışma koşulları, eğitim verilerini, model algoritmalarını ve yüksek bilgi işlem gücünü içerir. Yüksek işlem gücüne sahip temel altyapı, büyük veri ve eğitimin temelini oluşturur. **
En belirgin özellik, ChatGPT'nin birkaç yinelemesinden sonra, parametre sayısının yaklaşık 2.000 kat artışla 117 milyondan 175 milyara çıkması ve bunun da bilgi işlem ve depolama için büyük zorluklar getirmesidir.
**Yeni yapay zeka çağı başlarken, küresel veri üretimi, depolanması ve işlenmesi miktarının katlanarak artması ve belleğin önemli ölçüde fayda sağlaması bekleniyor. Hesaplamalı depolama, ChatGPT'nin önemli bir mihenk taşıdır.Alibaba ve Baidu gibi teknoloji devlerinin ChatGPT projelerine girmesiyle, genel bilgi işlem depolama pazarı talebi hızla daha da artacaktır. **
AIGC gelişmeye devam ederken, Pekin, Şanghay, Guangzhou ve diğer dijital ekonomi gelişmiş bölgeler de akıllı bilgi işlem merkezlerinin inşasını teşvik eden politikalar uygulamaya koydu. Örneğin, Pekin, yeni bir dizi hesaplamalı veri merkezi ve yapay zeka bilgi işlem güç merkezi inşa etmeyi ve bunları 2023 yılına kadar yapay zeka bilgi işlem güç merkezlerine dönüştürmeyi teklif ediyor; Şangay, bir grup yüksek performanslı, yüksek verimli yapay zeka bilgi işlem oluşturmayı öneriyor güç merkezleri , Kamuya açık bilgi işlem güç hizmeti platformlarının vb. inşasını teşvik edin.
Ve hayatın her kesimi ChatGPT'nin vaftiziyle karşı karşıya kalacak.Yeni yapay zeka dalgası altında, yapay zeka ile ilgili endüstriler geniş bir pazar alanını açacak.
Ve Çinli şirketler, ABD'nin kısıtlamalarını aşmak ve adaletsizliğin prangalarını kırmak zorunda.
View Original
The content is for reference only, not a solicitation or offer. No investment, tax, or legal advice provided. See Disclaimer for more risks disclosure.
ChatGPT'nin arkasındaki bilgi işlem gücü oyunu Çinli şirketlerin acilen ABD'nin zincirlerini kırmaları gerekiyor
Huaxi Securities, küresel AI yazılım pazarının 2021'den 2025'e kadar %41,02'lik bileşik büyüme oranıyla 2025'te 126 milyar ABD dolarına ulaşacağını tahmin ediyor.
ChatGPT'nin başarısının arkasında astronomik bilgi işlem gücünün desteği vardır.
Tahminlere göre, AI eğitim sunucuları açısından, tek bir büyük dil modeli eğitimi, AI eğitim sunucularına olan talebi yaklaşık 200 milyon ABD dolarına çıkarıyor; ChatGPT gibi AI çıkarım sunucuları açısından, çıkarım sunucularına olan talebi artırabilir. erken aşamada yaklaşık 4,5 milyar ABD dolarına.
Bir ara ChatGPT'ler peş peşe ortaya çıktı ve arkalarındaki AI sunucu takibi de buna bağlı olarak yükselmeye başladı.
Bilgi işlem gücü ChatGPT'yi belirler
Bilgi işlem gücü, büyük modelin temel motorudur ve hesaplama formülü çok basittir: Kaç tane GPU yongası, aynı miktarda bilgi işlem gücü üretebilir ve üst düzey GPU yongalarının sayısı, bilgi işlem gücünü doğrudan etkileyebilir.
**ChatGPT'nin gerektirdiği bilgi işlem gücü sabit değildir, adım adım artar. ChatGPT ne kadar akıllıysa, bunun arkasındaki fiyat, giderek daha fazla bilgi işlem gücünün gerekli olmasıdır. **
Medya spekülasyonlarına göre, GPT-3 eğitim maliyetinin zaman başına 5 milyon ABD doları olması bekleniyor, GPT-3 modelinin eğitim maliyetinin yaklaşık 1,4 milyon ABD dolarına ve Google'ın PaLM modelinin yaklaşık 11,2 milyon ABD dolarına mal olması gerekiyor. dolar eğitim maliyeti.
Microsoft yöneticilerine göre, ChatGPT için bilgi işlem gücü sağlayan yapay zeka süper bilgisayarı, Microsoft tarafından 2019 yılında 1 milyar ABD doları yatırımla oluşturulmuş birinci sınıf büyük bir süper bilgisayardır. 60 Toplamda, veri merkezinde yüz binlerce Nvidia GPU konuşlandırılmıştır.
ChatGPT bilgi işlem gücüne yönelik sürekli artan talebi karşılamak için Microsoft, geliştirmeyi önemli ölçüde hızlandırmak için Nvidia'nın en yeni amiral gemisi çipi H100 GPU'ya ve Nvidia'nın Quantum-2 InfiniBand ağ ara bağlantı teknolojisine dayalı bir dizi Azure ölçeklenebilir AI sanal makinesini piyasaya süreceğini duyurdu. AI modellerinin sayısı.
Görünüşe göre ChatGPT'nin arkasında Nvidia, Nvidia ve Nvidia var.
Aslında, donanım efendisi olarak Nvidia, yalnızca tüketici pazarındaki pazarın çoğunu işgal etmekle kalmıyor, aynı zamanda AI sunucu yongaları alanında da bir numaralı tercih.
Nadir şeyler daha pahalı. Şu anda, Nvidia'nın amiral gemisi çipi H100'ün fiyatı bir haftada yaklaşık 70.000 yuan arttı ve fiyat genellikle 300.000 yuan'a kadar çıktı; Yuan 90.000 yuan'a yükseldi, %50
Sadece daha yüksek fiyatlarla satın alınamaz, aynı zamanda Amerika Birleşik Devletleri bile Nvidia'nın çip satmasını yasakladı. Geçen yıl Ağustos ayında ABD hükümeti, Nvidia'nın A100 ve H100 yongalarını Çin'e satmasını yasaklayan bir ihracat kontrol politikası yayınladı.
Çin pazarını kaybetmemek ve ABD ihracat kontrollerine uymak için Nvidia, daha sonra A800 ve H800 yongalarının performans açısından hadım edilmiş sürümlerini piyasaya sürdü. Ancak bu iki çip de piyasa tarafından kısa arzda kapıldı ve fiyat da buna bağlı olarak yükseldi.
Baidu, Ali ve Tencent liderliğindeki Çin'deki çoğu İnternet şirketi, büyük ölçekli modele girdiklerini duyurdu. Pazar istatistiklerine göre, ChatGPT'den bu yana bu yıl Çin'de piyasaya sürülecek büyük modellerin sayısı 10'u geçti.
ChatGPT seviyesine ulaşmak istiyorsanız, büyük bir modelin dağıtımını tamamlamak için parça başına 90.000 fiyatla 270 milyon yuan olan en az 3.000 A100 yongasına ihtiyacınız var; 10 büyük modelin 30.000 A100 yongasına, 2.7 milyar yuan'a ihtiyacı var .
Daha sonraki eğitim maliyetine ek olarak, gerekli çipler daha da astronomiktir. Ancak Nvidia'nın mevcut teslimat süresine bakılırsa, yeterince fiş satın almak kolay değil.
Bir trans halinde, madencilik kartı dönemi yeniden geldi.
Nvidia yine havada oturuyor
Geçtiğimiz birkaç yıl içinde sanal para birimi sıcakken, madencilik için gerekli bir grafik kartı sağlayıcısı olan Nvidia, birkaç yıl içinde 4,8 milyar ABD doları gibi büyük bir kâr elde etti. Şimdi ikinci bir hayat yaşamak için ChatGPT'ye güvenerek tarihin tekerrür etmesine izin verin.
Piyasa talebindeki artışla karşı karşıya kalan Nvidia, tersine çevirmek için yapay zeka dalgasından yararlandı ve bir bilgi işlem gücü kiralama hizmeti başlattı.
21 Mart 2023 GTC konferansında NVIDIA kurucusu ve CEO'su Jen-Hsun Huang, işletmelere gelişmiş yapay zeka modellerini eğitmek için gereken altyapıyı ve yazılımı sağlayabilen NVIDIA DGX Cloud'u piyasaya sürdü. DGX Cloud'un her bir örneği 8 adet H100 veya A100 80GB GPU ile donatılmıştır.Kuruluşlar DGX Cloud kümelerini bulut kiralama şeklinde aylık olarak kiralayabilirler.Fiyat, örnek başına aylık 37.000 ABD Dolarından başlar.
**Gerçekten Nvidia'nın yerini alacak bir şey yok mu? Şirketler neden diğer GPU çip üreticileri yerine kiralamayı tercih ediyor? **
IDC verilerine göre 2021 yılında yerli GPU sunucuları, yurtiçi sunucu pazarının %88,4'ünden fazlasını, NVIDIA kullanan ürünler ise %80'den fazlasını oluşturacak.
**AI büyük modelinin gerektirdiği çip, bilgi işleme hassasiyeti ve bilgi işlem gücünün hızı konusunda daha yüksek gereksinimlere sahiptir.Süper hesaplama alanında, çift duyarlıklı kayan noktalı bilgi işlem yeteneği FP64, yüksek için zor bir göstergedir. hesaplama gücü hesaplamaları. Nvidia'nın H100 ve A100'ü şu anda bu yeteneklere sahip tek yongalardır. **
Amerika Birleşik Devletleri'nde sıkışıp kalan tek şey Nvidia çiplerinin satışı değil, teknoloji, ekipman ve malzemelerin tümü Çinli şirketlerin araştırma ve geliştirmesini kısıtlıyor. Bununla birlikte, Amerika Birleşik Devletleri'nin ağır kısıtlamaları altında, Çinli şirketlerin baskı altındaki birkaç kara atı hâlâ tükendi.
IDC tarafından yayınlanan en son "Çin Hızlandırılmış Bilişim Pazarı (2021'in İkinci Yarısı) İzleme Raporuna" göre, Çin'in yapay zeka sunucu pazarının ölçeği, yıllık %68,6 artışla 2021'de 35,03 milyar yuan'a ulaşacak.
Kurumsal düzeyde GPU yongaları alanında, Çinli üretici Biren Technology 2022'de BR100 yongasını, Tianshu Zhixin Zhikai 100 yongasını ve Cambrian Siyuan 270 yongasını piyasaya sürecek.
Bunların arasında BR100'ün dünyadaki en yüksek bilgi işlem gücüne sahip olduğunu ve tepe işlem gücünün piyasadaki amiral gemisi ürünlerin üç katından fazlasına ulaştığını söyleyen Biren Teknoloji, işlem gücünün PFLOPS seviyesine ulaştığını söyledi.
Veriler iyi olmasına rağmen, FP64'ü işlemek için çok önemli bir yetenekten yoksundur ve yine de iki kardeş Nvidia H100 ve A100'ün yerini tamamen alamaz.
Üstelik Nvidia'nın kullandığı CUDA platformu, şimdiden en yaygın kullanılan yapay zeka geliştirme ekosistemi haline geldi.Yalnızca Nvidia'nın Tesla tabanlı GPU'sunu destekliyor ve bu aşamada yerli yongalarla değiştirilemiyor.
Çinli çip üreticileri, GPU çipleri alanında arayı kapatıyor olsa da, Amerika Birleşik Devletleri'ndeki teknolojik boşluk ve darboğaz hala kilit sorunlar ve çok çalışmak biraz zaman alacak.
AI sunucusundan daha fazlası
Sadece AI sunucuları ve GPU yongaları değil, aynı zamanda depolama pazarı da büyük ölçekli modeller yardımıyla tüm hızıyla yükseliyor.
**ChatGPT'nin çalışma koşulları, eğitim verilerini, model algoritmalarını ve yüksek bilgi işlem gücünü içerir. Yüksek işlem gücüne sahip temel altyapı, büyük veri ve eğitimin temelini oluşturur. **
En belirgin özellik, ChatGPT'nin birkaç yinelemesinden sonra, parametre sayısının yaklaşık 2.000 kat artışla 117 milyondan 175 milyara çıkması ve bunun da bilgi işlem ve depolama için büyük zorluklar getirmesidir.
**Yeni yapay zeka çağı başlarken, küresel veri üretimi, depolanması ve işlenmesi miktarının katlanarak artması ve belleğin önemli ölçüde fayda sağlaması bekleniyor. Hesaplamalı depolama, ChatGPT'nin önemli bir mihenk taşıdır.Alibaba ve Baidu gibi teknoloji devlerinin ChatGPT projelerine girmesiyle, genel bilgi işlem depolama pazarı talebi hızla daha da artacaktır. **
AIGC gelişmeye devam ederken, Pekin, Şanghay, Guangzhou ve diğer dijital ekonomi gelişmiş bölgeler de akıllı bilgi işlem merkezlerinin inşasını teşvik eden politikalar uygulamaya koydu. Örneğin, Pekin, yeni bir dizi hesaplamalı veri merkezi ve yapay zeka bilgi işlem güç merkezi inşa etmeyi ve bunları 2023 yılına kadar yapay zeka bilgi işlem güç merkezlerine dönüştürmeyi teklif ediyor; Şangay, bir grup yüksek performanslı, yüksek verimli yapay zeka bilgi işlem oluşturmayı öneriyor güç merkezleri , Kamuya açık bilgi işlem güç hizmeti platformlarının vb. inşasını teşvik edin.
Ve hayatın her kesimi ChatGPT'nin vaftiziyle karşı karşıya kalacak.Yeni yapay zeka dalgası altında, yapay zeka ile ilgili endüstriler geniş bir pazar alanını açacak.
Ve Çinli şirketler, ABD'nin kısıtlamalarını aşmak ve adaletsizliğin prangalarını kırmak zorunda.