Huaxi Securities прогнозирует, что мировой рынок программного обеспечения для искусственного интеллекта достигнет 126 миллиардов долларов США в 2025 году, а совокупный темп роста составит 41,02% с 2021 по 2025 год.
За процветанием ChatGPT стоит поддержка астрономической вычислительной мощности.
По оценкам, с точки зрения обучающих серверов ИИ, одно большое обучение языковой модели увеличивает спрос на обучающие серверы ИИ примерно до 200 миллионов долларов США; с точки зрения серверов логического вывода ИИ, таких как ChatGPT, он может увеличить спрос на серверы логического вывода. до примерно 4,5 млрд долларов США на начальном этапе.
Какое-то время ChatGPT появлялись один за другим, и след сервера ИИ за ними также начал расти соответственно.
Вычислительная мощность определяет ChatGPT
Вычислительная мощность является основным двигателем большой модели, и формула ее расчета очень проста: сколько чипов GPU может генерировать столько вычислительной мощности, сколько высокопроизводительных чипов GPU может напрямую влиять на вычислительную мощность.
** Вычислительная мощность, необходимая для ChatGPT, не является фиксированной, а увеличивается постепенно. Чем умнее ChatGPT, тем платой за это является то, что требуется все больше и больше вычислительной мощности. **
Согласно предположениям СМИ, стоимость обучения GPT-3, как ожидается, составит 5 миллионов долларов США за раз, модель GPT-3 должна стоить около 1,4 миллиона долларов США на обучение, а модель Google PaLM должна стоить около 11,2 миллиона долларов США. долларов затрат на обучение.
По словам руководителей Microsoft, суперкомпьютер с искусственным интеллектом, обеспечивающий поддержку вычислительной мощности для ChatGPT, представляет собой крупномасштабный первоклассный суперкомпьютер, созданный Microsoft с инвестициями в 1 миллиард долларов США в 2019 году. Он оснащен десятками тысяч графических процессоров Nvidia A100. и более 60. Всего в дата-центре развернуты сотни тысяч графических процессоров Nvidia.
Чтобы удовлетворить постоянно растущий спрос на вычислительную мощность ChatGPT, Microsoft объявила, что запустит серию масштабируемых виртуальных машин с искусственным интеллектом Azure на базе новейшего флагманского чипа Nvidia H100 GPU и технологии сетевого взаимодействия Nvidia Quantum-2 InfiniBand, чтобы значительно ускорить разработку. моделей ИИ.
Похоже, за ChatGPT полно Nvidia, Nvidia и Nvidia.
Фактически, Nvidia, как аппаратный повелитель, не только занимает большую часть рынка потребительского рынка, но и является выбором номер один в области серверных чипов ИИ.
Редкие вещи дороже.В настоящее время флагманский чип Nvidia H100 вырос в цене почти на 70 000 юаней за неделю, а цена обычно достигает 300 000 юаней; юань вырос до 90 000 юаней, увеличившись более чем на 50%.
Мало того, что его нельзя купить по более высокой цене, так еще и США запретили Nvidia продавать чипы. В августе прошлого года правительство США издало политику экспортного контроля, запрещающую Nvidia продавать чипы A100 и H100 в Китай.
Чтобы не потерять китайский рынок и соблюдать экспортный контроль США, Nvidia впоследствии выпустила версии чипов A800 и H800 с пониженной производительностью. Но эти два чипа тоже были раскуплены рынком в дефиците, соответственно и цена тоже выросла.
Под руководством Baidu, Ali и Tencent большинство интернет-компаний Китая объявили о своем участии в крупномасштабной модели. Согласно рыночной статистике, после ChatGPT количество крупных моделей, которые будут запущены в Китае в этом году, превысило 10.
Если вы хотите достичь уровня ChatGPT, вам нужно как минимум 3000 чипов A100, что составляет 270 миллионов юаней по цене 90 000 за штуку, чтобы завершить развертывание большой модели; 10 больших моделей требуют 30 000 чипов A100, 2,7 миллиарда юаней. .
Помимо стоимости последующего обучения, требуемые чипы еще более астрономические. Но, судя по текущим срокам поставки Nvidia, купить достаточное количество чипов непросто.
В трансе снова наступила эпоха карт майнинга.
Nvidia снова сидит в воздухе
Когда в последние несколько лет виртуальная валюта была на пике популярности, Nvidia в качестве поставщика видеокарт, необходимых для майнинга, за несколько лет получила огромную прибыль в размере 4,8 миллиарда долларов США. Теперь полагаясь на ChatGPT, чтобы прожить вторую жизнь, пусть история снова повторится.
Столкнувшись с всплеском рыночного спроса, Nvidia, которая воспользовалась волной ИИ, чтобы развернуться, запустила услугу аренды вычислительной мощности.
21 марта на конференции GTC 2023 основатель и генеральный директор NVIDIA Джен-Сун Хуанг запустил облако NVIDIA DGX, которое может предоставить предприятиям инфраструктуру и программное обеспечение, необходимые для обучения передовых моделей ИИ. Каждый экземпляр DGX Cloud оснащен 8 графическими процессорами H100 или A100 80 ГБ.Предприятия могут ежемесячно арендовать кластеры DGX Cloud в форме облачного лизинга.Цена начинается от 37 000 долларов США за экземпляр в месяц.
** Неужели нет замены Nvidia? Почему компании предпочитают лизинг, а не других производителей чипов GPU? **
По данным IDC, на отечественные GPU-серверы в 2021 году будет приходиться более 88,4% внутреннего рынка серверов, а на продукты с использованием NVIDIA — более 80%.
**К чипу, требуемому большой моделью ИИ, предъявляются более высокие требования по точности обработки информации и скорости вычислительной мощности.В области суперкомпьютеров способность вычислений с плавающей запятой двойной точности FP64 является жестким показателем для высоких расчеты вычислительной мощности. В настоящее время чипы Nvidia H100 и A100 являются единственными чипами с такими возможностями. **
Продажи чипов Nvidia — не единственное, что застряло в США: технологии, оборудование и материалы ограничивают исследования и разработки китайских компаний. Тем не менее, в условиях жестких ограничений Соединенных Штатов у китайских компаний все еще не хватало нескольких темных лошадок под давлением.
Согласно последнему «Отчету об отслеживании рынка ускоренных вычислений в Китае (вторая половина 2021 г.)», опубликованному IDC, объем китайского рынка серверов ИИ достигнет 35,03 млрд юаней в 2021 г., увеличившись в годовом исчислении на 68,6%.
В области чипов для графических процессоров корпоративного уровня китайский производитель Biren Technology выпустит чип BR100 в 2022 году, Tianshu Zhixin выпустит чип Zhikai 100, а Cambrian выпустит чип Siyuan 270.
Среди них Biren Technology заявила, что BR100 обладает самой высокой вычислительной мощностью в мире, а его пиковая вычислительная мощность более чем в три раза превышает мощность флагманских продуктов на рынке, достигая уровня PFLOPS.
Хотя данные хорошие, ему не хватает решающей способности обрабатывать FP64, и он все еще не может полностью заменить двух братьев Nvidia H100 и A100.
Более того, используемая Nvidia платформа CUDA уже стала наиболее широко используемой экосистемой разработки ИИ, поддерживает только GPU Nvidia на базе Tesla и на данном этапе не может быть заменена отечественными чипами.
Хотя китайские производители чипов наверстывают упущенное в области чипов для графических процессоров, технологический разрыв и узкое место в США по-прежнему являются ключевыми проблемами, и для напряженной работы потребуется некоторое время.
Больше, чем сервер ИИ
Не только серверы с искусственным интеллектом и чипы графических процессоров, но и рынок хранения данных постоянно растет с помощью крупномасштабных моделей.
**Условия работы ChatGPT включают обучающие данные, модельные алгоритмы и высокую вычислительную мощность Базовая инфраструктура с высокой вычислительной мощностью является основой для массивных данных и обучения. **
Наиболее очевидной особенностью является то, что после нескольких итераций ChatGPT количество параметров увеличилось со 117 миллионов до 175 миллиардов, увеличившись почти в две тысячи раз, что также создает большие проблемы для вычислений и хранения.
** Ожидается, что с началом новой эры искусственного интеллекта объем генерируемых, хранящихся и обрабатываемых данных будет расти в геометрической прогрессии, а память значительно выиграет. Вычислительное хранилище является важным краеугольным камнем ChatGPT.С приходом технологических гигантов, таких как Alibaba и Baidu, в проекты ChatGPT общий спрос на рынке вычислительных хранилищ будет быстро расти. **
Поскольку AIGC продолжает процветать, Пекин, Шанхай, Гуанчжоу и другие регионы с развитой цифровой экономикой также ввели политику, направленную на поощрение строительства интеллектуальных вычислительных центров. Например, Пекин предлагает построить новую партию вычислительных центров обработки данных и центров вычислительной мощности искусственного интеллекта и превратить их в центры вычислительной мощности искусственного интеллекта к 2023 году; Шанхай предлагает построить партию высокопроизводительных и высокопроизводительных вычислительных центров искусственного интеллекта. центры питания, содействие строительству общедоступных сервисных платформ вычислительной мощности и т. д.
И все сферы жизни столкнутся с крещением ChatGPT.В условиях новой волны искусственного интеллекта отрасли, связанные с ИИ, откроют широкое рыночное пространство.
А китайские компании обязательно прорвутся через ограничения Соединенных Штатов и разорвут оковы несправедливости.
Посмотреть Оригинал
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
Игра вычислительной мощности за ChatGPT Китайским компаниям срочно нужно сломать оковы Соединенных Штатов
Huaxi Securities прогнозирует, что мировой рынок программного обеспечения для искусственного интеллекта достигнет 126 миллиардов долларов США в 2025 году, а совокупный темп роста составит 41,02% с 2021 по 2025 год.
За процветанием ChatGPT стоит поддержка астрономической вычислительной мощности.
По оценкам, с точки зрения обучающих серверов ИИ, одно большое обучение языковой модели увеличивает спрос на обучающие серверы ИИ примерно до 200 миллионов долларов США; с точки зрения серверов логического вывода ИИ, таких как ChatGPT, он может увеличить спрос на серверы логического вывода. до примерно 4,5 млрд долларов США на начальном этапе.
Какое-то время ChatGPT появлялись один за другим, и след сервера ИИ за ними также начал расти соответственно.
Вычислительная мощность определяет ChatGPT
Вычислительная мощность является основным двигателем большой модели, и формула ее расчета очень проста: сколько чипов GPU может генерировать столько вычислительной мощности, сколько высокопроизводительных чипов GPU может напрямую влиять на вычислительную мощность.
** Вычислительная мощность, необходимая для ChatGPT, не является фиксированной, а увеличивается постепенно. Чем умнее ChatGPT, тем платой за это является то, что требуется все больше и больше вычислительной мощности. **
Согласно предположениям СМИ, стоимость обучения GPT-3, как ожидается, составит 5 миллионов долларов США за раз, модель GPT-3 должна стоить около 1,4 миллиона долларов США на обучение, а модель Google PaLM должна стоить около 11,2 миллиона долларов США. долларов затрат на обучение.
По словам руководителей Microsoft, суперкомпьютер с искусственным интеллектом, обеспечивающий поддержку вычислительной мощности для ChatGPT, представляет собой крупномасштабный первоклассный суперкомпьютер, созданный Microsoft с инвестициями в 1 миллиард долларов США в 2019 году. Он оснащен десятками тысяч графических процессоров Nvidia A100. и более 60. Всего в дата-центре развернуты сотни тысяч графических процессоров Nvidia.
Чтобы удовлетворить постоянно растущий спрос на вычислительную мощность ChatGPT, Microsoft объявила, что запустит серию масштабируемых виртуальных машин с искусственным интеллектом Azure на базе новейшего флагманского чипа Nvidia H100 GPU и технологии сетевого взаимодействия Nvidia Quantum-2 InfiniBand, чтобы значительно ускорить разработку. моделей ИИ.
Похоже, за ChatGPT полно Nvidia, Nvidia и Nvidia.
Фактически, Nvidia, как аппаратный повелитель, не только занимает большую часть рынка потребительского рынка, но и является выбором номер один в области серверных чипов ИИ.
Редкие вещи дороже.В настоящее время флагманский чип Nvidia H100 вырос в цене почти на 70 000 юаней за неделю, а цена обычно достигает 300 000 юаней; юань вырос до 90 000 юаней, увеличившись более чем на 50%.
Мало того, что его нельзя купить по более высокой цене, так еще и США запретили Nvidia продавать чипы. В августе прошлого года правительство США издало политику экспортного контроля, запрещающую Nvidia продавать чипы A100 и H100 в Китай.
Чтобы не потерять китайский рынок и соблюдать экспортный контроль США, Nvidia впоследствии выпустила версии чипов A800 и H800 с пониженной производительностью. Но эти два чипа тоже были раскуплены рынком в дефиците, соответственно и цена тоже выросла.
Под руководством Baidu, Ali и Tencent большинство интернет-компаний Китая объявили о своем участии в крупномасштабной модели. Согласно рыночной статистике, после ChatGPT количество крупных моделей, которые будут запущены в Китае в этом году, превысило 10.
Если вы хотите достичь уровня ChatGPT, вам нужно как минимум 3000 чипов A100, что составляет 270 миллионов юаней по цене 90 000 за штуку, чтобы завершить развертывание большой модели; 10 больших моделей требуют 30 000 чипов A100, 2,7 миллиарда юаней. .
Помимо стоимости последующего обучения, требуемые чипы еще более астрономические. Но, судя по текущим срокам поставки Nvidia, купить достаточное количество чипов непросто.
В трансе снова наступила эпоха карт майнинга.
Nvidia снова сидит в воздухе
Когда в последние несколько лет виртуальная валюта была на пике популярности, Nvidia в качестве поставщика видеокарт, необходимых для майнинга, за несколько лет получила огромную прибыль в размере 4,8 миллиарда долларов США. Теперь полагаясь на ChatGPT, чтобы прожить вторую жизнь, пусть история снова повторится.
Столкнувшись с всплеском рыночного спроса, Nvidia, которая воспользовалась волной ИИ, чтобы развернуться, запустила услугу аренды вычислительной мощности.
21 марта на конференции GTC 2023 основатель и генеральный директор NVIDIA Джен-Сун Хуанг запустил облако NVIDIA DGX, которое может предоставить предприятиям инфраструктуру и программное обеспечение, необходимые для обучения передовых моделей ИИ. Каждый экземпляр DGX Cloud оснащен 8 графическими процессорами H100 или A100 80 ГБ.Предприятия могут ежемесячно арендовать кластеры DGX Cloud в форме облачного лизинга.Цена начинается от 37 000 долларов США за экземпляр в месяц.
** Неужели нет замены Nvidia? Почему компании предпочитают лизинг, а не других производителей чипов GPU? **
По данным IDC, на отечественные GPU-серверы в 2021 году будет приходиться более 88,4% внутреннего рынка серверов, а на продукты с использованием NVIDIA — более 80%.
**К чипу, требуемому большой моделью ИИ, предъявляются более высокие требования по точности обработки информации и скорости вычислительной мощности.В области суперкомпьютеров способность вычислений с плавающей запятой двойной точности FP64 является жестким показателем для высоких расчеты вычислительной мощности. В настоящее время чипы Nvidia H100 и A100 являются единственными чипами с такими возможностями. **
Продажи чипов Nvidia — не единственное, что застряло в США: технологии, оборудование и материалы ограничивают исследования и разработки китайских компаний. Тем не менее, в условиях жестких ограничений Соединенных Штатов у китайских компаний все еще не хватало нескольких темных лошадок под давлением.
Согласно последнему «Отчету об отслеживании рынка ускоренных вычислений в Китае (вторая половина 2021 г.)», опубликованному IDC, объем китайского рынка серверов ИИ достигнет 35,03 млрд юаней в 2021 г., увеличившись в годовом исчислении на 68,6%.
В области чипов для графических процессоров корпоративного уровня китайский производитель Biren Technology выпустит чип BR100 в 2022 году, Tianshu Zhixin выпустит чип Zhikai 100, а Cambrian выпустит чип Siyuan 270.
Среди них Biren Technology заявила, что BR100 обладает самой высокой вычислительной мощностью в мире, а его пиковая вычислительная мощность более чем в три раза превышает мощность флагманских продуктов на рынке, достигая уровня PFLOPS.
Хотя данные хорошие, ему не хватает решающей способности обрабатывать FP64, и он все еще не может полностью заменить двух братьев Nvidia H100 и A100.
Более того, используемая Nvidia платформа CUDA уже стала наиболее широко используемой экосистемой разработки ИИ, поддерживает только GPU Nvidia на базе Tesla и на данном этапе не может быть заменена отечественными чипами.
Хотя китайские производители чипов наверстывают упущенное в области чипов для графических процессоров, технологический разрыв и узкое место в США по-прежнему являются ключевыми проблемами, и для напряженной работы потребуется некоторое время.
Больше, чем сервер ИИ
Не только серверы с искусственным интеллектом и чипы графических процессоров, но и рынок хранения данных постоянно растет с помощью крупномасштабных моделей.
**Условия работы ChatGPT включают обучающие данные, модельные алгоритмы и высокую вычислительную мощность Базовая инфраструктура с высокой вычислительной мощностью является основой для массивных данных и обучения. **
Наиболее очевидной особенностью является то, что после нескольких итераций ChatGPT количество параметров увеличилось со 117 миллионов до 175 миллиардов, увеличившись почти в две тысячи раз, что также создает большие проблемы для вычислений и хранения.
** Ожидается, что с началом новой эры искусственного интеллекта объем генерируемых, хранящихся и обрабатываемых данных будет расти в геометрической прогрессии, а память значительно выиграет. Вычислительное хранилище является важным краеугольным камнем ChatGPT.С приходом технологических гигантов, таких как Alibaba и Baidu, в проекты ChatGPT общий спрос на рынке вычислительных хранилищ будет быстро расти. **
Поскольку AIGC продолжает процветать, Пекин, Шанхай, Гуанчжоу и другие регионы с развитой цифровой экономикой также ввели политику, направленную на поощрение строительства интеллектуальных вычислительных центров. Например, Пекин предлагает построить новую партию вычислительных центров обработки данных и центров вычислительной мощности искусственного интеллекта и превратить их в центры вычислительной мощности искусственного интеллекта к 2023 году; Шанхай предлагает построить партию высокопроизводительных и высокопроизводительных вычислительных центров искусственного интеллекта. центры питания, содействие строительству общедоступных сервисных платформ вычислительной мощности и т. д.
И все сферы жизни столкнутся с крещением ChatGPT.В условиях новой волны искусственного интеллекта отрасли, связанные с ИИ, откроют широкое рыночное пространство.
А китайские компании обязательно прорвутся через ограничения Соединенных Штатов и разорвут оковы несправедливости.