ChatGPT走红,AI芯片欠缺即将到来
随着征象级AI产品ChatGPT走红,以大型语言模子为代表的前沿AI手艺走向聚光灯之下。不少相关企业都接连推出了自己的大模子,百度、阿里、360、商汤等海内企业纷纷宣布入局AI大模子。
在手艺架构层面,AI芯片分类主要是GPU(图形处置惩罚器)、ASIC(专业集成电路)、FPGA(现场可编程门阵列)和类脑芯片。ChatGPT背后的算力支持主要来自GPU或CPU+FPGA。由于具备并行盘算能力,可兼容训练和推理,GPU现在被普遍应用。

大模子关于GPU的要求极高。一方面是关于GPU的数目有要求。凭证Semianalysis的测算,ChatGPT天天在盘算硬件本钱方面的运营本钱为69万美元。Open AI需要约3,617台HGX A100效劳器(2.8万个GPU)来为ChatGPT提供效劳。
另一方面,关于GPU自身的性能也有要求;迫恃谝淮尉刍嵘咸逑郑骸澳拷裎ㄒ豢梢韵质荡χ贸头hat GPT的GPU是英伟达HGX A100。”A100由540亿个晶体管组成,打包了第三代Tensor焦点,并具有针对希罕矩阵运算的加速功效,关于AI推理和训练来说特殊有用。以后,英伟达还推出A100的替换者——H100,该芯片由台积电5nm定制版本制程(4N)打造,单块芯片包括800亿晶体管,一举成为最强。
坊间曾传出一份报告,报告称今年年头百度紧迫下单了3000台包括8张芯片的A800效劳器(相当于2.4万张A800芯片),预计整年会有A800和H800共5万枚需求。无独吞偶,阿里云预计也将在今年一万枚左右芯片,其中6000枚是H800。
有知情人士透露,A800、H800芯片现在正遭到包括效劳器、互联网厂商的海内公司“哄抢”,“H800海内最先出货了,但原来产量也未几。A800海内今年一年出货的量,凌驾一半在互联网公司,”该知情人士称,“H800出货更少,剩下客户新订的可能最快要到12月才华交付。”
在这一轮由Chat GPT掀起的大模子创业潮里,AI芯片成了抢手货,一时间,GPU作为算力的主要支持芯片最为显着,现在已成为了各大企业走向AI时代的唯一“硬通货”。
泉源:半导体工业纵横
【阅读提醒】
以上为本公司一些履历的累积,因工艺问题内容普遍,没有面面俱到,只对常见问题作剖析,随着电子工业的一直更新换代,新的工艺问题也一直泛起,本公司自建设以来一直的追求产品的立异,做到与时俱进,熟悉种种生产重大工艺,能为种种客户提供全方位的工艺、装备、质料的洗濯解决计划支持。
【免责声明】
1. 以上文章内容仅供读者参阅,详细操作应咨询手艺工程师等;
2. 内容为作者小我私家看法, 并不代表本网站赞许其看法和对其真实性认真,本网站只提供参考并不组成投资及应用建议。本网站上部分文章为转载,并不必于商业目的,若有涉及侵权等,请实时见告我们,我们会尽快处置惩罚;
3. 除了“转载”之文章,本网站所刊原创内容之著作权属于尊龙凯时科技网站所有,未经本站之赞成或授权,任何人不得以任何形式重制、转载、散布、引用、变换、播送或出书该内容之所有或局部,亦不得有其他任何违反本站著作权之行为。“转载”的文章若要转载,请先取得原文来由和作者的赞成授权;
4. 本网站拥有对此声明的最终诠释权。