国产 AI 芯片最新情况交流202308
深度研究会议纪要
【资料图】
2023-08-07 21:35·广东
Q:目前国内的 AI 芯片厂商是否能满足大厂的需求?
A:国内一线的 AI 芯片厂商可能能满足大部分需求,但与 A100 等国外芯片仍存在较大差距。大厂更倾向于选择国内一线的 AI 芯片厂商,而不是自研芯片。
Q:国内自研的 AI 芯片的产能是否能满足互联网厂商的需求?
A:国内一线 AI 芯片厂商的产能目前可能无法满足互联网厂商的需求,特别是在供应能力上还存在差距。不过,如果需求量不大的话,目前的产能应该能够满足
Q:国内的 AI 芯片厂商与 A100 等国外芯片仍存在差距吗?
A:国内头部的 AI 芯片厂商与 A100 等国外芯片仍存在较大差距,尤其是在大模型方面和训练卡方面。他们还没有达到半个代际的先进水平。
Q:国内自研芯片的产能问题能否得到解决?
A:国内一线 AI 芯片厂商的产能问题可能会在今年年底得到解决,能够保证每年几万片的供应。华为的产能情况会比寒武纪更好。国内一线厂商的产能绝对能够满足国内互联网厂商的需求。
Q:目前互联网厂商对 AI 芯片的需求量有多大?
A:目前互联网厂商每年新采购 AI 芯片的量并不大,最大的也就是几万张卡。其中高端训练和中低端推理的需求量大约为几十万张。
Q:寒武纪的过滤能力是不是没有问题?海光和华为的供应能力如何?
A:寒武纪每年 10 万张卡的过滤能力绝对没有问题,华为要高于我们,所以这个其实来看除了这两家,可是还有海光供应能力是比华为估计也不差。这样其实算下来,如果互联网公司或者说大厂公司决定转过来做国产的 AI 芯片上他们的业务来的话,供应绝对没问题。
Q:对于自研芯片的进展,大厂可能会觉得没有意义,用自己的芯片就好了,您怎么看?
A:大厂自己的芯片和 A100 等有很大的差距,不会因为有 AI 芯片就对美国特别硬气,而是会评估国内一线的 AI 芯片厂商是否能满足他们需求,如果能满足的话可能会比较硬气。
Q:国内的 AI 芯片与 A100 之间差距很大,需要两代产品的代替差距,您怎么看待这个问题?
A:国内的 AI 芯片在大模型方面还有很大差距,并且在训练方面相对新手。如果涉及到信息披露,国家可能会对他们进行管制。
Q:国内的自研芯片产能是否能满足互联网需求?
A:国内一线的芯片厂商如华为、寒武纪等都进了实体清单,产能有保证。即使被禁后,产能也能恢复。目前国内互联网公司每年对 AI 芯片的需求并不是很大,大部分也是高端训练和中低端推理卡,总体来说供应能力没有问题。
Q:如果严厉的出口管制落地,是否会促进国产芯片的发展?
A:如果出口管制真的严厉落地,会促进国产芯片的发展,可能会取代英伟达的销售额,并通过白手套形式拿到产能,对美国来说可能有些麻烦。大家寄希望于中芯国际。
Q:国产芯片的性能进展如何?华为的 910 和 920 与英伟达的 A100 相比如何?
A:华为 910 和 920 与英伟达的 A100 相比综合性能差距在 10%以内,但是华为的 910 和920 不支持 LP32 位的算力,这在某些场景下会有局限性。其他国内芯片的性能与 A100 相比差距较大。目前国内主要有两种芯片,即寒武纪的 590 和华为的 910 和 920,它们与 A100的差距约为 20%~30%。
Q:国产芯片的下一代进展如何?寒武纪的 690 存在什么问题?
A:寒武纪的 690 设计之初是基于 5 纳米工艺,但目前 5 纳米工艺还没有通路可用,导致690 的上市时间可能会受到影响。因此,在未来一年或更长的时间里,主流产品仍然会是590,而 690 的推出时间可能不会那么快。至于华为 920 的下一代,虽然我不确定它是否已经是市场上的下一代产品,但我了解到已经有客户拿到了华为 920,并且华为今年一直在推广 920。华为 920 和 A100 的差距约为 2%~3%。
Q:国内大厂是否能够适配国产芯片,解决矛盾和问题?
A:国内大厂只要愿意投入时间和人力资源,完全可以实现替换英伟达芯片。但实际情况比理论要复杂得多,替换大部分产品可能相对容易,但剩下的部分可能需要投入更多的时间和精力。客户基于英伟达定制化开发的程度越高,切换到国产芯片的难度就越大。因此,如果不能解决这剩下的 20%场景,那么替换率可能远低于 81%。但是并不意味着之前做的努力都前功尽弃,至少可以节省一半以上的时间。
Q:美国可能会禁止 A800、H800 的情况?是否有时间表或者大概率会发生?
A:实际上没有具体的时间表。关于 A800 的禁令,在未来可能会有,但真正说 H800 以及其他卡是否会被禁止,这只是我听到的一条消息,不一定百分百可信。我认为大家可以对这件事进行批判性的思考,因为 H800 是更高端的产品,a8 版已经没有意义了。
Q:现在有哪家互联网厂商使用了 AI 芯片?
A:我们现在没有给任何一家互联网厂商去卖 590,因为我们现在库里货也不多,这个货就要留着交移动和台州的和沈阳的项目,所以我们不给互联网卖这个东西。前面的几代产品在百度和阿里其实都有过量产,但其实互联网厂商里面也就仅有这两家有个上千张的这种量产,别的都是很小的量。他们在一些推理业务上就是试验性的用一下而已。
Q:为什么在市面上租用寒武纪的专利算力需要通过特定渠道?
A:这是一个信息差问题。我们的一些同事一直在积极推广他们当年开发的算力平台,并提供免费使用和打折券等促销活动。南京的计算中心拥有几万张卡,他们非常积极地将这些算力推广出去,可以简单地通过付费租用来获得航母级的算力。这只是我们的同事宣传不够到位的原因,导致一些人可能无法了解和使用。
标签: