西西河

主题:mate70已出,国产芯片稳定在7nm,euv大山必须翻过去 -- 亮子

共:💬60 🌺393 🌵17新 💬17 🌺2
全看分页树展 · 主题 跟帖
匿名 华为AI卡论算力是不错的

我们几年来一直断断续续地用华为的AI集群,做的就是大语言模型的训练,对华为的卡还是有发言权的。首先是能用,可以用于千卡规模的生产级别的训练。其次是算力的确达到并超越对标的NV的卡。第三是910B的确比910强很多,具体硬件上怎么达到的让美国人去猜,使用上讲就是强很多。

说完了正面的就说负面的,华为的东西还是用的人少,使用起来极为痛苦。一个是现实中很多测试和应用的场景还是基于NV的卡的,模型要在华为的框架和NV框架之间来回倒腾。二是华为之外精通他家那个框架的人极少,大部分事情都要华为工程师来干,但华为的工程师不知道是傲娇还是实在任务多得忙不过来,交流非常痛苦。三是910年代Bug很多,隔三岔五机器又出某某Bug卡住了,910B上这点改观非常大,毕竟是用先发客户的血泪打磨出来的产品。

通宝推:亮子,
全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河