西西河

主题:茗谈149:赤雁 -- 本嘉明

共:💬324 🌺1702 🌵38新 💬46 🌺6 待认可1
全看分页树展 · 主题 跟帖
家园 请教一下:LPU到底有没有前途?

我一直有两个认知:

1、LLM不是OS,相对是比较封闭的,按理来说应该可以不依赖英伟达的CUDA生态

2、LLM的这一轮AI应该有更加高效的算法-硬件组合,就像当时从显卡挖矿变成了专门的矿机一样。

但是很遗憾,这两点最终都没有在现实中体现出来——直到最近deepseek火了之后,才有了华为昇腾、国产LPU等方面的报道——但国内的很多新闻又有哗众取宠夸张之嫌,令人不置可否。

所以我想请教一下:你认为所谓的LPU究竟有没有搞头?还是说未来算法再次进化,可能又会改变对LPU的需求,所以与其研发LPU,还不如CUDA先用着?

  • 上帖之待认可回复,花囧定1 / 0
    取决于如何定义LPU

    早先有谷歌的TPU企图颠覆英伟达的GPU,现在又有Groq的LPU,本质上他们都是针对不同AI的计算特点强化出来的处理单元。将来的AI算法风格变化没有人能确认,因此LPU,如果狭义的指Groq的LPU未来没有人知道。

    但另一方面,如果美国继续进行对中国的封锁,CUDA确定会被推翻,将来的AI计算平台,框架将由中国人定义。

全看分页树展 · 主题 跟帖


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河