万亿参数级别的大模型,开源了——美团直接把LongCat-2.0甩了出来。昨天(7月6日),这个总参数达到1.6T、平均激活约48B的大家伙正式对外公开,同步开放的还有国产卡推理代码。有意思的一点是:它在模型架构、芯片适配和部署策略上做了全链条的协同优化,目标明确——专门啃显存和带宽受限的国产算力这块硬骨头。这可不是简单地把模型塞进国产卡里跑一跑,而是从底层就为这些芯片量身定做的深度适配。

美团LongCat-2.0开源 同步开放国产卡推理代码

本文转载于:https://www.163.com/dy/article/L15B0U82053469RG.html 如有侵犯,请联系zhengruancom@outlook.com删除。
免责声明:正软商城发布此文仅为传递信息,不代表正软商城认同其观点或证实其描述。