PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐直接翻近7倍
PCIe显卡被低估了!内核补齐+通信重构,DeepSeek推理吞吐直接翻近7倍是石科技自研Meta-Infer高效推理引擎通过内核补齐、算子通信重构、并行调优与缓存复用等纯软件手段,在不改动模型前提下将DeepSeek-V4.1-Flash在PCIe显卡上的推理吞吐提升近7倍,该方法论同样适用于DeepSeek-V4-Flash、GLM5.3及国产GPU。
搜索
是石科技自研Meta-Infer高效推理引擎通过内核补齐、算子通信重构、并行调优与缓存复用等纯软件手段,在不改动模型前提下将DeepSeek-V4.1-Flash在PCIe显卡上的推理吞吐提升近7倍,该方法论同样适用于DeepSeek-V4-Flash、GLM5.3及国产GPU。
AI助理开始进入日常。
只要够有耐心,总是能等到Meta贡献一些新的奇闻异事。
个人 AI,环球同此凉热。
Meta的亿元俱乐部又添一中国面孔。
Manus从Meta分拆独立后即将完成约33亿元人民币的首轮融资,估值较此前20亿美元翻倍至约268亿元人民币,融资完成后有望成为中国估值最高的通用AI智能体公司。
Token词元替代了Byte字节,但不意味着大模型都得是Token。
让模型自己生成训练数据、自己改写提示词、自己修复代码,这条路线被称为: 递归自我改进(Recursive Self-Improvement,RSI)。
分析机构SemiAnalysis点名谷歌Gemini 3.8 Flash和Meta Muse Spark 1.3在Terminal-Bench 2.1刷榜,换用新版Terminal-Bench 4.0后Gemini分数从89.4暴跌至19.1,揭露大厂通过购买"模拟卷"训练数据刷榜的AI造假黑幕。
Meta的新AI应用Muse在美国iOS上线后下载量突破8.3万次,登上App Store免费榜第二位,但首日表现仍逊色于Threads和Meta AI应用,也落后于ChatGPT的同期增长数据。