搜索
DeepSeek 开源的推理框架 DeepInfer 经 PCIe 本机取数改造后，可在无 RDMA 网卡的 4 张 B200 上以 128k 上下文承载 1024 并发，总输出约 6.2 万 token/s。
GPT-6 Astra也犯错了。
AI会议助手Otter.ai宣布从General Catalyst的Customer Value Fund（CVF）获得3.2亿美元融资，将用于企业业务增长、市场推广、国际扩张和产品创新，其ARR已突破1亿美元。
嚯，GPT要住进Gemini家了！
生产级 AI 内容创作与 Demo 式生成工具的核心区别是什么？
10 月 21 日，Personal AI 公司 Today AI 宣布累计完成超 2 亿美元的融资，投资方包括 IDG 资本、腾讯、五源资本、蚂蚁集团、红杉中国、传音控股、同歌创投及上海交大菡源资产。
如果让 GPT、Claude、Gemini 直接指挥机器人干活，谁更靠谱？
在将 LLM 真正应用到产品的过程中，我们经常会遇到一个看似简单、却非常关键的问题：模型生成的内容，究竟有多可信？
在视频生成领域，少步视频模型已经实现只需少量采样步骤，就能生成连续画面。
增强模型的表达能力，可以让Transformer更灵活地读取和整合信息。Attention Residuals（AttnResidual）沿着这个方向，将注意力从token之间的信息交互扩展到网络深度，让每个子层学习选择哪些历史层输出。