搜索
DeepSeek 开源的推理框架 DeepInfer 经 PCIe 本机取数改造后，可在无 RDMA 网卡的 4 张 B200 上以 128k 上下文承载 1024 并发，总输出约 6.2 万 token/s。
AI会议助手Otter.ai宣布从General Catalyst的Customer Value Fund（CVF）获得3.2亿美元融资，将用于企业业务增长、市场推广、国际扩张和产品创新，其ARR已突破1亿美元。
物理 AI 的「GPT 时刻」，可能不远了。
在荷马史诗《奥德赛》与特洛伊传奇中，特洛伊人把看似神圣礼物的巨大木马迎入城内，暗藏其中的希腊勇士在夜色中洞开城门，令固若金汤的城池瞬间陷落。
在将 LLM 真正应用到产品的过程中，我们经常会遇到一个看似简单、却非常关键的问题：模型生成的内容，究竟有多可信？
最近一段时间，我好像得了某种怪病。
增强模型的表达能力，可以让Transformer更灵活地读取和整合信息。Attention Residuals（AttnResidual）沿着这个方向，将注意力从token之间的信息交互扩展到网络深度，让每个子层学习选择哪些历史层输出。
一个有些反直觉的现实是： AI已经在企业里被广泛用起来了，但很多公司的生产力并没有因此明显上升。
据彭博社报道，DeepSeek最新一轮融资已筹集约1000亿元，创中国AI行业规模最大融资纪录，宁德时代和腾讯位列本轮融资规模最大投资者之列。
估值冲上150亿。