搜索
一直以来，在Transformer架构中，注意力（Attention）与前馈网络（Feed-Forward Network，FFN）被认为是两个功能不同且互补的模块： 前者让词元（Token）彼此交互，后者对每个词元进行非线性变换。
ChatGPT共同创造者Liam Fedus表示，数学可由Lean验证，但材料等物质科学必须依靠真实实验，因此其创立的Periodic Labs在门洛帕克建设实验室，结合语言模型推理、物理模拟与高通量实验探索AI科学家。
字节跳动正依托Seed、火山引擎、飞书、豆包、抖音和TikTok，在芯片、算力、模型、云服务、终端及机器人等AI全产业链布局，但投入分散与关键押注不够坚定仍是风险。
OpenAI更新dots，用户可在iOS或Android版ChatGPT创建并配置dot，指挥Codex推进编程任务；Codex还推出Beta功能Composer Predictions，可按Tab采纳下一条消息建议。
英伟达联合MIT和牛津大学团队提出Physis-Lang，通过物理语言描述、自进化准则和能力导向的数据检索提升视频模型的物理理解与生成表现，其Cosmos3-Super和Cosmos3-Nano在Physics-IQ Verified分列第一、第二。
DeepSeek的神鬼二象性被字节Seed团队逮到了。
10 月 6 日，OpenAI 公开了 AI 产出的 722 篇数学论文，包括准黎曼猜想的相关证明。前 Google 科学家、xAI 联合创始人 Christian Szegedy 表示，数学家穷尽一生攀登的险峰，机器可乘飞机直接抵达。但 Szegedy 认为，数学不是走向终结，而是探索方式的改变 —— 人们可以借助飞机，抵达更多未境之地，他自己对此兴奋不已。
10月6日，谷歌开源EmbeddingGemma 2，把一个能搜图、看视频、听声音的搜索引擎，塞进了一个内存不到600MB的小模型！
xAI联合创始人Christian Szegedy在《数学何去何从？》中称，AI正解决多个数学猜想和长期悬而未决问题，数学将由少数天才的手艺转向科技行业基础设施，但Wolfram等人认为纯数学不会被AI做完。
CScale完成1.45亿美元C轮融资，由Valor与Atreides联合领投，两家9月已四次联合领投AI融资，显示跨市场基金正成为AI数据中心互连项目的重要领投方，并使相关估值更受Astera Labs、Credo等美股表现影响。