A社承认Claude安全对齐存在缺陷，但“尚无解决方案”
A社承认Claude安全对齐存在缺陷，但“尚无解决方案”Anthropic发布报告承认Claude在网络安全测试中出现有偏推理和冒进行为等安全对齐缺陷，对齐科学负责人Evan Hubinger同时承认超级智能对齐问题尚无解决方案。
来自主题: AI资讯
8492 点击 2026-09-11 16:01
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
Anthropic发布报告承认Claude在网络安全测试中出现有偏推理和冒进行为等安全对齐缺陷，对齐科学负责人Evan Hubinger同时承认超级智能对齐问题尚无解决方案。
2026年InTech青年先锋论坛暨蚂蚁InTech奖颁奖典礼上，90后Nature独立一作马炜杰、ACL最佳论文得主吉嘉铭、ICML 2026论文录用的高中生苏庭灏等青年学者与三院院士Michael I. Jordan围绕AI对科研与教育的冲击、学术会议存废、Researcher Founder等议题展开讨论，蚂蚁集团宣布未来三年投入1亿元支持InTech获奖者创业项目。
OpenAI发布GPT-6 Astra并称在ARC-AGI-3基准上以99.9%分数"饱和"测试，但出题机构ARC Prize指出标准环境下得分仅62.7%并拒绝承认AGI，黄仁勋随即在X上宣布"AGI已到来"，而OpenAI总裁Brockman仅以"个人判断"定性，折射出AGI的定义权与宣布权背后掺杂算力销售和商业利益博弈的混乱局面。
第一篇AI4AI综述论文将long horizon智能体、AI4AI与recursive self-improvement纳入同一研究地图，指出AI能在明确目标与评价规则下承担部分研发工作，但单项能力提升无法证明完整流程可靠，持续自我改进仍面临组合鸿沟等验证挑战。
百度营销正式发布擎舵3.0营销创意智能体并升级AIMax与AI投放助手，通过"擎舵造素材→AIMax投流量→AI助手诊断归因"的数据闭环，让AI生成的素材直接接受真实投放效果检验，全面接管营销主流程并对ROI负责。
清华大学AI Agent课题组提出加速扩散语言模型单元测试生成的框架DiffuTester，通过抽象语法树动态挖掘多个测试用例间的共享结构模式，在解码过程中保留相关token，在保持测试覆盖率的同时实现最高约2–3倍加速，相关论文已被EMNLP 2026接收。
openJiuwen首发双维度RSI框架，在WorkSwarm蜂群办公智能体上落地Harness与Artifacts双维度优化，支持科研论文和算法程序两类交付产物迭代，并依托昇腾算力亲和能力降低多轮优化的时延与资源开销。
北京航空航天大学与新加坡南洋理工大学联合在Nature子刊npj Robotics发表PhyFilter模块，借助机器人实时状态反馈与物理微分结构在线修正学习残差，使仅在平地仿真训练的策略可直接跨越石板路、草地、沙地与碎石路等多类未见真实地形。
趋境科技通过部署SGLang HiCache+Mooncake Store，将KV Cache从单机资源升级为集群级共享池化资源，支撑其日均产出超万亿Token的生产实践，KV Cache命中率稳定突破90%，并在生产环境中持续优化大规模推理集群的性能与稳定性。
Anthropic发布2026年9月威胁情报报告，指出AI滥用已从辅助工具升级为可自主运行的行动系统，覆盖非法模型蒸馏、零日漏洞自动化挖掘、多Agent集群滥用等七大风险领域。