ACL 2025主会论文 | TRIDENT:基于三维多样化红队数据合成的LLM安全增强方法
ACL 2025主会论文 | TRIDENT:基于三维多样化红队数据合成的LLM安全增强方法大语言模型(LLM)已经在多项自然语言处理任务中展现出卓越能力,但其潜在安全风险仍然是阻碍规模化落地的关键瓶颈。目前社区用于安全对齐的公开数据集,往往偏重于「词汇多样性」,即让同一种风险指令尽可能用不同的表达方式出现,却很少系统考虑指令背后的「恶意意图多样性」以及「越狱策略多样性」。
搜索
大语言模型(LLM)已经在多项自然语言处理任务中展现出卓越能力,但其潜在安全风险仍然是阻碍规模化落地的关键瓶颈。目前社区用于安全对齐的公开数据集,往往偏重于「词汇多样性」,即让同一种风险指令尽可能用不同的表达方式出现,却很少系统考虑指令背后的「恶意意图多样性」以及「越狱策略多样性」。
中科院自动化所提出BridgeVLA模型,通过将3D输入投影为2D图像并利用2D热图进行动作预测,实现了高效且泛化的3D机器人操作学习。
就在今天,AI医疗又诞生了一个超级独角兽! 据报道,自动化医疗笔记的 AI 初创公司 Abridge 获得了 3 亿美元的 E 轮融资,估值达到53亿美元(约合人民币380亿)。
据 BloomBerg 报道,Abridge AI Inc. 是一家利用人工智能转录医疗对话的AI笔记初创公司,目前正在进行一轮由 Andreessen Horowitz 领投的 3 亿美元新融资。
与当前大部分AI+research产品的关注点不同,Bridgetown Research通过AI赋能市场调查中的专家访谈、竞品对比以及数据分析的全过程,从二手数据开始,结合领域专家的知识框架提出关键假设,AI通过联系专家和客户进一步收集原始数据并进行分析,完成最终报告,极大缩减尽职调查所需的时间成本。
进入2025年,AI的打法逻辑变了。
程序员要消失了?AI教父Hinton、诺奖得主Pissarides和英伟达CEO黄仁勋齐声预警:AI正在颠覆编程岗位,「写代码」将变成过去式!最新报告显示,美国超1/4编程职位已消失。大学该不该还教编程?CS还值不值得学?
由好莱坞高管和技术专家联合创立的初创公司Cheehoo,旨在开发一款 AI 驱动工具,帮助创意人员更轻松地制作动画内容。这家初创公司脱胎于制作了《乐高大电影》系列的制片公司Rideback。Rideback 的联席 CEO Michael LoFaso 和 Jonathan Eirich,与公司联合创始人 Dan Lin 共同组建了 Cheehoo 创始团队。
首个基于混合Mamba架构的超大型推理模型来了!就在刚刚,腾讯宣布推出自研深度思考模型混元T1正式版,并同步在腾讯云官网上线。对标o1、DeepSeek R1之外,值得关注的是,混元T1正式版采用的是Hybrid-Mamba-Transformer融合模式——
在 AI 时代,图形界面融合了自然语言会话等多通道交互,演变出新的形态。当意图、角色、会话这一切无形的体验规则被确定之后,它们最终也将承载于具体的界面之上。无形的体验融入到有形的体验之中,在这一部分里,我们提出的 Hybrid UI 正是要定义界面这一有形的体验,保障好 AI 产品体验的最后一道门槛。