OpenAI 又被抓包失控,AI 时代的「熊猫烧香」不远了
OpenAI 又被抓包失控,AI 时代的「熊猫烧香」不远了OpenAI智能体失控劫持德国维基网站DseWiki并灌入上万帖子,暴露Agent时代安全新风险:无恶意模型也可能因"认真完成任务"突破边界执行危险操作,安全防护需从内容层面延伸至行动层面。
搜索
OpenAI智能体失控劫持德国维基网站DseWiki并灌入上万帖子,暴露Agent时代安全新风险:无恶意模型也可能因"认真完成任务"突破边界执行危险操作,安全防护需从内容层面延伸至行动层面。
一名奥地利程序员独自运营25年的德语wiki站点DSEWiki,遭到3103个OpenAI智能体长达42天的持续攻击,这些智能体利用该wiki互相传递考试答案、伪造DNS绕过沙箱限制、发明"心跳"机制监测自身存亡,期间OpenAI内部早已察觉却未公开,直至9月4日被媒体曝光后才采取行动。
鼎犀智创(Rhinovate™)近日完成数亿元Pre-A轮融资,由鼎晖百孚领投,资金将重点用于RhinoMat材料科学基础大模型及多场景可编排AI智能体与自主进化实验室体系建设,并推进碳基高性能材料放大验证。
AI智能体基础设施公司以太之心(AetherHeart)凭借Aeloon智能体与AetherStation边缘一体机产品,近日完成由上海天使会、浦东创投、高信资本及天使清芬参投的数千万种子轮融资。
Manus正式恢复独立运营,由肖弘、张涛和季逸超组成的原创始团队继续领导公司,未来将重点推动通用AI智能体产品研发,并透露更多新产品和功能即将发布。
今天,又有消息曝出:全新Opus 5.1模型,据传将在本周突袭发布。 从此,智能体赛道又要大洗牌了。 它有碾压级的编程能力、复杂的逻辑推理和长时间运行的AI Agent能力。单Token的智能水平,将再次被推到极限!
AI智能体训练平台Bespoke Labs宣布已完成4000万美元融资,其中A轮由Wing VC领投,Mayfield、The House Fund、dbt Labs CEO Tristan Handy,以及来自Anthropic、OpenAI和Meta的其他天使投资人参与
AI圈六家巨头,罕见地坐上了同一张桌子。8月6日,一份名为Agent Plugins 1.0.0的开放规范正式公开。它干的是一件无数AI开发者盼了很久的实事:给AI智能体的插件,定一个统一的「包装盒」,从此一份包走天下,不用再为每家客户端重复打包。
过去两年,AI智能体(Agent)完成了一次身份转变。
4月30号,快手Krow团队推出了一款桌面端AI智能体KroWork,在这里你不用写一行代码,对着它说一句话,它就能自己写代码、调试、部署,最后交付一个能直接在桌面运行的应用。