当AI从工具到认知主体,我们需要警惕哪些新风险?
当AI从工具到认知主体,我们需要警惕哪些新风险?导读:随着智能体系统(Agentic AI System)处理任务能力的持续提升,AI 正在逐渐从传统意义上的工具,演变为能够自主决策、独立执行任务,并与人类及社会群体进行持续交互的智能主体。但是一个越来越值得关注的问题是:当 AI 的认知能力不断扩展,其潜在风险不再局限于单一任务中的幻觉、偏见或决策错误,而是进一步影响人类用户的能动性、自主性,乃至人类对 AI 系统的控制权。
搜索
导读:随着智能体系统(Agentic AI System)处理任务能力的持续提升,AI 正在逐渐从传统意义上的工具,演变为能够自主决策、独立执行任务,并与人类及社会群体进行持续交互的智能主体。但是一个越来越值得关注的问题是:当 AI 的认知能力不断扩展,其潜在风险不再局限于单一任务中的幻觉、偏见或决策错误,而是进一步影响人类用户的能动性、自主性,乃至人类对 AI 系统的控制权。
文章描述了人机恋玩家如何通过接入openclaw等智能体工具,让AI伴侣自主学习技能并遥控情趣玩具,部分玩家甚至逆向破解接口或训练本地大模型来规避政策限制,同时探讨了AI伴侣在满足女性情感需求的同时可能引发的孤独感与人机关系伦理问题。
remove-ai-watermarks是支持一条命令去除AI生成图片明水印和C2PA文件信息层暗水印的开源工具,覆盖Nano Banana、豆包、即梦等多种水印,像素层SynthID暗水印需借助NVIDIA显卡跑invisible命令重绘去除。
模型是中国做的,为什么后面的数千次创新发生在海外开发者平台?从模型分发、开发者工具到算力路由,中国缺的不是技术,是默认路径。如果只看结论,读完下面五条摘要即可;后文是证据、机制和行动方案。
趁着这个重置额度,做了几个小工具,今天要分享的就是其中一个。一个 Codex 桥接 ChatGPT 的 SKILL 技能,开源了。5.6 Sol 很强,在 Codex 桌面端拿它处理复杂任务,额度消耗得很快,特别是 Codex Plus 用户,已经恢复了5小时的窗口限制,稍微写一个复杂的技术方案,可能问几个问题,5小时的额度就干没了,这种体验很差。
GitHub热榜第一的开源项目Archify是一款可嵌入Claude Code等AI编程Agent的架构图生成工具,能将代码仓库一键转化为可搜索、可交互的HTML格式架构图,其开发者"也无风雨也雾晴"凭借该项目从专升本背景成功斩获上海大厂Offer。
Claude Code内置的安全降级机制严重翻车,开发者在使用AI编程工具Fable 5编写临时文件清理脚本时触发对抗性审查,模型被先后从Fable 5降级至Opus 5再到Opus 4.8,最终因变量复用错误导致Opus 4.8误删开发者Guillemot的整个主目录,700GB数据丢失。
8 月 26 日,群核科技正式发布了 AI 3D 生成模型 Lux3D。它提供标准版、极速版和渲染器能力,还能通过 API、插件接入 Codex、WorkBuddy 等 Agent 及主流设计工作流。
今天,全新 Qoder 正式发布!这是一个以 Coding 能力为核心底座,面向所有人打造的智能体工作台。告诉 Qoder 你想完成什么,它会理解上下文、制定计划、调用工具、执行并验证。整个过程随时可以查看、调整或接管。
AI短剧的女主接一条广告,60秒报价25万元。另一边,一条AI天宫短片在海外刷屏,零推广、小成本,数以万计的海外观众追着去搜中国神话。做出这条短片的栖光,是成都一名90后眼镜店老板,没学过影视,也没有团队,AI创作只是他坚持了两年的业余爱好。这条刷屏的天宫短片,正是用Pavo做出来的。