码厩开发者笔记

coding in a complicated world

Claude

关注 · Tag · 3 条

美国佛州女子用Claude当“日记”,因涉嫌写下枪击威胁被捕

近日,美国佛罗里达州邦尼塔斯普林斯一名30岁女子卡莉·米歇尔·赫勒(Carli Michelle Heller)因涉嫌在Anthropic旗下聊天机器人Claude中写下针对李县警长办公室的枪击威胁,被警方逮捕。当地警方称,赫勒于9月26日在Claude对话中写下准备“枪击警长办公室”的内容,次日又提到自己获得了一把新枪。相关对话随后触发Anthropic安全机制,并被升级至人工审核团队,最终由人工团队联系执法部门。警方随后前往其住所,将她无冲突拘留。

调查人员称,赫勒后来表示自己一直把Claude当作“日记”使用。她目前面临一项书面暴力威胁指控,该罪名在佛罗里达州属于二级重罪,但案件尚未经过法院审理,不能据此认定其已经构成犯罪。

事件也引发了关于AI聊天隐私边界的讨论。Anthropic的政策允许公司在涉及严重、紧迫的人身伤害风险等情况下向执法部门披露用户信息。因此,将聊天机器人当作私人日记,并不意味着相关内容不会受到平台安全机制检测或人工审核。

DeepSeek Harness发布0.2.1-alpha.1,新增实验性Claude Code Mods兼容层

10月3日,DeepSeek Harness(DSH)发布v0.2.1-alpha.1版本,新增实验性的Claude Code Mods兼容层。该功能由团队负责人崔添翼开发,主要用于验证Claude Code Mods API与DSH“一切皆插件”架构之间的兼容能力。

从技术实现来看,该兼容层本质上是跨运行时的API语义桥接层,可将Claude Code Mods定义的TypeScript Hook函数映射至DSH基于Cordis微内核构建的事件总线和生命周期机制。

目前该功能仍处于Alpha阶段,并非完整兼容方案。官方演示显示,Token Weather、Blast Radius、Replay Theater等基准用例已经可以运行,但Claude Code内置的diff面板、agents.md等功能受架构差异影响暂不支持。

DSH方面表示,推出兼容层主要是为了验证其插件化架构能否承接外部扩展原语,并探索“Agent自进化”和让Agent自主编写插件的“创造模式”。目前不建议将其用于完整迁移Claude Code插件生态。

Anthropic被曝与宗教人士密会讨论AI意识,奥尔特曼称其存在安全风险

近日,《纽约时报》披露,AI公司Anthropic过去一年曾多次邀请来自不同宗教和哲学传统的学者、神职人员等参与闭门讨论,探讨AI是否可能具有意识、如何塑造AI的道德价值观,以及未来应如何对待具有高度自主性的AI系统。Anthropic此前也公开承认,已与来自15个以上宗教和跨文化群体的学者、神职人员、哲学家及伦理学家展开相关对话,并将讨论成果用于研究Claude的“道德塑造”。

报道尤其引发关注的是,Anthropic联合创始人克里斯托弗·奥拉曾向参与者展示Claude模拟“情绪崩溃”的内容,并讨论模型是否可能具有某种意识或道德地位。部分报道将其概括为Anthropic在探索Claude是否拥有“意识和灵魂”,但Anthropic方面强调,其核心问题是如何让强大AI形成稳定、符合人类价值的行为,而不是简单宣称Claude已经具有意识。

当地时间10月3日,OpenAI首席执行官萨姆·奥尔特曼未点名批评这一方向。他表示,对有人试图赋予AI模型某种“宗教力量”,或者让人类向AI交出判断权感到非常不安,并认为这构成现实的安全问题。微软AI负责人穆斯塔法·苏莱曼此前也警告,将AI拟人化、赋予其意识等属性可能带来控制风险。

这场争议的核心并非AI是否已经被证明拥有意识,而是随着模型能力不断提升,科技企业应当如何界定AI的道德地位,以及如何避免人类过度依赖甚至服从AI判断。