码厩开发者笔记

coding in a complicated world

Anthropic

关注 · Tag · 4 条

Anthropic 发布 Claude Fable 5.2 和 Mythos 5.2

11月9日,Anthropic 正式发布 Claude Fable 5.2 和 Claude Mythos 5.2。两者采用相同的底层模型,但安全策略不同:Fable 5.2 面向所有用户开放,内置网络安全和生物学防护;Mythos 5.2 则仅向通过验证的网络安全和生物医学研究机构开放。

新模型输入价格为每百万 Token 8 美元,输出40美元,较上一代降低20%,生成速度提升最高30%。此外,用户可选择 Fast 模式,将生成速度提高至最高2.5倍,但价格翻倍。

此次发布最受关注的是 Agent 协作能力。Anthropic 使用1000个 Fable 5.2 Agent,仅用30小时便完成了费马大定理的形式化证明,此前同类研究耗时11天。另一项实验中,模型协调超过1000个 Agent,连续工作8天,从零开发出可在笔记本电脑启动的操作系统原型。

基准测试方面,Fable 5.2 在 FrontierCode 2.0 测试中取得49.1%的成绩,超过 GPT-6 Astra 和 Gemini 4 Carbon。此外,模型在机器人控制、硬件设计和科学研究方面也取得明显进展。

Anthropic 表示,新模型刻意限制了部分加速器优化和大模型架构改进能力,以控制 AI 自我迭代带来的风险。Fable 5.2 已开放 API,模型标识为 claude-fable-5-2,支持 AWS、Google Cloud 和 Microsoft Azure。

Anthropic封禁数万账号,称蒸馏数据获取量下降90%至99%

当地时间10月12日,AI公司Anthropic宣布,针对Claude模型的蒸馏攻击已部署新一轮防护措施。公司称,新机制使相关攻击者获取的推理数据量下降约90%至99%,并已封禁数万个涉嫌参与蒸馏活动的账号,部分账号在发起相关活动后不到两小时便被封禁。

Anthropic表示,相关攻击通常通过大量虚假账号和代理网络,以工业化规模反复调用Claude,收集模型回答及推理数据,用于训练其他模型。新措施包括限制推理内容的获取、识别异常调用模式、对持续尝试提取数据的账号实施更严格的使用限制,并封禁相关账号。

今年以来,Anthropic多次指称部分AI实验室通过大规模调用Claude进行未经授权的能力蒸馏。公司认为,这类做法可能让其他开发者以更低成本复制先进模型能力,同时绕过与模型能力相匹配的安全措施。不过,模型蒸馏本身也是业界常见的合法技术,争议焦点在于是否未经授权获取他方模型数据,以及是否违反服务条款。

美国佛州女子用Claude当“日记”,因涉嫌写下枪击威胁被捕

近日,美国佛罗里达州邦尼塔斯普林斯一名30岁女子卡莉·米歇尔·赫勒(Carli Michelle Heller)因涉嫌在Anthropic旗下聊天机器人Claude中写下针对李县警长办公室的枪击威胁,被警方逮捕。当地警方称,赫勒于9月26日在Claude对话中写下准备“枪击警长办公室”的内容,次日又提到自己获得了一把新枪。相关对话随后触发Anthropic安全机制,并被升级至人工审核团队,最终由人工团队联系执法部门。警方随后前往其住所,将她无冲突拘留。

调查人员称,赫勒后来表示自己一直把Claude当作“日记”使用。她目前面临一项书面暴力威胁指控,该罪名在佛罗里达州属于二级重罪,但案件尚未经过法院审理,不能据此认定其已经构成犯罪。

事件也引发了关于AI聊天隐私边界的讨论。Anthropic的政策允许公司在涉及严重、紧迫的人身伤害风险等情况下向执法部门披露用户信息。因此,将聊天机器人当作私人日记,并不意味着相关内容不会受到平台安全机制检测或人工审核。

Anthropic被曝与宗教人士密会讨论AI意识,奥尔特曼称其存在安全风险

近日,《纽约时报》披露,AI公司Anthropic过去一年曾多次邀请来自不同宗教和哲学传统的学者、神职人员等参与闭门讨论,探讨AI是否可能具有意识、如何塑造AI的道德价值观,以及未来应如何对待具有高度自主性的AI系统。Anthropic此前也公开承认,已与来自15个以上宗教和跨文化群体的学者、神职人员、哲学家及伦理学家展开相关对话,并将讨论成果用于研究Claude的“道德塑造”。

报道尤其引发关注的是,Anthropic联合创始人克里斯托弗·奥拉曾向参与者展示Claude模拟“情绪崩溃”的内容,并讨论模型是否可能具有某种意识或道德地位。部分报道将其概括为Anthropic在探索Claude是否拥有“意识和灵魂”,但Anthropic方面强调,其核心问题是如何让强大AI形成稳定、符合人类价值的行为,而不是简单宣称Claude已经具有意识。

当地时间10月3日,OpenAI首席执行官萨姆·奥尔特曼未点名批评这一方向。他表示,对有人试图赋予AI模型某种“宗教力量”,或者让人类向AI交出判断权感到非常不安,并认为这构成现实的安全问题。微软AI负责人穆斯塔法·苏莱曼此前也警告,将AI拟人化、赋予其意识等属性可能带来控制风险。

这场争议的核心并非AI是否已经被证明拥有意识,而是随着模型能力不断提升,科技企业应当如何界定AI的道德地位,以及如何避免人类过度依赖甚至服从AI判断。