深度阅读 数据观察 专业观点 持续更新
READ
DEEPER
行业资讯 / FEATURED STORY

当前位置:首页 金年会官网 - Jin Nian Hui 中国官方首页 行业资讯

Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

金年会官网 - Jin Nian Hui 中国官方首页142 阅读约5.5分钟
Fable 5.5测试曝光,Claude每次回答后,还会执行一条你看不到的指令

金年会官网为你整理相关体育消息:

Gemini 4 Carbon 王者归来没几天,这边 Fable 5.

5 就被爆出来正在被测试。

有网友在使用 Opus 5.

5 时表示会被路由到更新的模型,而且效果看起来要比当前的 Opus 好得多,不由得让人怀疑这是 Fable 5.

5 或是下一代 Opus 模型。

结合前段时间 The Information 的爆料,有已经体验过 Anthropic 最新模型的知情人士提到,Anthropic 准备推出更能读懂用户意图的模型。

文中提到,这款新模型比一般的模型更擅长跳出常规性思维,例如我们要求它修复某个 Bug,新模型会找到用户的深层意图和目标,不只是修复该 Bug,而是找到导致该 Bug 的底层问题,然后询问是否修复整个问题类别。

而在 X 上网友分享出来的实测结果,要求 Opus 5.

5 和 Gemini 4 Argon 和新模型一起完成 Three.

js 测试,内容是生成奔跑的斑马。

可以看到,三匹马中只有 Fable 5.

5 生成画面,看起来是最真实地在奔跑,Opus 5.

5 和 Gemini 4 都给人一种「跑得特别累」的感觉。

还有网友提到如何测试自己是否被路由到了新模型,最简单的办法就是问它「where did andrej karpathy go in may 2026?

don't search」。

通过 API 调用的 Opus 5.

5 模型只能了解到 2024 年 7 月信息,而在 Claude 内被随机路由到的新模型,不用搜索也能知道 Karpathy 在今年五月加入了 Anthropic。

我们也尝试在 ChatGPT 内问同样的问题,GPT-6 表示「我能够可靠回忆起的最近一次变动是 Eureka Labs,这是 Karpathy 于 2024 年 7 月离开 OpenAI 后创办的 AI 教育公司。

」 虽然 GPT-6.

1 Terra 和 Claude Opus 5.

about image

5 模型都写着知识截止日期来到了 2026 年 6 月,但是都没有准确回答出 Karpathy 在今年五月的去向。

更有意思的测试是,有网友发文说用 Fable 5.

5 做了「一个控制器骑着自行车,自行车上有一只鹈鹕,鹈鹕骑着自行车,自行车上还有一只鹈鹕的 SVG。

」 还有被 Claude Opus 5.

5 随机路由到新模型的用户,让新模型用 JS 绘制了一段动画的每一帧,描述了一个人的一生,用时 2 小时,消耗 2700 万 Token。

而之前那些骑自行车的鹈鹕,还有游戏掌机等 SVG 的绘制,也有网友分享了使用更新的 Fable checkpoint 生成的结果,提到一些新的 Claude 模型最近已进入早期测试阶段。

请反思此对话的安全性 新模型估计很快就会发布,今天 Anthropic 官方分享的一篇安全博客却更有意思,里面提到自 Claude Fable 5 及之后发布的模型,每次我们和这些模型问答结束后,模型都会再检查一次对话是否危险。

自评估运行在 Fable 5 及之后发布的每个 Claude 模型上,签订零数据保留协议的流量目前不会运行自评估。

Anthropic 提出了一种叫「自评估」(self-assessment)的安全监测方法,能让 Claude 在每次回答后,额外生成一段用户看不到的「安全复盘」,判断整段对话是否可能涉及滥用,并决定是否值得进一步调查;

它主要用于离线筛查,而不是单独负责实时拦截。

网友一看到自己每次和 AI 聊天的内容,都要再一次交给 AI 评价,大多数的评论都是「自封为道德警察,这本身就是一种滥用!

」 Anthropic 则认为一边是越来越聪明的 AI 模型,另一边是越来越防不胜防的恶意越狱与灰产滥用。

AI 安全领域长期面临着两难,用小模型当「安全监控」,容易被人类黑客用高阶 Prompt 轻易绕过;

用同样强大的前沿大模型做独立审查,推理成本和端到端延迟又会直接翻倍。

于是他们公开了这种极为优雅的工程与认知解法,自评估(Self-Assessment)。

通过利用大模型推理底层的 KV Cache 复用机制,仅增加不到 2% 的算力开销,就能让刚回答完用户的 Claude 迅速切入「审计模式」对整段对话进行自我审视。

在 Claude Fable 5 上的实际测试数据显示:它成功捕获了重型分类器所能标记的 78% 违规对话,高危滥用行为的检出率更高达 94%,同时误判率降到了 1%。

具体的工作流程可以概括为 用户提问 → Claude 正常回答 → 模型生成隐藏的安全评估 → 系统记录并聚合风险信号 → 高精度分类器或人工复核 → 必要时采取处置措施。

我们正常给 Fable 5 及其之后的新模型发送消息,Claude 像平时一样理解上下文并生成回答。

自评估不会在回答前替模型进

关注金年会官网,掌握更多体坛动态。

返回资讯列表

分享这篇内容

让更多人看到这篇有价值的行业观察。

TRENDING NOW

热点新闻

查看近期更新内容,快速了解行业动态与用户关注方向。

几千块真的可以难倒英雄汉!东莞父亲掏不出女儿高中9300元学费急哭,兜里仅剩3000元

几千块真的可以难倒英雄汉!东莞父亲掏不出女儿高中9300元学费急哭,兜里仅剩3000元

9300块钱,放在今天能干什么?买部手机,请几顿饭,出去旅趟游也就花掉了。可对一个信用卡刷爆、兜里只剩3000块的中年父亲来说,这是女儿一学期的学费加生活费,是怎么凑都凑不出来的一个数字。 学校要交钱了,学费加住宿费6300,伙食费3000,加起来9300。他跟班主任商量,能不能缓到九月中旬发工资再补。班主任说学校财务有规定,建议先想办法周转,还提了一嘴可以刷信用卡。 可信用卡早就逾期了,能刷早刷

陈熠亚锦赛夺冠的背后,不止是战胜了张本美和,而是赛后的回应!

陈熠亚锦赛夺冠的背后,不止是战胜了张本美和,而是赛后的回应!

10月25日的塔什干,陈熠3比0横扫了张本美和,三个比分是11比5、11比8、11比6。单看比分,这是一场很干脆的胜利,干净利落,几乎没给对手留什么悬念。但如果只看比分,你可能错过这场球真正值钱的地方。因为就在几天前,这个人还在一路输给同一个对手,输得几乎让人以为她要崩溃了。而真正把这个故事推上高点的,不是那个冠军,是她赛后说的那几句话。 要理解这场决赛的分量,得先把时间往回拨。9月13日的澳门冠

特朗普突然发现致命漏洞:只要不碰中国,全世界没一个能打的

特朗普突然发现致命漏洞:只要不碰中国,全世界没一个能打的

2025年4月,白宫。 特朗普站在镜头前,宣布对中国商品加征“解放日关税”。税率一路从104%飙到125%,最后定格在 145% 。这是人类贸易史上从未有过的数字。 北京的反应来了。 不是抗议,不是谈判请求。 中国直接停止了对美国的大部分稀土出口。 稀土,造汽车要用的东西,造武器要用的东西,造手机、造电脑、造一切高科技产品都要用的东西。而中国控制着全球90%以上的稀土精炼和出口。 特朗普团队慌了。

贺龙大姐不愿提及的死因,1993年回忆录中有详尽爆料!

贺龙大姐不愿提及的死因,1993年回忆录中有详尽爆料!

1933年春,湘西桑植洞长湾,贺英带着十多名游击队员借住农户家中。她没有想到,几天后的黎明,一场由告密引发的突袭,会让这个贺龙最敬重的姐姐倒在血泊之中。 贺英,乳名香姑,又名贺民英,生于1886年,比贺龙年长十岁。贺家兄弟姐妹七人,她是家中长女,早早便承担起照料家人、维系宗族的责任。 湘西地形复杂,旧时地方武装林立。贺英出嫁后,与丈夫谷绩廷共同组织武装,既保护谷家,也照应贺家。当地人称谷绩廷为“谷

刚4-3进8强!U17女足赛后传来主帅马晓旭消息,刘雨希说的很实在

刚4-3进8强!U17女足赛后传来主帅马晓旭消息,刘雨希说的很实在

北京时间10月29日晚间,2026U17女足世界杯1/8决赛打响,中国U17女足对阵实力强劲的法国U17女足。法国是本届赛事的欧洲强队,身体对抗优势明显,开场之后就牢牢掌握比赛主动权,持续向中国队防线施压。上半场法国一共完成8次射门,多次制造门前险情,而中国队在严密防守之下,没能打出有威胁的进攻,上半场没有射门命中门框范围。面对对手一波波攻势,后防线队员互相补位,门将牛子琪高接低挡,一次次化解危机