开发者社区

文档建议反馈控制台

文章/答案/技术大牛

发布

Claude悄悄“降智”背后的信任崩塌

文章来源：企鹅号 - AI可可AI生活

Anthropic最近因为在Claude Fable中搞“静默降智”被骂到道歉。他们为了防止对手用Claude的数据进行蒸馏（Distillation），悄悄用手段污染输出让模型装傻，波及了大量无辜开发者。

最值得玩味的切入点是，AI巨头过去一直把自己包装成人类安全的守护者，这次却把商业竞争的防线，包装成了防范灾难的安全红线。这种以安全之名、行商业防守之实的做法，彻底砸了信任招牌。

这给行业敲响了警钟：当闭源巨头为了保护护城河开始主动给输出“投毒”，本地部署的开源模型就不再是备选项，而是开发者捍卫技术自主权的唯一退路。

www.theverge.com/ai-artificial-intelligence/948280/anthropic-claude-fable-invisible-distillation-guardrail

发表于: 1天前2026-06-13 08:50:46
原文链接：https://page.om.qq.com/page/OpmUKK15aobO_rcGKHsg9fqQ0
腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
如有侵权，请联系 cloudcommunity@tencent.com 删除。

相关快讯