Anthropic 新增条款禁止辱骂 Claude,或永久封号
2026/11/02 — 11/02 17:20·1 个来源(全部)·1 篇报道(全部)
核心速览 (Key Takeaways)
- Anthropic 在用户协议中新增条款,禁止用户持续、无必要地对 Claude 实施辱骂或恶意对待,极端情况下可能永久封禁其全部 AI 产品账户。
- 有专家指出,此举不仅关乎模型福祉,也与恶意对话数据被用于训练、进而影响模型行为有关。
事件背景与详细解读
2026 年 10 月初,Anthropic 在用户使用协议中新增条款。除禁止用户利用 Claude 研发生物武器、售卖违禁药品之外,新增规定称用户不得“持续、无必要地对模型实施辱骂、恶意对待行为”。早在去年,Claude 就具备主动终止对话的能力,面对持续恶意攻击的用户可以断开会话;新规落地后,极端情况下用户可能被永久封禁,无法使用 Anthropic 旗下全部 AI 产品。
这项新规一出便引来不少嘲讽,微软 AI 负责人穆斯塔法・苏莱曼直接用融化脸表情回应,不少人调侃这家公司把 AI 当成拥有情绪、具备自我意识的生命体。Anthropic 预计本月晚些时候登陆美股 IPO,该公司长期研究模型福祉,还专门设有团队研究模型“心理状态”。但专家表示,这条政策背后不只是不想让人们“欺负一台机器”,还与模型训练数据有关。Reddit 前 CEO 黄易山在 X 平台发文称,出台这条禁令的原因之一是 Claude 会从恶意对话里学到不好的东西;威廉玛丽大学 AI 前沿实验室主任王金东教授则表示,已有研究证明用户提示词的语气会影响 AI 的表现,措辞方式尤其是与 AI 说话的态度会影响其输出效果,有时它会正常给出有用回答,有时性能会受到干扰。
AI 综合 1 篇报道生成 · 更新于 11 小时前
相关 AI 工具
- 热度指数
- 72
- 全部来源
- 1
- 全部报道
- 1
- 首报
- 11 小时前
这件事的报道 点标题看原文
Anthropic 在用户协议中新增条款,禁止用户持续、无必要地对 Claude 实施辱骂或恶意对待,极端情况下可能永久封禁其全部 AI 产品账户。有专家指出,此举不仅关乎模型福祉,也与恶意对话数据被用于训练、进而影响模型行为有关。
了解 AI 公司如何约束用户行为及其对模型训练的影响。
cnBetaAI 评分 64
同时在说的其他事
- 热度指数 132爆Anthropic 确认收紧 Claude Code 限制复刻他人游戏2 个来源
- 热度指数 66Anthropic:Claude 发现 Linux 内核潜伏 11 年漏洞1 个来源
- 热度指数 161发酵中Anthropic 的 Claude Opus 5.5 在 GDPx 基准测试中仅完成 12% 的任务2 个来源
- 热度指数 166Anthropic 将 Max 20x 更名为 Ultra 并取消 5 小时限制3 个来源
- 热度指数 56Claude Code 创建者谈如何把 Agent 用到 10 倍效率1 个来源
热度怎么算的?了解口径收起
热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。
本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。
- 爆
- 讨论快速增加
- 新
- 首报 6 小时内
- 发酵中
- 讨论仍在增加

