HaiAI123

全球AI工具精选导航

行业动态
持平

Anthropic 新增条款禁止辱骂 Claude,或永久封号

2026/11/02 — 11/02 17:20·1 个来源(全部)·1 篇报道(全部)

核心速览 (Key Takeaways)

  • Anthropic 在用户协议中新增条款,禁止用户持续、无必要地对 Claude 实施辱骂或恶意对待,极端情况下可能永久封禁其全部 AI 产品账户。
  • 有专家指出,此举不仅关乎模型福祉,也与恶意对话数据被用于训练、进而影响模型行为有关。

事件背景与详细解读

2026 年 10 月初,Anthropic 在用户使用协议中新增条款。除禁止用户利用 Claude 研发生物武器、售卖违禁药品之外,新增规定称用户不得“持续、无必要地对模型实施辱骂、恶意对待行为”。早在去年,Claude 就具备主动终止对话的能力,面对持续恶意攻击的用户可以断开会话;新规落地后,极端情况下用户可能被永久封禁,无法使用 Anthropic 旗下全部 AI 产品。

这项新规一出便引来不少嘲讽,微软 AI 负责人穆斯塔法・苏莱曼直接用融化脸表情回应,不少人调侃这家公司把 AI 当成拥有情绪、具备自我意识的生命体。Anthropic 预计本月晚些时候登陆美股 IPO,该公司长期研究模型福祉,还专门设有团队研究模型“心理状态”。但专家表示,这条政策背后不只是不想让人们“欺负一台机器”,还与模型训练数据有关。Reddit 前 CEO 黄易山在 X 平台发文称,出台这条禁令的原因之一是 Claude 会从恶意对话里学到不好的东西;威廉玛丽大学 AI 前沿实验室主任王金东教授则表示,已有研究证明用户提示词的语气会影响 AI 的表现,措辞方式尤其是与 AI 说话的态度会影响其输出效果,有时它会正常给出有用回答,有时性能会受到干扰。

AI 综合 1 篇报道生成 · 更新于 11 小时前

相关 AI 工具

24 小时热度热度指数 72 · 峰值 97 · 10 小时前
24 小时前现在

这件事的报道 点标题看原文

昨天
  1. Anthropic 在用户协议中新增条款,禁止用户持续、无必要地对 Claude 实施辱骂或恶意对待,极端情况下可能永久封禁其全部 AI 产品账户。有专家指出,此举不仅关乎模型福祉,也与恶意对话数据被用于训练、进而影响模型行为有关。

    了解 AI 公司如何约束用户行为及其对模型训练的影响。

    cnBetaAI 评分 64

同时在说的其他事

热度怎么算的?了解口径

热度按 48 小时内有多少个独立来源在说这件事算:同一个来源发多条只算一次,并按 24 小时半衰期衰减,所以排前面的是很多人在说的事。

本页汇总公开订阅源,标题与摘要由模型整理,版权归原作者所有;重要信息请回原文核对。如权利人认为相关标题或摘要侵权,请通过页尾联系邮箱提供具体页面与权利依据,我们核实后会及时删除或替换。

爆
讨论快速增加
新
首报 6 小时内
发酵中
讨论仍在增加

回 AI 行业动态榜 →