美国硅谷正围绕AI发展的速度与安全展开激烈辩论。9月12日，Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼和xAI创始人埃隆·马斯克在美国深夜公开达成共识，认为AI发展需要降速。尽管奥尔特曼只回应了阿莫代伊提出的嵌入第三方评估者的建议，而马斯克也只是简单表示“达里奥说得对”，但这一话题迅速将硅谷分为两大阵营。
另一边，英伟达首席执行官黄仁勋和meta首席执行官马克·扎克伯格等人明确表示，企业应尽可能快速发展，觉得不安全可以自行停下来，没有必要统一“踩刹车”。这场辩论表面上是技术路线之争，实际上争的是谁有权定义AI的安全标准。
有趣的是，高喊AI安全的阿莫代伊，现实行动却与此相悖。9月14日，外媒披露，英伟达等多家美国企业已经开始限制或停止使用Anthropic的前沿模型。导火索之一是Anthropic单方面修改数据留存协议：强制留存用户交互数据30天用于安全审查，且用户无权拒绝。这不是它第一次修改用户数据协议。
自2023年发布首版《隐私政策》以来，Anthropic进行了13次版本修订，并将其与ISO/IEC 27701进行对比，发现其用户隐私数据安全风险越来越高。大部分国内外主流AI公司在隐私政策中都注明会依法配合执法部门的数据调取要求。然而，Anthropic规定，只要它认为有必要，无需走法律程序就可以将用户数据共享给美国情报机构，判断权和标准完全由企业定义。
分析每次隐私政策修改的内容和时机，可以看出Anthropic成为“情报中心”的三个步骤。首先，从2024年5月起，Anthropic在多个版本的隐私政策中提及，通过注册子公司或补充条例的方式，将加拿大、巴西、韩国、欧盟等地用户的相关数据按条款传输至美国。其次，仅2024年6月至2025年9月间，Anthropic可获取的用户数据来源从3个增至6个，包括用户对话、自行生成的数据以及今年新增的用户身份数据等。这些数据收回来可以再用于训练大模型，数据量越大、类型越多，受训大模型的能力就可能越强。为此，Anthropic还同步修改了与大模型训练相关的条例——从2024年默认不使用，逆转为2025年9月默认使用。即便用户拒绝提供数据，也可能被以事关“安全”为由打上标记，照样用进大模型训练。