Claude的暗面：当"AI安全先锋"被绑上战车

Claude的暗面：当"AI安全先锋"被绑上战车 Claude的暗面：当"AI安全先锋"被绑上战车 一场改写AI伦理边界的军事行动，一份价值2亿美元的合同，和一家被夹在理想与现实之间的公司 2026年1月，委内瑞拉首都加拉加斯上空战火纷飞。 美军轰炸机呼啸而过，多处地点化为废墟。总统尼古拉斯·马杜罗及其夫人被强行控制。这是五角大楼精心策划的一场"捕获行动"——代号为绑架，执行是战争。 然而，硝烟散去后，一个令人震惊的事实浮出水面：在这场充满血腥的军事行动背后，美国五角大楼使用了Anthropic公司开发的人工智能工具Claude。 消息由Axios新闻网站和《华尔街日报》于2026年2月13日率先披露。知情人士证实，Claude不仅被用于行动前的情报分析，更在实际执行过程中被实时调用。 Anthropic——这家由前OpenAI高管达里奥·阿莫代伊创立、以"AI安全第一"为核心理念的公司，陷入了前所未有的道德困境。 讽刺的是，其使用准则明确禁止将Claude用于"协助暴力行为、开发武器或进行监控"。 但当AI技术与国家安全需求相遇，伦理边界究竟该如何坚守？ PART 01 两个30岁的年轻人，和一家价值百亿的公司 故事要从2021年说起。 那一年，达里奥·阿莫代伊（Dario Amodei）和妹妹丹妮拉·阿莫代伊（Daniela Amodei）离开了OpenAI。 达里奥原是OpenAI的研究副总裁，对公司商业化方向颇有微词。他觉得AI发展太快了，安全研究跟不上——这就像开着一辆没有刹车的跑车在悬崖边飙车，迟早要出事。 于是兄妹俩创立了Anthropic，公司名字源自"人类学"（Anthropology），核心使命是"构建可靠、可解释和可控的AI系统"。 简单说，就是造一个"安全的AI"。 这种"安全至上"的理念，让Anthropic在AI圈子里显得格格不入。别的公司都在喊"更快、更强、更赚钱"，Anthropic却在说"慢一点、稳一点、别出事"。 达里奥公开讨论其模型的强大功能和对社会的潜在风险，呼吁加强监管、建立更多安全防护措施，以防止AI对社会造成危害。这与不少业内公司强调商业化和快速增长的策略截然不同。 Anthropic很快赢得了"AI安全领导者"的美誉。 但理想主义是有代价的——这个代价，叫作营收。 公司需要钱，员工要吃饭，投资者要回报。于是，Anthropic开始寻找"可靠"的收入来源。 他们盯上了美国政府。 PART 02 走进五角大楼的AI 2024年11月，Anthropic做了一个决定：与数据分析公司Palantir Technologies和亚马逊云服务（AWS）达成合作，将Claude AI模型提供给美国情报和国防机构。 Palantir，这家由彼得·蒂尔联合创立的公司，向来以服务美国军方和情报机构闻名。它是美国国防信息系统局授予的少数获得Impact Level 6（IL6）认证的公司之一。 IL6是什么概念？ 这是美国国防部用于处理"机密"（Secret）级别及以下信息的最高安全认证之一。只有极少数公司能获得这项认证，它意味着Claude可以在高度安全的环境中处理美军最敏感的数据。 Claude通过Palantir的AI平台（AIP）部署，政府客户可以通过AWS的SageMaker服务访问Claude，同时确保数据托管在Palantir的安全基础设施上。 2025年1月，Anthropic获得了价值 2亿美元 的美军合同。 同年7月14日，美国国防部首席数字与人工智能办公室（CDAO）与Anthropic签署了一份为期两年的原型协议。 Anthropic公共部门负责人Thiyagu Ramasamy当时说："这一奖项开启了Anthropic支持美国国家安全的新篇章。" 他大概没想到，这个"新篇章"会把公司推向怎样的深渊。 PART 03 Claude Gov：为军方定制的AI武器 2025年6月6日，Anthropic发布了一款特殊的产品。 名字叫"Claude Gov"——一套专门为美国国家安全客户定制的AI模型。 Anthropic官方博客是这样说的： "这些模型是根据政府客户的直接反馈构建，以解决现实世界的操作需求。它们已经部署在美国国家安全最高级别的机构中，对这些模型的访问仅限于在机密环境中工作的人员。" Claude Gov有什么特别之处？ 官方列出了四项核心能力： 一、改进的机密材料处理能力——模型在处理机密信息时"拒绝更少"。 二、对情报和国防文件的更好理解。 三、增强的关键语言和方言熟练度。