自家AI被用于绑架外国总统？这家硅谷公司的"安全承诺"碎了

自家AI被用于绑架外国总统？这家硅谷公司的"安全承诺"碎了 自家AI被用于绑架外国总统？这家硅谷公司的"安全承诺"碎了 一个价值2亿美元的合同，一场轰炸加拉加斯的突袭，和一个关于AI伦理的尖锐拷问 2026年2月的一个清晨，硅谷山景城的Anthropic总部里，CEO达里奥·阿莫代伊（Dario Amodei）收到了一条来自五角大楼的消息。消息的内容让他和他的团队陷入了一场始料未及的风暴。 知情人士透露，Anthropic旗下的人工智能工具Claude，被美军用于了一场代号为"抓捕马杜罗"的秘密行动。 这场行动轰炸了委内瑞拉首都加拉加斯的多处地点。 而Anthropic的使用准则写得清清楚楚： 禁止将Claude用于协助暴力行为、研发武器或开展监控活动。 PART 01 一个"安全至上"的AI公司 达里奥·阿莫代伊长着一头深棕色的短发，常穿一件普通的灰色卫衣，说话时语速不快不慢，带着一种加州科技精英特有的从容。他是OpenAI的早期员工，曾在那里担任研究副总裁。 2021年，因为对公司商业化方向的不满，他带着妹妹丹妮拉·阿莫代伊（Daniela Amodei）一起离开OpenAI，创办了Anthropic。 "Anthropic"这个词的意思是"与人类有关的"。 从公司成立的第一天起，阿莫代伊就把"AI安全"刻进了公司的基因里。与那些疯狂追逐商业化、拼命烧钱抢市场的同行不同，Anthropic一直在公开呼吁加强监管、建立更多安全防护措施，以防止AI对社会造成危害。 2023年，阿莫代伊在一篇名为《管理的风险》的文章中写道，AI有可能帮助"恶意行为者"制造生物武器，他呼吁政府介入监管。 他甚至公开表达过对AI在自动致命行动和国内监控中应用的担忧。 这与不少业内公司强调商业化和快速增长的策略截然不同。 Anthropic的员工们也深信这一点。在他们的办公室里，随处可见写着"Responsible AI"（负责任的AI）的海报。每一个产品发布前，团队都会进行严格的安全测试，确保模型不会做出有害的事情。 至少，他们是这么想的。 PART 02 从Palantir到五角大楼 故事要从2024年11月说起。 那是一个深秋的下午，Anthropic宣布与两家公司达成合作：数据分析巨头Palantir Technologies，和云计算霸主亚马逊云服务（AWS）。 合作的内容很简单：把Claude AI模型带到美国的情报和国防机构。 Palantir是一家什么样的公司？这家由硅谷传奇投资人彼得·蒂尔（Peter Thiel）联合创办的公司，专门为美国情报机构和国防部门提供大数据分析服务。它的客户名单里包括CIA、FBI、NSA、美国特种作战司令部…… 有人把它称为"硅谷最神秘的公司"。 通过这次合作，Claude被部署到了Palantir的"影响级别6"（Impact Level 6，简称IL6）环境中。IL6是一个国防认证系统，专门处理最高可达"机密"级别的国家安全数据。 只有极少数公司获得了IL6认证。Palantir和亚马逊是其中之二。 在当时的公告中，三家公司列出了Claude在国防和情报场景中的三大任务：高速处理大量复杂数据、识别数据中的模式和趋势、简化文档审查和准备工作。 公告还特意强调了一句： "人类官员将保留决策权。"