Anthropic更新政策强化AI安全并面临激烈行业竞争

AI企业AnthroPic近期对其“负责缩放”政策予以更新，明确了哪些模型需要额外的安全防范举措。这一行动的目的在于，在新技术推出之前有效降低潜在风险。

依据Anthropic发布在博客上的内容，若压力测试表明，某一AI模型可能会助力“资源受限的国家行为体”研发化学或生物武器，Anthropic会在该模型发布前实施新的安全措施。此外，若模型能够完全自动化初级研究人员的工作，或者在技术快速扩张过程中产生过度加速效应，公司也会加强安全保障。

Anthropic最近完成了新一轮融资，估值达到615亿美元，使其成为估值最高的AI初创企业之一。然而，与OpenAI相比，这一估值仍相对较低。OpenAI最近宣布完成400亿美元融资，总估值达到3000亿美元。随着生成式AI市场预计在未来十年将超过1万亿美元，竞争愈发激烈，谷歌、亚马逊和微软等科技巨头纷纷积极推出新产品和新功能。来自中国的竞争也崭露头角，DeepSeek的AI模型在美国迅速走红便是例证。

在去年10月发布的“负责缩放”政策中，Anthropic还提及开展实体办公场所安全检查，以检测潜在的监控设备。该公司证实已成立执行风险委员会和内部安全团队。此外，他们还将引入“实体”安全流程，运用先进的检测设备和技术，监测监控设备，确保内部安全。

Anthropic在AI安全与责任方面的持续努力，不仅是为了保护自身技术，也是为了维护整个行业的健康发展。