随着AI模型变得越来越强大，潜在的恶作剧可能性也在增加——要求设置护栏的声音也随之增多。AI公司现在面临一项微妙的任务：在尊重企业客户隐私的同时，警惕滥用行为。感觉到有机会超越竞争对手Anthropic，OpenAI宣布了一种以隐私为中心的滥用监控方法：私有安全处理。这个自动化系统在监控潜在滥用行为的同时，不保留任何客户数据，因为显然，你可以鱼与熊掌兼得——如果蛋糕是由算法构成的。

这一举措直接反击了Anthropic最近宣布的数据保留政策，该政策激怒了一些客户。该政策于7月生效，允许AI实验室在“涵盖模型”（包括所有Mythos级模型和“具有类似能力的未来模型”）方面保留用户数据——所有会话和对话——长达30天。该政策旨在保障安全，让实验室筛选潜在的不当行为。但这让处理敏感数据的企业深感担忧，他们不希望自己的信息被AI实验室保存或检查。

OpenAI和大多数AI公司一样，已经通过零数据保留（ZDR）提供了一定程度的隐私。ZDR使用OpenAI API中的代理在每次会话的基础上监控滥用行为，因此客户数据不会被保留，但不良活动仍然可以在无需人工干预的情况下被标记。值得注意的是，Anthropic也遵守ZDR——除了“涵盖模型”如Fable。

OpenAI表示，私有安全处理扩大了ZDR的范围。这是一种长期安全监控形式，评估跨多个对话的输入和输出，而不仅仅是一个对话。监控由代理完成，如果触发，它会捕获交互并跨会话分析是否存在滥用迹象。这有助于检测跨多个会话的恶意使用——比如恶意行为者通过分散请求来规避检测，试图设计恶意软件。私有安全处理可以在无需人工审查的情况下分析这些对话是否存在滥用行为。

如果触发，系统可能会向OpenAI发送一个“狭义信号”，警告特定活动。基于此，OpenAI可以决定是否“需要执行”。如果需要，他们会联系客户以获取背景信息或共同解决问题，客户可以自行决定是否共享数据。与此同时，Anthropic指出，对客户数据的人工审查可能发生，但只能通过“受控访问路径”进行，涉及“一小部分经批准的审查员”，并且每次审查会话都记录在防篡改日志中，审查员无法抑制或修改。

OpenAI和Anthropic之间的企业竞争正在升温，双方都在寻求任何优势。最近的一份报告显示，OpenAI第二季度的增长慢于Anthropic，后者年化收入运行率据报道为650亿美元。Anthropic的投资者已提出以2万亿美元的估值进行IPO，而OpenAI也在筹备其IPO。在赢得企业信任的竞赛中，OpenAI刚刚抛出了隐私手套——它包裹在零和一之中。