根据研究结果，通过安斯罗普、开放AI和谷歌的API构建的呼叫中心和内部工作自动化等AI服务的推理日志可能导致个人信息泄露。
12日发布在Hugging Face上的论文《从专有LLM API中窃取推理痕迹》指出，安斯罗普、开放AI和谷歌三家公司的前沿模型在返回给客户的“加密推理”块中发现了结构性缺陷。
加密推理是指AI模型在给出最终答案之前，将内部思考过程以加密形式传递给客户，而不是原文。这一做法旨在防止竞争对手窥探这一过程以训练（蒸馏）自家模型，并防止用户暴露出绕过安全装置的思考过程。
问题在于，这些加密块在同一AI模型中是相互兼容的。当上级模型请求解密加密块时，下级模型会将其解密为明文。论文通过安斯罗普的Claude Opus 4.8生成的加密块在相对较弱的Claude Haiku 4.5中解密的实验证明了这一点。开放AI的GPT系列和谷歌的Gemini系列也确认存在相同的结构性缺陷。
引入三家API的国内企业也可能面临个人信息泄露的风险。国内多家AI服务企业将安斯罗普、开放AI和谷歌的API应用于呼叫中心咨询、内部工作自动化等。
三星电子在软件开发、产品开发、市场营销等各个业务中引入了基于ChatGPT的API。LG电子、LG CNS、三星SDS、Krafton、Toss等也在内部工作自动化中使用基于ChatGPT的API。金融行业如新韩银行等也在逐步实现AI联络中心（AICC）以自动化呼叫中心咨询。
特别是需要保持对话上下文的多轮聊天机器人或通过多个步骤执行任务的代理型服务，结构上必然会在每个会话中交换加密推理块，因此在此次漏洞中暴露风险较大。对此，建议对会话日志的保存和共享进行检查，并制定相关部门的应对方案。
※ 本报道经人工智能（AI）系统翻译与编辑。
