近日一项研究引起了AI圈关注。研究人员通过发现主流AI公司API中的一个漏洞,成功提取了前沿模型隐藏的推理过程,并发现Kimi K3在继续生成Claude Opus相关文本时,表现出异常高的统计匹配度。与其他开源权重模型相比,这种亲和性尤为突出。
AI模型在给出最终答案前通常会进行内部思考,这些思考内容会被加密后返回给用户端,以节省服务器资源。研究团队发现,多家公司使用了全局加密密钥。更关键的是,把较强模型的加密思考块喂给较弱的同系列模型后,较弱模型可以解密并输出完整思考过程。

Kimi K3
研究人员把解密后的Claude Opus推理片段当作“指纹”,测试其他模型能否继续生成后续内容。结果显示,特定Claude和GPT的推理跨度,在Kimi K3上被提取的难度比次优模型低了最多约6个数量级。只输入1%的Claude Opus推理片段,Kimi K3后续的思考路径和最终回答就会明显向Claude的风格靠拢。
这种高度兼容性引发了关于模型训练数据和方法的讨论。研究本身并不直接证明蒸馏行为,但提供了行为层面的强相关证据。模型在推理模式上的相似性,往往与训练数据分布和后训练策略有关。
Kimi K3是一款参数量达2.8万亿的混合专家模型,激活参数约1040亿,支持百万级上下文和原生视觉能力。它在多项评测中表现出色,尤其在长程编码、知识工作和推理任务上接近甚至部分超过部分闭源模型的表现。
开源权重模型的快速进步,让更多开发者能够本地部署和二次开发。与此同时,闭源模型在安全对齐和特定场景稳定性上仍有优势。两者之间的差距正在缩小,但训练数据来源和推理过程的透明度问题也随之凸显。
研究还指出了三个现实风险:开发者公开分享的会话日志中可能藏有个人信息和凭证;模型内部思考过程有时会暴露有害步骤,即使最终答案被拒绝;攻击者可能把恶意指令隐藏在加密块中劫持工作流。
这些发现提醒行业,加密推理轨迹的保护机制需要重新审视。全局密钥和弱模型解密路径的存在,让“黑盒”思考过程不再完全不可见。对用户和开发者来说,谨慎处理API返回内容和会话记录变得更加重要。
大模型竞争已经从单纯参数规模转向推理质量、长上下文处理和多模态能力。开源模型通过架构创新和精细后训练,正在快速追赶。同时,模型行为相似性的研究也在增加,有助于社区更好理解不同模型的“思维习惯”。
这项研究提供了一个技术视角:通过行为指纹分析模型之间的关联,比单纯看参数或基准分数更能揭示训练过程的细节。未来类似方法可能会被更广泛用于模型审计和安全评估。
总体来看,Kimi K3展现出的推理亲和性,既是技术能力的体现,也提醒业界在数据使用和系统安全上需要更严谨的标准。开源与闭源的互动会继续推动整个领域向前,而透明度和安全性的平衡,将成为长期议题。
更新时间:2026-08-14
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight All Rights Reserved.
Powered By 61893.com 闽ICP备11008920号
闽公网安备35020302034903号