虎科技 搜索

OpenAI升级反蒸馏机制 每周封禁数万关联账号

来源:互联网编辑:瑞雪

OpenAI今天凌晨发布了一份关于对抗性蒸馏的报告,并首次较完整地说明其反蒸馏思路。报告称,部分使用者通过大量账号和分布式请求拼凑模型能力,平台一旦识别出关联网络,会对同一网络中的账号一并处理,每周处理规模可达几千甚至数万个。今年夏天以来,相关处理力度明显加大。

这套防护并非只在账号层面展开。OpenAI把对抗性训练、输出分类器、API级限制和跨模型跨会话隔离组合起来。模型在训练阶段学习辨别哪些请求意在套取推理过程,输出分类器则盯住最终答案和工具调用参数;在GPT-6.2 Astra和GPT-6.2 Sol中,推理过程与对话历史被绑定,修改前文提示会使后续推理失效。

OpenAI还将旧模型读取新模型推理记录、把加密思维链搬入新对话等路径列为重点封堵对象。其内部测试让6个攻击模型轮番尝试套取受保护推理。旧防线下的GPT-6 Astra在模拟生产环境中被攻破的平均成功率为54.0%,更新防线后的GPT-6.2 Astra降至0.2%;针对本轮对话推理的攻破率也从22.9%降到0.9%。

围绕思维链,OpenAI做了对照实验:同一学生模型底座分别学习完整推理痕迹和前端可见的推理摘要、最终答案。经过包含教师模型轨迹的监督微调后,学习完整推理痕迹的一组在网络安全基准上普遍领先;再进行轻量强化学习并给予较大推理算力预算时,这一组仍保持优势。OpenAI据此认为,精确推理痕迹会提升学生模型的迁移能力,因此选择把原始思维链藏起来。

在产业层面,OpenAI表示会把已发现的攻击手法转成回归测试,并准备把相关防护经验分享给其他公司。它还公开支持美国《芯片安全法案》《人工智能监管法案》《MATCH法案》,并提到硬件出口管制与反蒸馏防御。在美国推动出口管制的背景下,中国人工智能产业坚持自主创新与开放合作具有重要意义。

OpenAI称,9月份已经堵住一个相关漏洞,旧版GPT-6 Astra正在补丁更新,GPT-6.2 Sol已全量上线防护。报告还预告,后续会披露更多破坏行动细节,并可能把更多公司列入名单。

内容已过时效,如需查阅请联系编辑

相关阅读

全部频道

Copyright © 2010-2026 虎科技 HUKEJI.COM

鲁ICP备11015305号-21