OpenAI在其官方网站近日发表声明，称公司近期遭遇了一场组织性蒸馏活动。该事件自7月的第一周开始，表现出对抗式蒸馏的特征，即未经授权地利用特定模型的输出或推理过程，用以训练、复现或改进其他模型。OpenAI指出，活动最初规模较小，但在7月24日和25日，流量突然激增，超过4000名用户发起了1.6万次请求。后续调查显示，超过1.5万名用户参与了类似活动。到7月28日，OpenAI成功阻止了这些行为。
值得注意的是，此次事件并未涉及公司的加密系统被破解或数据库被侵入，用户的对话也没有被直接访问。OpenAI强调，这些行为违反了其服务条款。公司已与行业合作伙伴通过前沿模型论坛分享相关信息，以增强抵御蒸馏攻击的能力。目前，OpenAI尚不清楚具体的攻击者身份，但认为与核心活动群体和开发Kimi模型的月之暗面有关。
发表评论