智通财经APP获悉，Anthropic 周一表示，旨在防止竞争对手复制其 Claude AI 模型能力的新措施，已将所谓“蒸馏攻击”中窃取的数据量减少了约90%至99%。
模型蒸馏已成为领先 AI 公司的一大关键关切，原因在于 AI 竞争的加剧，包括 Anthropic、OpenAI 和谷歌(GOOGL.US)在内的公司都认为，这种做法使竞争对手能够以更快速度、更低成本复现先进能力。
Anthropic 表示，限制访问 Claude 推理能力的防护措施已大幅减少了提取尝试，“蒸馏者提取的推理 token 数量”目前“较此前降低了10到100倍”。
这家总部位于加利福尼亚州的公司表示，其已加大难度，使他人更难利用代理网络反复探测 Claude 受保护的推理能力，从而阻断提取尝试，并阻碍大规模蒸馏活动。
Anthropic 称，其安全系统“的稳健程度大致相当于防止 Claude 协助制造生物武器的那些系统”，且“误报率低于0.1%”。
Anthropic 此前还封禁了数万个与蒸馏活动有关的账户。
