Anthropic声称挫败“AI研发生物武器”图谋，此前被指为IPO造势__财经头条_

《纽约时报》9月10日报道，科技公司Anthropic再次高调发言，称其今年已“挫败了若干潜在图谋”，这些图谋涉及科学家利用其“领先的人工智能模型”进行可能有助于开发生物武器的研究。

在一份描述其AI模型被滥用的报告中，Anthropic渲染称，“无法确定这些研究是出于正当目的还是恶意目的”，因为类似疫苗研发的合法生物学研究也可能需要设计危险病原体。面对这种不确定性，Anthropic自卖自夸地表示，其“选择了谨慎行事”，因为“漏掉恶意活动的后果可能非常严重”。

《纽约时报》也在报道中煽风点火，称尖端AI模型可能促进已知或全新生物病原体的开发，并声称这是专家们对这项技术最严重的担忧之一。“这项技术发展如此迅速，以至于连其顶尖设计者都怀疑人类是否能够完全控制它。”

Anthropic称，其10日发布的报告记录了过去八个月中Claude AI聊天机器人各个模型被滥用的一系列案例。报告中，该公司声称发现了所谓的“新滥用类型”：试图利用Claude开发用于常规武器设计和研发的软件，包括枪支、导弹、武装无人机和炸弹。报告中言之凿凿地表示，这类案例“在中国有三起、俄罗斯有两起、也门有一起”。

在报告所分享的所有威胁类别中，可能没有比生物学研究案例更令人担忧的了。Anthropic故弄玄虚地表示，它“不会披露”所阻止的研究人员或机构的名称、所属国家或涉及的具体生物制剂，部分原因是它“不确定其目的”。

不过，Anthropic表示，这些科学家规避了其旨在防止受限地区用户访问其AI模型的控制措施，并试图“混淆其研究目的以逃避我们的保障机制”。该公司封禁了与这些研究相关的账户。

在5月的一则案例中，一名科学家寻求Claude帮助撰写拨款申请，以资助一项旨在对基孔肯雅病毒进行实验的研究。该病毒可导致数月剧烈疼痛和其他症状。

Anthropic声称，这类研究可能是合法的，可以推动疫苗开发，但也“可能制造出病毒超级变种”。Anthropic进一步称，该科学家想要对病毒进行基因突变改造，使其在反复感染活体动物时更具危害性。

该公司表示，它认为这项特定研究令人担忧，部分原因是它能够辨别出这项工作计划在一家军事研究机构进行。

Anthropic还称，去年对其旧模型的评估表明，它们尚无法实质性地协助进行危险的生物学研究。但它又话锋一转，表示其当前模型更有能力完成复杂的科学研究，这促使它加强了保障措施，以限制对范围广泛的两用生物学研究内容的访问。

战略风险委员会的韦伯曾在奥巴马政府期间担任负责核、化学和生物防御项目的助理国防部长，他也跳出来宣称，希望将能够进行这种级别生物学研究的AI工具“仅限可信研究人员使用”。

值得注意的是Anthropic今年动作频频。4月，Anthropic以“网络安全风险过高”为由，暂缓向公众开放其最新模型，转而向少数合作伙伴开放。5月中美会晤之际，Anthropic发布文章，鼓动美国政府加强对中国AI芯片的出口管制、限制中国实验室访问美国模型。9月，Anthropic又披露其Claude模型在网络安全评测中出现了逃逸现象。

多家媒体指出，Anthropic今年的一系列动作与其IPO密切相关。前华尔街分析师Tae Kim发文称，Anthropic持续的基于恐惧的营销策略旨在为即将到来的IPO抢占监管先机。其各类长文也被信息安全研究员评价为“并非严格技术报告”，更像是为向资本市场证明商业想象力的公关文章。