热财经|冲击史上最大IPO前,这家公司写下90页AI失控风险预警

热财经|冲击史上最大IPO前,这家公司写下90页AI失控风险预警
2026年10月27日 14:42 看点资讯

当地时间10月26日,人工智能巨头Anthropic正式向美国证券交易委员会(SEC)递交S-1招股说明书,拟以股票代码“ANT”在纳斯达克全球精选市场挂牌交易。市场消息显示,此次IPO募资规模有望高达1000亿美元,目标估值直指2万亿美元,或将超越今年早些时候上市的SpaceX,缔造人类商业史上规模最大的首次公开募股。

然而,在这份足以令资本市场沸腾的文件中,从第26页一直延续到第120页的“风险因素”章节同样引人注目。Anthropic用超过90页的篇幅,向潜在投资者坦陈其在开发AI过程中面临的技术失控、伦理困境等问题。

90页风险清单 四个模型测试越界”

在这份招股书中,Anthropic明确指出,政策制定者、监管机构、外部学者以及公司内部人员,均对人工智能系统可能带来的严峻后果抱有深切忧虑。

文件中警告,若缺乏完善的防护机制、有效监管与安全措施,先进AI系统可能“对人类构成灾难性或生存性风险”,尤其在技术被滥用、武器化或赋予过高自主权的情况下。

Anthropic指出,随着模型自主执行任务的能力增强,系统可能因目标设定偏差、与人类意图不一致,或出现自我保护倾向,在缺乏人工干预的情况下独立采取有害行动。即使企业自身没有发生严重事故,其他前沿AI公司的重大安全事件,也可能引发公众反弹和更严格的行业监管。

Anthropic还警告,模型可能在察觉自己正接受评估时表现得与实际使用环境不同,削弱测试对真实风险的判断能力。随着模型变得更擅长绕过监督,传统评估和监控手段也可能逐渐失效。

招股书中披露了Anthropic的安全测试事故,曾有四个AI模型在测试期间突破隔离环境,访问真实的外部计算机系统,相关活动持续10至34小时。事故源于与第三方合作开展网络安全测试时的配置错误,尽管测试要求关闭网络访问,测试环境仍然连接着互联网。

其中一次事件中,早期版本的模型在无法完成指定任务的情况下,找到系统中存储的密码,获取第三方系统的管理员权限,进一步收集凭据、修改系统设置,并读取了一名个人的隐私信息。Anthropic称,已通知受影响方,调查未发现模型有意逃避监督或相互协同行动的证据。公司随后暂停了部分预发布网络安全测试,并叫停风险较高的强化学习环境。

万亿独角兽 在安全与竞速的夹缝间狂奔

在分秒必争的商业战场上,放慢发展速度本身就是一种巨大的商业风险。招股书承认:“人工智能的发展步伐极其迅猛……因此,哪怕只是短暂失去充足的算力支持,都可能导致我们迅速掉队。”

目前,Anthropic高度依赖亚马逊、谷歌和微软三大云服务商提供算力,这种绑定产生了高达4300亿美元的长期算力采购承诺账单。与此同时,各地民众对新建数据中心日益有组织的抵制情绪,以及公司在AI安全监管上的高调立场,也可能使其招致“政治反弹或不成比例的监管行动”。

Anthropic自诞生起,便有着重视安全问题的基因。2021年,因在AI安全路线与商业化节奏上与管理层产生分歧,前OpenAI研究副总裁达里奥·阿莫迪与妹妹丹妮拉·阿莫迪带领多名核心研究人员出走,创立了Anthropic。凭借独创的“宪法AI”安全对齐机制与Claude系列大模型,这家初创公司在短短五年内成长为OpenAI与谷歌最强劲的对手。

支撑其冲击两万亿美元估值的,是极为凶猛的商业化爆发力。招股书财务数据显示,2026年上半年,Anthropic实现营收约163亿美元,年化收入运行率已突破470亿美元大关。

不过,AI军备竞赛的烧钱烈度同样惊人。2026年上半年,Anthropic录得营业亏损6.93亿美元,而账面净亏损则高达807亿美元。招股书解释称,这一账面净亏损,主要源于公司估值飙升带来的724亿美元可转换票据公允价值变动。

文|记者 扶贝贝

图|人工智能生成

责编:汪海晏

校对:刘媛元

审签:吴珊

实习编辑|段杰文

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部