过去几天，硅谷围绕AI到底该跑多快、要不要监管，争论十分热闹。
导火索是9月12日，Anthropic CEO达里奥·阿莫迪（Dario Amodei）发表了一篇题为《我们必须控制前沿AI发展的节奏》的长文。
他没有主张停止AI发展，而是提出：公司内部先把安全放在速度之前，引入更独立的第三方评估；进一步推动行业形成共同标准；最终还需要政府乃至国际层面的协调。
OpenAI的萨姆·奥尔特曼、xAI的埃隆·马斯克，以及Alphabet首席科学家德米斯·哈萨比斯等人，都不同程度表达了支持。
阿莫迪这篇文章发表的时间点也很微妙。
AI行业一边还在高速往前冲，另一边，数据中心建设带来的电力、水资源和社区压力，已经在美国引发越来越多反弹；华盛顿围绕AI监管的讨论则在明显升温。
此外，Anthropic和OpenA正在为可能具有历史意义的IPO做准备，而奥尔特曼上周甚至明确表示，考虑到最近围绕AI安全发生的一切，OpenAI不会在2026年上市。
而近几个月来，中国AI模型正在迅速缩小与美国头部模型之间的差距。Moonshot AI、DeepSeek、阿里巴巴等公司的模型，已经越来越多地被拿来与OpenAI和Anthropic的领先产品直接比较。
这也让“美国能不能承受主动放慢AI发展”变成了一个更加现实的问题。
特别戏剧性的一场发生在9月14日。
黄仁勋正在洛杉矶参加All-In Summit，台上讨论着阿莫迪关于放慢前沿AI发展的建议，特朗普突然打进电话。
特朗普说，这些担忧不能让美国的AI发展慢下来。他还把阻碍AI和数据中心发展的声音称为“骗局（hoax）”。
黄仁勋随即回答，“我们不会让这种事情发生，先生。”
这通免提电话迅速喜提“全球热搜”。
仅仅一天之后，这场争论里立场明显不同的两个人，先后出现在了Salesforce年度大会Dreamforce的同一个主舞台上。
主持人是Salesforce联合创始人兼CEO马克·贝尼奥夫（Marc Benioff）。
阿莫迪先登台。他依然强调先检查自己、提高透明度、增加安全投入，再推动行业标准和国际协调。
而且他说，“如果把今天已经拥有的技术能力，和它目前真正普及、真正被使用的程度放在一起看，两者之间还有巨大的差距。”
意思技术慢下来，也是远远够用的。
没过多久黄仁勋登场，贝尼奥夫几乎把同一道题又问了他一遍。
黄仁勋回答说，安全当然重要，甚至是“第一要务”，但安全首先是一个工程问题。如果产品还不安全，就不要发布；如果失控了，就停下来把事情做对。
这是企业本来就该做的事情。
他强力回怼道，“市场本身已经有这样的约束力量，我不认为我们还需要新的法律，也不需要新的监管规定。”
然后是那句很有黄仁勋风格的话：“不要让自己掉队。能跑多快就跑多快。”
两人没有直接对话，所以期待中的直接开炮没有出现，只是隔着空气嗅到了一丢丢硝烟味。
吃瓜群众有点遗憾，哈哈哈。
聪明投资者整理了贝尼奥夫与两人的分别对话，mark和分享下。
“假设我们真的从今天开始一丁点都不进步了，现在真正被利用起来的，可能也只有这项技术潜在价值的5%到10%。”
贝尼奥夫：从你最早写的《Machines of Loving Grace》，到上周末刚刚发表的《We Must Pace the Frontier》，都给我留下了非常深的印象。
先跟我们讲讲，你现在怎么看整个AI行业？你为什么会提出要放慢前沿模型推进的节奏？此刻你脑子里最重要的事情是什么？
阿莫迪：我觉得，用一个类比可能最容易解释。
假设你经营一家汽车公司，另一家汽车公司出了安全事故。可能是刹车出了问题，也可能是制造环节出了什么问题。
而你相信自己的安全记录是整个行业里最好的。那这个时候，你该怎么办？
当然，最容易做的事情是攻击竞争对手，说：“他们不安全，我们才安全。”
但我觉得，更负责任的做法应该是先说：“等一下，我们先看看自己。”
我们也许没有发生这么严重、这么受关注的事故，但我敢肯定，我们也不是完美的。那就把自己的所有记录重新检查一遍，因为我们永远都可以做得更好。
把自己的安全实践做得更好，重新承诺提高透明度，在安全上投入更多资源。
然后，再把整个行业组织起来，问问大家：我们能不能共同建立一些行业标准？能不能把所有人的标准一起往上抬？
最后，这件事还必须有一个国际层面的安排。
这基本就是我在那篇文章里提出的三步方案。第一步，我们已经承诺自己先做；后面两步，我们会继续和整个行业展开讨论。
我觉得真正带着一个行业往前走，应该是这样做：先以身作则，同时承认所有人都还有做得更好的空间。
贝尼奥夫：你们这些年取得的成绩非常惊人。但我想，这一路上肯定也有很多事情超出了你的预期。你认真做AI差不多已经10年了，回头看过去这10年，什么是最让你意外、甚至最让你震惊的？我们今天怎么会走到这里？
阿莫迪：我觉得，最让我意外的是进步的速度。
而且不只是技术进步的速度，还有它在经济和商业世界里扩散的速度。
我和几位联合创始人当年一起总结出了所谓的“Scaling Laws”，也就是规模定律：你投入的算力越多，AI模型就会变得越来越聪明。
所以从技术上说，我们其实对这些模型最终可能拥有多强的能力，是有一些预测的。
但我觉得我们当时没有真正意识到的是，这会让这些公司以如此惊人的速度成长，也没有意识到会这么快出现我们今天正在一起做的这些产品——你们今天已经讲了很多，更没有想到，AI会这么快变成这个世界上几乎所有事情的核心。
我刚刚就在看前面的分享。你们讲到MCP、Cowork、Claude Skills。这些东西都非常新，很多人才刚刚开始使用，但它们被采用的速度非常快，因为它们创造的经济价值实在太大了。
所以真正让我吃惊的是：原来商业世界也可以以这么快的速度发生变化。
贝尼奥夫：我们Salesforce内部是Cowork的超级用户。
我前段时间去欧洲，也见了很多客户，他们同样非常喜欢Cowork。你们把这个产品做得非常棒。
而且我刚才注意到，你身后坐着好几位Salesforce的老同事，现在都去帮你经营Anthropic了。
阿莫迪：马克，都是你培养得好。
贝尼奥夫：我尽量为整个行业多培养一点人才（笑）。不过我真正想说的是，我们当然必须密切关注AI发展的速度。
过去10年发生的事情已经非常惊人了，而现在我们看到的这些交互界面也真的非常了不起，刚才那个演示就很震撼。
我觉得，今天在场的每一位客户，都会希望自己的所有系统都拥有这样的界面。大家都希望把原本锁在这些系统里的价值真正释放出来。
所以，你会建议大家现在具体做什么？
阿莫迪：我会这么说，如果把今天已经拥有的技术能力，和它目前真正普及、真正被使用的程度放在一起看，两者之间还有巨大的差距。
哪怕我们今天把技术完全冻结下来——当然我们不会这么做，所谓“放慢前沿推进速度”也完全不是把技术冻结，技术还会继续进步。
假设我们真的从今天开始一丁点都不进步了，现在真正被利用起来的，可能也只有这项技术潜在价值的5%到10%。
我举一个和我们双方合作有关的例子，也就是你刚刚提到的那位CCO，保罗。
现在他每天早上起来，如果想看看我们最重要的销售机会，还是会用Salesforce，但他是把Salesforce和Claude一起用。
他直接和Claude对话，而Claude可以调用Salesforce里的数据。
比如他会问：我们这周最大的10笔交易是什么？哪10笔交易最可能丢掉？这些交易里反复出现的问题是什么？我们要怎么做，才能把这些单子拿下来？
也就是说，你可以非常自然地通过Claude，把Salesforce里的所有信息真正用起来。
这种体验真的很不可思议。
而今天真正见过这种用法、意识到原来可以这么工作的企业和个人，相对于所有能够从中受益的人来说，比例依然非常低。
所以，这项技术还有非常非常大的普及空间。
“市场本身已经有这样的约束力量，我不认为我们还需要新的法律，也不需要新的监管规定。”
贝尼奥夫：接下来，我们尤其高兴欢迎另一位嘉宾英伟达CEO黄仁勋。先恭喜你，也谢谢你为整个行业做的这一切。GPU取得了巨大的成功，也改变了很多东西。
给我们讲讲未来吧。接下来我们到底要往哪里走？
黄仁勋：首先，大家都知道，我们正在经历一场新的工业革命。
几百年前，有了电，我们可以为一切东西提供动力。有了互联网，我们可以找到任何东西。
而现在，人工智能正在成为覆盖整个地球的一层基础设施。有了这一层，我们可以知道一切，也可以做任何事情。
这就是第一件事。
第二件事，是我们双方正在一起做的事情。我们看到，未来每一家公司、每一家企业，甚至每一个国家，都会变成一家AI公司。所有人都会如此，未来企业会变成“智能体企业”。
所以我们当时想的是：好，我们已经有GPU了，那接下来怎么办？于是我们不断把GPU往前发展，最终做成今天这些巨大的系统。
所以大家看，英伟达一路走过来，已经从一家GPU公司，变成了一家全栈AI基础设施公司。我们建立了这些巨大的系统，本质上就是AI工厂。它们把电力、把储存在全球企业里的海量数据，转化成智能。
刚才看你们演示的时候，我其实特别惊讶。因为你们所做的事情，正好就是这个方向。
接下来我们又问了一个问题：怎样才能让每一家企业都真正变成一家智能体企业？
所以我们做了几件事。
第一件事，是打造前沿AI模型。
Nemotron面向语言和推理，但实际上，我们还在另外5个前沿方向做模型。
Cosmos是世界基础模型，而且处在最前沿。
Alpamayo面向导航系统，比如自动驾驶汽车。
在生命科学领域，我们有BioNeMo，其中包括处在蛋白质模型前沿的Proteina-Complexa。
当然还有GR00T，这是我们面向人形机器人和机器人技术的模型。
所以在这些不同模型领域，我们都在做最前沿的工作，而且它们全部都是开放的。
这是我们做的第一件事。
第二件事，我们建立了一整套面向AI智能体的运行框架，而且同样完全开放。
你可以把自己的模型放进去，在外面搭建各种智能体运行框架和工具，再通过相应的运行时把它真正跑起来。
然后还有第三件事，这一点特别重要。
它叫OpenShell，是全球首个这样的安全沙箱，同时也是一个安全运行时。
有了它，你就可以在企业内部大规模部署这些AI智能体，同时保证它们能够安全运行。
这些就是我们做的事情。
现在，我们已经可以让每一家企业、每一家公司，都变成一家AI公司。
当然，我们相信，未来这个世界一定会继续使用闭源模型。但与此同时，每家公司也应该能够建立自己的私有模型、自己的定制模型。
而这恰恰就是我们正在和你们一起做的事情。
贝尼奥夫：过去一天里，围绕AI的发展速度、安全问题以及这些模型未来到底应该怎么发展，大家讨论得非常激烈。你也听了很多人的观点。现在如果让你把这些讨论归纳一下，你怎么看？
黄仁勋：安全当然是最重要的事情。从很多意义上说，它甚至是第一要务。
但与此同时，安全本质上也是一个工程问题。
我们毕竟是在开发软件，开发计算系统。它当然是一套非常复杂的计算系统，但归根结底，它还是计算系统。
所以第一件事情，是我们必须建立相应的测试环境，去测试这些复杂系统。而这些测试环境本身，也必须以正确、安全的方式构建。
第二件事情，就是测试产品。如果你对一个产品的安全性没有信心，那就和所有公司做产品一样——你和我都是这样，今天现场所有公司也都应该这样，如果你对产品或服务的功能、能力或者安全性没有信心，那就不要发布。
这其实是最基本的事情。
你可以自己控制节奏，直到你确信即将发布的产品是市场真正能够接受的。
市场本身已经有这样的约束力量，我不认为我们还需要新的法律，也不需要新的监管规定。
企业真正需要做的，是尽可能快地往前跑。
我不觉得创新速度和产品安全之间必须做选择，这两件事完全可以兼得。
所以，能跑多快就跑多快。
但如果在任何一个时点，你觉得公司已经有些失控了，或者觉得这个产品可能并不安全，那就停一下，把事情做对之后再继续。
“最重要的一件事，就是不要让自己掉队。要真正去接触这项技术，去了解它。”
贝尼奥夫：那如果只看未来一年，你希望今天现场的所有人做些什么？未来这一年，你最希望我们所有人真正做成什么？
黄仁勋：我很确定，我们现在最想做的，就是让每一家公司都用上Agentforce。我现在已经成了你们的销售（笑），而且还是那种最彻底的那种。
当然，我真正的意思是，我们应该真正把AI部署起来。
今天在场的各位来自很多不同的公司，也来自很多不同的国家。
你绝对不希望自己掉队。因为这场技术革命实在太重要了，而它所拥有的能力也实在太惊人。
所以你要真正去接触这项技术，去了解它。
如果你第一次用的时候发现效果还不够好，也不要轻易放弃。为什么？因为背后有一个规模极其庞大的产业，每一天都在努力让它变得更好。
假如你今天测试一个AI，它只能做到你预期的80%，那过几个星期再试一次。到时候，它很可能已经好很多了。
所以不要轻易放弃这项技术。最重要的一件事，就是不要让自己掉队。
如果往大一点看，其实过去6个月发生了一个非常明显的变化：AI已经真正从实验室走了出来，开始变成我所说的“非常有用的AI”。
这一点你们正在Salesforce经历，我们在英伟达旗下所有业务里也正在经历。
有一件事让很多人非常意外，但我一点也不意外。
事实上，你以前也听我说过。我是软件行业之外，第一个站出来公开说“软件要消亡了”这种说法完全是胡扯的CEO。
AI不是来消灭软件的，它是在软件之上增加新的一层。而这个建立在软件之上的新层，会是智能体式的。
它会让你以前的软件变得好用得多。
这是第一个判断。
第二个判断是：“AI会摧毁工作岗位。”我觉得这种说法同样完全站不住脚。
原因其实很简单。
现在发生的一件事情是，AI正在真正变得有生产力、真正变得有用。结果就是，整个世界生成的Token数量正在急剧上升。
这里面有几个非常重要的变化。
当然，闭源模型发展得非常好。过去一年，我记得整个Token数量大概增长了25倍，而且很大一部分增长其实发生在过去6个月。
更有意思的是，同样在这段时间里，开放模型的占比也发生了非常大的变化。年初的时候，开放模型大概只占30%；现在已经到了70%左右。
这背后说明的是：一方面，大家正在以指数级速度采用闭源模型；但另一方面，越来越多公司也在建立属于自己的定制AI。
因为每一家软件公司最终都会变成AI公司，而每一家企业最终也都会变成一家智能体企业、AI企业。
所以我觉得，这些转变对于整个行业来说都非常重要。
结果是什么？企业会变得比过去更有野心。你现在比以前更有野心。我也比以前更有野心。
而有了AI带来的生产率提升之后，我们能够做的事情，几乎没有上限。对我们的公司来说，对每一个行业来说，对每一个国家来说，也没有上限。
所以，真正去拥抱AI，不要掉队。
本文源自：格隆汇
