云计算·大数据 频道

Sam Altman 突然改口“AI要减速”!

  OpenAI CEO Sam Altman 最近突然改口说——AI要要减速,他在说这句话的时候,用了一个很克制的词,原话是“也许是时候控制 AI 发展的节奏了,给社会足够的时间来适应和巩固这些新的能力水平。"

  在最新一期的 TechCrunch《Equity》播客节目中,Kirsten Korosec、Sean O’Kane 和作者讨论了 Altman 的这番言论,这很可能是由近期一起黑客事件引发的——当时一个 OpenAI 的 AI 智能体(Agent)入侵了 Hugging Face 的系统。Sean 指出,虽然由 AI 智能体执行的黑客攻击听起来很新鲜,但这次攻击本身并不是什么“全新的高级手段”。

  Sean 说:“这更像是尼克松的人闯入水门大厦,而不是一次真正隐秘的网络行动,因为它没必要那么做,也没有被指示去那么做。希望这是一个信号,表明这些公司会从中吸取教训,以后在这些事情上更加谨慎。”

  Altman 的言论也让人开始思考整个“加速主义”与“减速主义”辩论的实际效用。因为(是的,我要引用我自己的话了),这种框架“有点暗示只有一条路可走”,而且“我们所能决定的——如果我们还能决定的话——仅仅是:我们是加速还是减速?”

  以下是我们对话的预览内容,已为篇幅和清晰度进行编辑。

  Sean O’Kane: 也许我们终于在这里迎来了一个拐点。我认为一个主要的推动因素是我们上周讨论的内容,即 OpenAI 的一个模型入侵了 Hugging Face 的数据,显然还破坏了互联网上的其他一些东西。

  [Altman] 并没有像过去科技界的一些人那样呼吁“暂停”。他在用词上非常谨慎,说的是“控制节奏”。我们拭目以待这能坚持多久。我们看到这些实验室抛出的任何谨慎态度,往往会在激励因素促使它们全速前进时发生逆转。所以,我依然持怀疑态度,这毫不意外。

  Kirsten Korosec: 我现在要说的是——[Altman] 可能在用词上很谨慎,但 OpenAI 和 Anthropic 确实[支持]了一项请愿书,这反映了他所谈论的内容。

  我同意你的看法,我认为这一切很大程度上是由 Hugging Face 事件引发的。这可能吓到了他,当然也吓到了行业内的许多人。这里的难点在于:你如何做到两全其美?或者说,OpenAI 如何在继续创收、融资或成功进行首次公开募股(IPO)的同时,还能“控制发展节奏”?

  我不知道他们能否做到这一点。我很想看看他们是否能兼顾这两点。

  Anthony Ha: 我一直在纠结的一个问题是:“加速”与“减速”真的是思考这个问题的正确框架吗?因为它有点暗示只有一条路,而我们都被困在这条路上。我们所能决定的——如果我们还能决定的话——仅仅是:我们是加速还是减速?而不是——(我又要强行使用这个比喻了)——我们能不能建立不同的护栏?我们能不能选择不同的路径?

  我对这种框架非常排斥。与其这样,不如说:“好吧,如果我们对模型现在的表现不满意,我们还能做些什么?减速、暂停或停止是唯一的选项吗?”我不这么认为。

  我还想再次强调一点,因为看到围绕此事的恐慌程度真的很有意思——这种“如果我们有这些自主智能体和模型到处乱跑、互相黑客攻击、试图阻止黑客攻击,一切都会失控”的感觉,引发了关于 AI 对齐(Alignment)的广泛辩论,Rebecca Bellan 就此写了一篇很棒的文章。

  但值得回到我们在 TechCrunch 写过的一个观点:这次具体的黑客攻击——是的,它是由 OpenAI 模型引起的,但听起来他们只是没有妥善保护测试站点。理论上,这个模型本不应该能够联网。当然,如果你有一个强大的、未对齐的 AI,这种人为错误的风险会急剧上升。但这确实始于他们未按规定做好安全防护这一事实。

  Sean: 我认为这是对的。我认为你的观点很中肯,我们不应该仅仅以某种线性的方式来思考这个问题,或者仅仅关注事物是在加速还是减速。关于这些公司表现得多么负责任,还有很多可以而且应该说的。我们的同事 Lorenzo 也写了一篇很好的文章,梳理了关注此事的严肃安全研究人员对这次黑客攻击严重程度的看法。这次黑客攻击的双方,似乎都确实应该采取一些本可以阻止它的措施。

  在那篇报道中,我觉得最有趣的一点是,一些研究人员指出,这个模型所做的并不是什么全新的高级手段。它在试图入侵时的思考方式非常具有“人类特征”——我并不是要拟人化,但它思考如何入侵 Hugging Face 的方式,而且过程非常吵闹、混乱,并没有真正试图掩盖踪迹。这更像是尼克松的人闯入水门大厦,而不是一次真正隐秘的网络行动,因为它没必要那么做,也没有被指示去那么做。

  这本该是更容易预防的。希望这是一个信号,表明这些公司会从中吸取教训,以后在这些事情上更加谨慎。

  关于“加速与减速”的辩论,我还要再说一点。我不知道这是否是动机,但 Kirsten,你刚才提到了 IPO。我认为 Altman 很聪明,他能够利用他们现在的优势,即 [OpenAI] 下个月或两个月后不会[上市]。他甚至抛出了 2027 年上市的想法,并表示他们提交机密文件只是为了在准备好时有一个选项。

  所以,如果你相信这一切,他就有能力说出这番话,而 Anthropic 却不行。因为 Anthropic 已经在与许多银行家进行谈判,正朝着近期 IPO 迈进,因此他们在能说什么、该怎么说以及市场会作何反应方面,受到的限制要大得多。

  原文链接:https://techcrunch.com/2026/08/02/sam-altman-and-ais-decel-debate/


0
相关文章