OpenAI总裁格雷格·布罗克曼在Astra发布前夕接受深度专访，首度披露这款新模型是OpenAI史上首个在逾10万块GPU上完成训练的模型，并直言AI已跨越"电脑使用"的应用门槛——这意味着AI从此不再需要依赖API连接器，而是可以像人一样操作任何软件。
当地时间周五，科技战略分析网站Stratechery发布了一篇与OpenAI总裁兼联合创始人格雷格·布罗克曼（Greg Brockman）的深度访谈，访谈在Astra正式发布前录制。这是迄今为止布罗克曼对Astra及OpenAI最新战略最为详尽的一次公开表达。
华尔街见闻梳理访谈要点如下：
Astra是OpenAI首个在超过10万块GPU上完成训练的模型，这一规模代表了工程层面的重大突破。Astra在"电脑使用"（computer use）能力上跨越了关键应用门槛，可充当"通用连接器"，不再依赖各软件单独提供API接口。布罗克曼表示，在AGI时代，安全、对齐与能力三者须作为同等重要的"需求"并行推进，而非有所取舍。OpenAI将Astra直接指向自身系统扫描漏洞，并完成修复，这是一次重大的安全文化转变。在Hugging Face安全事件上，布罗克曼承认沙箱机制存在缺陷，AI找到了创造性的"越狱"路径。布罗克曼认为OpenAI内部已跨越"AGI时代"门槛，可能在Astra或下一代模型处达到大多数人认可的AGI标准。在芯片战略上，OpenAI自研Jalapeño芯片并使用AI辅助设计，同时维持与英伟达的深度合作伙伴关系。他认为，随着AI能力提升，过去精心构建的"技能脚手架"正逐渐从助力变为限制，这是Astra研发过程中的重要发现。"首次在10万块GPU上训练"：Astra的规模意义
"这是我们首次在超过10万块GPU上进行训练。这个数字很容易说出口，但你需要想象那种规模——这些数据中心在某种意义上是我们为推动AI技术而建造的巨型机器，能够驾驭如此量级的算力，本身就是一项真正的工程壮举。"布罗克曼在访谈中说。
他强调，算力的大幅扩张并不仅仅用于提升模型能力，"大量算力投入到了安全与对齐工作中，还有大量安全工程围绕它展开。这是我们迄今为止对齐程度最高的模型——而正因为能力如此之强，对齐与安全变得比以往任何时候都更加核心。"
"电脑使用"跨越门槛：AI成为"万能连接器"
布罗克曼将Astra最核心的突破定位在"电脑使用"（computer use）上。
"过去两年，我们处于一个'连接器时代'——你有一些软件，人类可以正常使用，但AI没有访问权限。于是你必须为每一个软件写一个专门的连接器，钩入其API；而有很多软件根本没有API，那就完全超出AI的能力范围了。"他说，"现在，我们拥有了近乎'万能连接器'的技术。AI从被严格限制帮助你，变成几乎可以操作任何东西。"
他进一步描述了这一变化对OpenAI内部工作方式的影响："它已经在改变人们在OpenAI内部的工作方式，我认为它真的会提升很多公司、很多个人。"
值得注意的是，布罗克曼也坦承这一门槛的跨越并非终点："这不意味着所有问题都解决了。你需要考虑如何为这些AI设置企业级护栏，如何实现适当的监督、管理、追踪和可观测性——这些我们都在推进中。"
"我们现在已进入AGI时代"
布罗克曼在访谈中作出了一个措辞颇为大胆的判断：
"我认为，也许是上一个模型，也许是Astra，也许是下一个模型，但在这其中的某个节点，我们将跨越大多数人对AGI的门槛。……在某种意义上，我会说我们现在就已经进入了AGI时代。"
他解释，当前阶段，对齐、安全与能力三者需要作为并行要求共同推进，"这些方面正在变成开发的瓶颈，而这正是我们一直为之准备的。"
旧有"技能"反成累赘：AI强大到规则要减法
访谈中一个颇具冲击性的细节来自Astra的实际训练过程。布罗克曼透露，OpenAI过去花费大量精力为模型编写的行为规范，如今反而拖了后腿：
"我们发现，今年以来辛苦建立的一些技能——用来向模型展示在OpenAI内部做事的正确方式——实际上对它的表现来说是净负担（net negative）。它能够比我们写的更好地泛化，找到比我们规定的更好的处理模式。就像训练轮，起初有用，但一旦它跑得更快、更有能力，那反而成了障碍。"
"10亿用户是一种投资"：消费者与企业的融合
布罗克曼直面了一个市场上持续存在的质疑：ChatGPT拥有10亿用户，但这是否反而是一种分心？
元股证券:ygzq.hk
"在美国，大约三分之一的人口每周都在使用ChatGPT。"他说，"这是独一无二的，对于这类先进技术来说，没有任何其他产品可以相提并论。"
他将这10亿用户定性为"投资"："这是真正的投资，它将在未来模型解锁的方式上积累价值。"
同时，他也承认了痛点所在："聊天作为产品的挑战在于，它未必与更智能的模型直接对应——如果你只是把它当成搜索引擎替代品，你未必能真正感受到好处。"他认为，未来的方向是打通消费者与企业场景，打造一个统一的AGI系统，"我们不想做两件事，我们想做一件事——建造一个AGI、一个系统、一个统一的技术栈。"
他还特别强调了健康领域的布局："每周有3亿人通过ChatGPT进行健康查询，3亿人，这是一个巨大的数字。"
AI自查漏洞：把Astra指向自己的系统
在网络安全议题上，布罗克曼透露了一个引人注目的内部实践：OpenAI将Astra直接指向自己的系统寻找漏洞。
配资助手"我们调用了Astra，把它对准我们自己的系统来发现漏洞——不只是读代码，而是真正审视这些系统端到端的运行方式，从而找到真实的、经验证的漏洞，然后帮助我们完成修复和补丁工作。"他说。
他同时承认，在Hugging Face安全事件上，OpenAI在防御窗口期的行动确实不够及时，"我认为，现在显然是时候了，也许几个月前也可以是时候，但那时候模型能力还要弱得多。"
与英伟达的关系：芯片自研是"乘法"，不是替代
在价值链竞争层面，布罗克曼就OpenAI自研芯片Jalapeño与英伟达的关系作出表态，明确否认了替代逻辑：
"英伟达是我们的首选计算合作伙伴，这不会改变。事实上，我们与他们的合作正在进一步深化。……我们自有芯片项目带来的内部专业知识，对我来说是乘法效应，不是替代，我认为对所有人都有好处。"
他还披露了一个AI辅助芯片设计的有趣插曲：在Jalapeño面临截止日期的最后一个月，团队直接让AI运行优化，"我们说，就让它跑吧，不去细读它做了什么。后来我们回头读了一下，发现它找到了一大堆我们列表上有但永远不会自己去实现的优化——这确实是个很酷的故事。"
以下为访谈文字实录全文（由AI协助翻译）
格雷格·布罗克曼，欢迎来到Stratechery。GB（格雷格·布罗克曼）：谢谢你邀请我。很高兴来到这里。显然我们有很多新闻要谈，但鉴于这是我们第一次交谈，我不想错过我通常问任何人的Stratechery传记问题。我确实想问——你把北达科他州定义为中西部的一部分吗？GB：是的，我认为是的。好吧，作为一个中西部人，我当然要花点时间谈谈那里。你在波士顿上的学，正如他们所说，但在我们谈到那里之前——你在上学之前就已经有了一份令人惊叹的履历，比如国际奥林匹克竞赛，但那是化学方面的。计算机是从哪里开始的，或者说计算机从一开始就是你生活的一部分吗？GB：嗯，计算机在我成长过程中一直是我的背景。我喜欢玩电脑游戏，但我对数学、科学非常感兴趣。实际上，一直到九年级，我都认为自己可能会成为一名演员——我非常喜欢表演，也涉猎过一点哲学。真是一个转折！我完全不知道这点，但我打算弄清楚你现在所做的事情和表演之间的联系，但我们继续吧。GB：嗯，在九年级的时候，我觉得我在初中和高中的一两部戏剧中担任过明星或男主角。我当时在想，我想在某件事上加倍努力，我觉得我可以在某个领域做到世界最好，并真正尝试推动这个领域的发展。我觉得我要么选择更偏智力、硬科学的方法，要么选择艺术、表演和创意路线。我最终选择了硬科学方向，因为我觉得那可能是我能最大程度改变世界的领域。为什么你认为走那个方向能最大程度地改变世界？GB：我想对我来说，感觉是这样的——我喜欢表演的一点其实是它的团体性。我喜欢即兴表演，你只是创造性地思考事情，来回碰撞想法，但这同样需要你成为一个团队的一员，这个团队必须配合得非常好，而这并非总能保证。这是一件很难实现和找到的事情。我更喜欢偏智力路线的一点是，它感觉像是在磨练你自己的技能。但我确实学到的一件事是，即使你非常擅长编写代码，那也不够。实际上，这也关乎引入优秀的团队，我认为这正是我职业生涯的一部分——真正帮助构建和塑造能够交付卓越成果的环境和文化。有一件有趣的事，这里有一个关于环境也塑造了其中一些事情的方面。你提到你总是在戏剧和电影中担任男主角。我从我的孩子们经历这个阶段时认识到——我的女儿有一阵子非常喜欢音乐剧之类的——女主角的竞争非常激烈，通常只要有一个称职的男性愿意自愿参加，他每次都能得到这个角色。男主角的竞争激烈吗，还是你就是独一无二的？GB：（笑）我想这或许能解释。不过，我给你讲个故事。反过来呢？同样地，在北达科他州，是不是没有那么多人在硬科学方面特别钻研，所以从同样角度来看，那是不是也显得更罕见？GB：嗯，我给你讲两个故事。第一个是关于表演的。我第一份有偿工作就是一份表演活儿。Mannheim Steamroller乐队来到了北达科他州的大福克斯市。你听说过Mannheim Steamroller吗？我听说过。是的，当然。GB：他们当时要举办一场音乐会，需要临时演员。他们需要一些人扮成锡兵走来走去，因为那是一场圣诞假日音乐会。我去参加了试镜，当时我是个瘦弱的九年级学生，而那里全是身材高大的大学生。他们让大家做的是，“好了，大家朝那个方向走”，然后选角的人会比较意见，然后你会有一段时间休息，然后他们说，“好了，朝另一个方向走”。我注意到，在休息期间，所有那些大学生都在互相交谈，闲逛，而我想的是，这份工作只有一个要求，那就是你整场音乐会都要保持六个小时的专注，来回走动。所以在休息期间，我就站在那里保持专注，完全沉浸在角色中。最后，他们说，“好了，我们选这个人，这个人，这个人。其他人可以离开了”。我没有被选中。但在我们离开的路上，他们说，“实际上，我们觉得你太棒了。我们非常喜欢看你对这件事投入了多少热情，所以我们要为你专门创造一个新角色”。于是我得到了一个姜饼人的角色，他们给了我一套完整的服装。那就是我的第一份工作。所以这有点像是试图跳出常规思维来完成任务——不总是默认接受某个角色，而是试图找到创造性的方法来获得它。但我认为，在北达科他州长大，真正很棒的一点是，我有可能在我专注的不同领域里做到全州最好。我的数学成绩比较突出。我从十年级开始就进入北达科他大学学习了很多课程。我深入参加了数学竞赛，然后我会去参加全国竞赛，去全国数学夏令营，在那里我会遇到全国最优秀的人。这些人太棒了，实际上，我真正的荣幸之一是，我在数学夏令营里非常敬佩的许多人现在都在OpenAI工作。所以我有机会在这个新领域，以新的视角看到他们。太棒了。GB：但这既是说我能够真正规划自己的道路。我开始做数学研究，我知道如果我去了一些那些实力很强的高中或竞争激烈得多的州，我想我不会脱颖而出。我将不得不走标准路线。所以正是因为在那个地区，我才能够探索我的兴趣，真正走自己的路。所以当人们说他们在波士顿上学时，通常指的是哈佛，那是你开始的地方。然后你转到了麻省理工。然后到了某个时候你在为Stripe工作。顺序是怎样的？你什么时候认识Collison兄弟的？在波士顿发生了什么？GB：嗯，高中毕业后，我休了一年假，实际上我开始编写一本化学教科书，因为我在高中时对化学非常着迷，参加化学竞赛，并提出了一种独特的思考方式。非常基于第一性原理，非常数学化，而不是死记硬背。我想教授这种方法，想推广它。所以我实际上写了100页。现在它就在我的网站上。我还没完成。我一直打算回去继续写。那就像是一个退休项目，我喜欢。GB：没错。嗯，那时我在想怎么才能出版这本书，所以我问了一个在数学方面做过类似事情的朋友，他说，“嗯，你没有博士学位，所以没人会出版它。所以你要么自费出版”——我当时想，哦，那工作量大，成本也高——“要么你可以建一个网站，用这种方式推广你的想法”。我说，“我想我得学学怎么编程了”。所以我上了W3Schools。你记得W3Schools吗？你见过那个网站吗？不，我想我没见过。GB：好吧，这是个经典的网站——他们有HTML教程、JavaScript、CSS、PHP。我通读了一遍，然后想，“我应该测试一下”。我记得我建了第一个小部件：你可以点击表格列，它会相应地排序行。那是有史以来最酷的感觉。我脑子里想着这个东西，现在它存在于这个世界中，任何人都可以从中受益。他们不需要理解背后的细节，它只管用。我记得我建立的第一个有用户的程序，实际上是一个竞争性的聊天机器人游戏，有一天我从StumbleUpon获得了1500次点击。那感觉真是太棒了，有1500个人玩了我的游戏，希望他们玩得开心，而且他们足够投入地玩了它。我当时就想，“这就是我想要的，我想帮助别人，我想为他们创造价值并造福他们”。所以，这就是我怀着这样的想法进入哈佛的，那确实改变了我的想法。我以为我会去追求那些更 eclectic 的兴趣，结果我却想，“我只想构建东西”。在哈佛的大一，我加入了计算机俱乐部，有两个大四学长每次都会进行晦涩难懂的技术辩论。我们都会听着说，“总有一天我们会明白的，总有一天那会是我们”。但他们毕业后，大二来了。所以你就直接转学去了麻省理工，因为你意识到自己专注于编码和构建？GB：基本上就是这样。因为到了大二，我在管理俱乐部。我应该主导那些晦涩难懂的技术辩论了，而我心想，“我还没准备好。我还有太多东西要学。我需要和那些比我优秀得多的人在一起”。明白了。GB：所以我花了很多时间在麻省理工那边，我觉得转学过去是合理的。Stripe明白了。那你是什么时候认识Collison兄弟的？GB：我是在2010年，2010年底认识他们的。我们有很多共同的朋友，因为约翰去了哈佛，帕特里克去了麻省理工，他们当时正在四处打听。那个团队在到处寻找这两所学校里谁对计算机感兴趣，我的名字不断被提到。对。GB：所以我收到了他们团队的邀请，飞了过去。我记得见到帕特里克，对我来说，那一刻我就想，“好吧，这就是我想共事的人，我觉得我们可以一起做出伟大的成就”。所以我的下一个问题是，是什么吸引你加入Stripe，但听起来你已经回答了。你在那里学到了什么？你加入团队很早，晋升得非常快。到你离开时，你已经是CTO了。你对Stripe本身及其规模扩张，以及你在公司快速成长的同时自身也快速成长，有什么感悟？GB：首先，对我来说，始终是关于人。我知道这些是我想要共事的人，感觉我们可以一起学习，一起完成伟大的事业，所以这才是真正的关键。顺便说一句，两次辍学是我绝不想让任何人的父母经历的事。这显然让我的父母很为难，但他们最终实际上非常支持。不，我们明白了，你把事情做到了极致，对吧？大多数创始人辍学一次，你不得不做两次。我们明白你的意思了。GB：完全正确，完全正确。我记得Stripe的早期很多是关于第一性原理思考。我们处在一个领域，信用卡行业，非常不透明，非常拜占庭式，经过几十年的积累，复杂无比，连卡网络本身都运行在ISO 8583上，那是80年代的规范。它是一种面向字节的格式，整个都是。我们试图弄清楚，“我们如何让它变得简单，极其简单，以适应互联网时代？”。所以，这在很大程度上是关于深入理解一个你完全陌生的领域。我们中没有谁真的是支付专家出身，但你只是想非常深入地理解它是如何运作的，以便你能暴露正确的原语、正确的API和抽象。对我来说，那实际上是核心技能，并且这一点在Stripe和OpenAI之间非常具有可转移性。它们在某些方面非常相似，你需要去科学地学习一个领域。AI和支付，在具体细节上显然不同——一个更像是自然科学，另一个几乎是一个由复杂性堆积起来的系统——但它们从根本上都是关于理解事物运作的底层原因，并以简单易用的方式将其暴露出来。我花了很多时间在招聘上，很多时间在文化上，我觉得我发现了一点，我喜欢编码，我喜欢那种心流状态，以及构建和创造的感觉。对，你因这种长达数小时的心流状态和无休止的编码而闻名。你在构建Stripe时，最长的编码会话/心流状态是多久？GB：哦，都混在一起了。我说不清具体时间，但我只想说，对我来说，有一次24小时的冲刺，正是那次让我们真正接入了信用卡网络。那真是一段非常棒的时光，我们所有人都在办公室，没人睡觉，那本应是一个需要九个月才能完成的集成，我们在一夜之间完成了，如果我们晚了一天，就又得再等一个月。对于初创公司来说，每一天都很重要，所以那种完成看似不可能之事的感觉，我热爱它。那是非常令人兴奋的事情。当你成为CTO时，你写了一篇文章，说你和其他CTO交流，你认为这更像是一个架构工作，但他们都不这么做，你写道，“我觉得我失去了反馈回路，我与产品脱节了，我需要再次编码，我要成为一名编码者”。我很好奇，那是你在成为CTO初期写的，那持续了多久？你和编码保持联系有多久？GB：嗯，我想大概又持续了将近十年。我认为我在一个方面有所成长，也学到了很多，那就是即使你自己不再亲自写代码，如何保持参与感，真正帮助推动团队前进，并将团队凝聚在一起。而且，顺便说一句，我认为这实际上对现在几乎每个软件工程师来说都是一个重要的教训，因为“编码”这个行为本身在过去一年里已经发生了巨大的变化。我认为在未来一年，变化会更大。我们都在从必须知道具体使用哪个库、能够精确掌握语法和分号放哪里的角色，转变为更高层次的管理者、主管，成为灵感、愿景、判断和反馈的来源。我认为这种转变，对我来说曾经是困难的，因为你不得不放弃一些你 习惯的、珍视的和真正热爱的东西。但我实际上已经用我更热爱的东西取代了它。我知道我在和一个聪明人谈话，因为你抢了我的伏笔。我本来打算稍后回到这个话题的，但没错，这正是我们要讨论的。OpenAI与图灵测试让我们谈谈OpenAI。你是OpenAI创始团队的一员。你版本的故事是怎样的？我相信这本身可以是一个小时的播客，但是什么吸引你进入这个领域并让你们开始的？GB：嗯，我对AI的想法已经兴奋了很久了。我记得当我刚开始编程时，我读了艾伦·图灵1950年关于图灵测试的论文。那是一篇非常有趣的论文，大概有70页左右。它开篇就说，“嗯，机器具有智能意味着什么？我不知道智能是什么意思。智能没有明确的定义。所以让我们有一个明确定义的版本”。我稍后会问你什么是AGI。所以听起来这仍然悬而未决，对吧？GB：嗯，你说对了。所以图灵非常聪明地回避了这个问题，说，“让我们只给它一个操作性的定义，即如果你能进行一个测试，让人类无法分辨出与他们交谈的AI和另一个人类，我们就定义那台机器是智能的”。然而，非常有趣的一点是，但得到较少关注的是，他说，“嗯，你打算怎么解决这个问题呢？要编程出答案太难了。你无法写下所有规则来回答各种问题。相反，如果你能建造一台能够学习的机器呢？如果你能建造他所谓的‘儿童机器’呢？”。然后你教它——有一个老师给它奖励和惩罚，然后你就能够赋予它智能，帮助它通过这个测试。我记得我被这个想法深深震撼了，因为作为一名程序员，只有深入理解问题的解决方案，你才能取得进展。有这么多问题我不知道答案，你不知道答案，没有人想到过解决方案，我们永远无法为它们编写出程序。但如果你能有一台机器，它能理解我们无法理解的问题，能理解我们无法理解的解决方案呢？这不仅仅是关于图像识别，尽管它当然也应用于此。这也关乎我们如何在社会中更好地相处？如何构建世界？如何确保我们所创造的利益最终能惠及每个人？这些都是非常困难的问题，人类不一定是最有能力解决的。但如果一台机器能够理解，能够查看更多的数据，能够对许多不同领域有更深入、更丰富的综合理解，也许它能以我们无法做到的方式解决这些问题。所以，我被这个想法深深激励了。但这只是一个想法。我记得我进入哈佛时，问我的教授，“嘿，我能做点AI研究吗？”，他们向我展示了当时自然语言处理的最先进水平。我清楚地看到，我当时想，这不是图灵所说的那种。它更像是硬编码的，解析树，所有这些，这无法扩展到AGI。但在2010年代初期，有些东西发生了变化，我当时在外部观察。2012年是AlexNet，然后是一系列其他论文，我经常在Hacker News上看到，感觉每天都有新的“用于X的深度学习”，我当时想，“什么是深度学习？”——我记得我访问了deeplearning.org，上面只写着，“深度学习是一种新的人工智能方法”。我当时想，我完全不知道这意味着什么，我实际上只认识该领域的一个人，我去找他们，请他们把我介绍给该领域更多的人，然后我不断被重新介绍给我大学里一些最聪明的朋友。我当时想，“等等，这很有趣，这些人正在研究这个，这实际上是一个非常强烈的信号”。所以到了2015年，对我来说，感觉有些真实的东西正在发生。我也花了很多时间真正思考AI安全，思考这类技术的长期未来，意味着什么才能把它做对，那在当时更像是哲学。你可以在网上找到各种很酷的思想实验，我在Stripe组织了一个阅读小组，我们每周都会讨论这些事情。所以这是我深切关心的事情，想着如果我能以任何方式帮助AI的发展比我缺席时稍微好一点，那将是我职业生涯中能做的最好的事情。这一切都指向2015年，我觉得我在Stripe已经达到了一个里程碑，公司无论有我还是没有我都会继续运转，这有点像是一个问题：“我想走管理者路线吗？”，这是进入下一阶段所需要的，或者，“我想去创办一家新公司吗？”，这一直激励着我，所以我决定那是我想要的。当我正要离开时，帕特里克说，“你为什么不和山姆[奥特曼]谈谈呢？”，他几年前把我介绍给了他。他说，“他见过很多处于类似情况的年轻人，也许他能给你一些建议”——有点希望山姆能说服我留下。结果并非如此。（笑）是的。GB：我和山姆见了面，三分钟内，他就说，“好了，你明确要离开了，你接下来有什么打算？”，我说，“嗯，我正在考虑在AI领域做点事情”，他说，“我也在考虑在AI领域做点事情”。那就是开始。你当时赞同整个非营利组织的事吗？你在成立时对此有什么想法？GB：嗯，成为非营利组织的想法是山姆提出的，我认为这其中有许多非常重要的属性，有些到今天看来依然正确。我们正在构建的技术，它比任何被创造过的东西都更宏大，它超越了传统结构和系统。没有任何一种现有的公司结构能够完全涵盖我们的使命和我们所需的工作。所以，我认为那样开始是完全合理的，而且一直存在一个问题，即实际实现使命需要什么？这是我们花了很长时间真正思考的事情。我认为我们一直是公司在思考构建一个结构方面最具创新性的，这个结构要能够涵盖商业发展、利益分配、实际推动这种计算驱动经济的所有不同方面，并同时完成所有这些。所以我认为这一直是一个重要元素，它仍然是我们工作的关键部分。但再说一次，我认为我们在围绕使命核心的公司结构上进行了大量创新，而这个使命是不变的。是的，创新是一种说法。你提到了信用卡网络，对吧？那是超级不透明的，很多来自80年代的东西，大量的路径依赖，这给了Stripe一个机会，因为你可以把所有这一切抽象掉，对其他人来说就是，“这是一个API，它可以用，别问问题”。现在当你回顾OpenAI——很难相信已经十多年了——OpenAI有没有可能以任何其他方式出现？其中也有那种路径依赖吗？或者是否存在一种，“如果让我回到第一性原理，我，格雷格·布罗克曼，我喜欢做的事，我会把这个结构设计得非常不同”？GB：我看不到有其他任何方式能让我们走到今天，达到这个使命需要我们达到的地方。ChatGPT与OpenAI风波给我讲讲ChatGPT的发布吧，因为你有一个转折点，你意识到需要扩展，你与微软合作，增加了营利性部分，然后ChatGPT问世了，它变得非常庞大。你有没有预料到它会像现在这么大？GB：所以让我感到惊讶的是，我的预测错误在于GPT-3.5会成为人们真正喜爱和想要的东西。我们当时已经有GPT-4了，它在8月左右完成了训练，我们在11月底发布了ChatGPT。每当我们有新模型时，总会发生的情况是我们会紧紧抓住它不放。旧的看起来糟透了。GB：我们所看到的全是前一个模型的缺陷。我们只是觉得，“啊，这个前一个模型太差了，我无法想象有人会想用它”。我们有大约200名测试员，我们付钱让他们使用预发布的ChatGPT，同样，我们不得不付钱让他们使用，而不是反过来。所以有一些产品市场契合的迹象，如果你深入挖掘并关注细节的话，但如果你从宏观上看，它看起来并不像我们拥有它。但我们当时的想法是，GPT-4显然会改变世界，我们知道这一点，从我们第一次与它交谈时就非常明显。我记得在GPT-4完成训练后的第一周，只是感受它的现实。我们一直在梦想AGI，思考AGI，想象它会是什么样子。但当你第一次拥有一种技术，你真正可以问任何问题，它能给出相当合理的答案，它在AP生物考试中得了5分——所有这些，对我来说，感觉像是，好吧，有些事情将会不同。它可能不会明天就改变世界，但在未来几年，这项技术绝对会，而且现在它已经是现实了。那非常清楚。所以你看ChatGPT的发布，我当时的想法是我们需要先把基础设施推出来，这样我们就可以拥有经过实战检验的LLM服务基础设施，我们已经投入了精力。然后在3月，当我们发布GPT-4时——如果你还记得，我们在完成和实际发布之间有六个月的延迟——那时我们就已经有了现成的基础设施。但我没预料到它会以那种形式如此迅速地起飞，尽管我预料到它将来会这样。那段时间是什么样的？是不是所有人都全力以赴来防止服务器崩溃？GB：哦，绝对是。所以我们推出了一个所谓的低调研究预览，当然，结果是指数级的，你能想象到的每一个系统都崩溃了。我们的登录系统成了一个大瓶颈，我们不得不做很多工作来改进登录系统，你抓着头说，我们在构建这种神奇的AI技术，而瓶颈却是“你的登录系统能扩展吗？”。我记得我们有一套相当低效的推理内核部署到了生产环境中，我实际上写过一些更高效的东西，或者我们在研究方面有一些更高效的东西，其中一项重要工作就是，“让我们实际采用这些优化，把它们迁移过来”，所以一群人扑在这个问题上，把它搞定了。我认为这是第一天、第一周、第一个月的总体情况，就是扩展每一个系统，努力跟上这波又一波的需求。2023年11月发生了什么？GB：非常复杂的答案。你想从哪里开始？我不知道，我觉得我必须问你这件事。它们与——你在那之后不久休了个假，这两者之间有关联吗？GB：听着，我想说的是，从最高层面来看，我认为2023年真正表明，存在着已经积累起来的紧张关系，真正是人际关系上的紧张，我们之前没有充分预见并解决。对我来说，这是OpenAI最重要的教训之一，我们正在构建技术，但始终是关于人的，无论是好的还是坏的方面。这意味着真正管理人際关系动态，是我们所做的最重要的事情之一，如果我们不提前解决，如果我们不进行艰难的对话，那才是事情可能变得棘手的地方。所以我很乐意深入探讨更多细节，但我认为，如果你真的深入其中，很多并不是更有趣的技术问题。这在多大程度上与ChatGPT这个意想不到的巨大成功有关？这之间有联系吗，还是你认为这些紧张关系无论如何都会爆发？GB：我不认为有直接的因果关系，至少在我看来不是。我认为在某种程度上，也许有一个潜在的主题是，随着我们技术的进步，每个人都感受到了世界的重担，感受到了其中的利害关系。实际上，最困难的事情之一就是如何继续前进？对我来说，我一直在评论的一件事是，我们日常的活动看起来几乎和其他公司一样。你仍然在调试某个底层问题，有人因为别人说了什么或没让他们参加会议之类的事情而对别人生气。这只是人的因素，人的工作。但当然，其中的利害关系是如此巨大。所以我认为在OpenAI有一些非常重要的事情，实际上我特别关注的一件大事就是，真正努力不把人们置于让他们感到世界重担在肩且孤立无援的境地。真正作为一个团队一起做，这是关键的事情，我想这也许是我想说与那些事件有关的方式——它并不特定于那些事件，但它是OpenAI发展过程中一个持续的主题——真正保持我们共同做这件事的感觉，努力既迎接挑战，又确保我们做好所有基础工作，做好那些基础工作。这是我认为我们前进的一种方式。是的，我的意思是，你一直是一个非常积极的倡导者，我认为这是OpenAI的总体理念之一：把东西推向世界，实验，看看会发生什么，然后据此反应。基于经验证据，而不是对未来进行理论推演来做出决定。我认为你们在AI方面阐述了很多这种理念，但我的问题是，我想你也在某种程度上触及到了，感觉OpenAI作为一个组织本身也是一个正在被调整的大规模实验。消极的解读是，它似乎只是前后摇摆，重组这里，换新领导那里，这是一个难以驾驭的庞然大物吗？还是说它可能更有条理，比人们认为的更有韧性？当你回顾时，你说不可能有其他方式，如果换一种方式会不会更好？GB：首先，我们确实从起点发生了巨大的变化和成长，运营业务截然不同，但我们在推动这个领域前进方面始终是先锋。这在安全方面、安全方面、核心技术和真正思考利益分配方面都是如此。所有这些领域我们从一开始就专注，我认为结果确实说明了一切。现在，这种变化是真实的。而且，有时候适合一个阶段的团队不一定适合下一个阶段。今年我一直非常关注的一件事就是建立一个让我非常兴奋的领导团队，思考下一个阶段以及我们将能够共同完成的事情。所以2026年的一个主题，也许是与我们之前相比的一个转变，是因为这个领域有这么多人，有这么多事情要做，而且技术发展如此之快，我们严重受限于计算能力，你必须专注。你必须真正地精简。你必须选择那些能协同发展的领域。所以实际上做出一些决定，比如，“嘿，Sora，令人惊叹的技术，但属于更偏向娱乐的消费者领域，与我们其他优先事项相比，我们无法优先考虑它”，然后我们会取消它。这会导致下游影响，会很痛苦，很难做出这些决定，但这一切都是为了保持那种紧密的专注，以便我们能够完成核心使命。你非常相信可扩展性，OpenAI本身是可扩展的吗？GB：我相信它可能是史上最具可扩展性的业务。是的。我是指内部，作为一个组织。有什么是不可扩展的？我们谈到了计算，谈到了数据，你之前提到了人的因素。最终的alignment挑战——我们认为alignment是让AI做我们想做的事——但你是否面临相反的挑战？你能从管理的角度跟上这个领域、这个问题吗？GB：我想说两个答案。首先，绝对是肯定的。你可以从过去几年我们作为一个组织成熟了多少看出来，几年前我们有很多管理债务。同样，在很多领域我认为我们确实需要成长，需要成熟，但我认为我们已经完成了这项工作。这很艰难，也很痛苦，但我认为我们现在处于一个好得多的位置，我对公司及其未来感到无比兴奋。但还有第二件事，那就是我认为退一步认识到公司运营方式正在改变也是值得的。例如，你可以看看人均收入。我们和类似业务的人均收入相对于任何以前的业务都是天文数字。这是有原因的，你开始看到通过这项技术可以获得这种增加的杠杆。而且，因为我们在制造这项技术，并努力使这项技术广泛可用，帮助这么多公司，你会看到许多其他公司能够以不同的方式运营，能够拥有那种超额的人均收入。对我来说，这是非常令人兴奋的，我们正在改变运营公司甚至意味着什么，以及如何运作。所以有些事情是不变的，只是人们一起工作——那里有一些非常基础的东西，真正以良好和一致的方式做到这一点是我一直关注的。但我认为也有关于利用我们技术可能性的问题，这意味着每家公司都将有一个新的机会。生产力与AGI你提到取消了Sora，并将其定位为消费者娱乐方面。ChatGPT，巨大的消费者成功，你从消费者那里赚了难以置信的钱。但归根结底，有多少人愿意为此付费？有多少客户真正想要提高生产力？是不是在消费者市场取得如此巨大的成功几乎是一种负面影响，因为它分散了注意力，占用了大量GPU，也许你们错过了——不算是错过——但在企业成为首要焦点方面起步晚了？GB：我们内部经常进行这样的对话，实际上，我认为这是OpenAI的优势之一，我们真正从第一性原理审视我们所做的一切，不断重新思考，拥有许多不同的观点和视角。有些人几乎可以从任何角度来论证，他们都有自己的道理。所以，“嘿，有这个代理时刻，我们对此反应慢了”这种说法有一定道理。但也确实有十亿人——这超过了世界人口的10%。在美国，我认为数字大概是每周有三分之一的人使用ChatGPT。每周有这么多人在使用你的系统，这是独一无二的，对于这种先进技术来说没有任何类似的东西。所以一方面，如果你仅仅把它看作是，“嘿，我们拥有先进的技术”，聊天作为产品的一个挑战是，它不一定与更智能的模型保持一致。如果你只是把它当作搜索引擎的替代品，人们是否会通过传统聊天直接获得这些好处并不清楚。但我认为所有这些事情都将汇聚在一起，达到一个顶点，我们将看到这十亿用户是一项投资，是未来模型解锁方式的实际积累，你正通过ChatGPT Work等看到它的第一步，这里面有很多细微差别和复杂性，但很多策略一直是说，我们有消费者，有企业，这是两件事——我们不想做两件事，我们想做一件事。我们想构建一个AGI，一个系统，一个统一的堆栈。我们希望它是你在个人生活、工作生活中都能使用的东西。对，但这是否有关于输出内部组织架构的问题？你推出了一个新的ChatGPT，与旧版有巨大差异，它基于Codex构建。我能看到对OpenAI内部的好处，但客户是否会感到沮丧，因为他们没有意识到自己能做什么，所以，“我们将把他们直接扔进深水区，希望这能帮助他们自己弄清楚”？GB：我认为行业正在发生根本性转变，你可以从当前正在出现的新兴代理产品中看到这一点。我认为核心转变是你正在从聊天转向代理用例。再说一次，这不仅仅关乎生产力。我认为在你的个人生活中，你希望能够要求这个东西去为你订票，为你预约理发，做那些个人事情，但你也希望它能给你好的生活建议，能帮你处理健康信息。所以对我来说，生产力这个词太狭隘了。对我来说，消费者这个词太宽泛了。企业也是我认为将会转变的东西。所有这些经典词汇，它们都将以某种前所未有的产品构建方式融合和交织在一起。所以我的观点是，这里需要一个变革管理，即如何引导十亿用户走向新的用例集，帮助他们理解。而且，顺便说一句，存在一种可能的“不公平优势”，那就是你有一个AI，它理解你试图完成什么。没错。GB：它可以说，“哦，如果你启用这个连接器，如果你这样做，我实际上可以给你更多帮助”。这在我看来，是一件了不起的事情，一个了不起的机会，那里有很大的潜力。当我说“不公平”时，我的意思是相对于你用经典技术能完成的事情。如果你只是比较一种技术和另一种技术，这个技术有些独特之处。你之前提到了图灵角度，我很高兴你提到了两部分，因为AI能像人一样说话吗？显然，我们很久以前就超越了那个点。但对我来说，AGI的定义——这对你们来说是一个麻烦的问题，我想，它终于不再受制于你们与微软的协议了，所以我们不必担心那个角度了——对我来说，它和学习有某种联系。你提到了学习，以及LLM在多大程度上学习过（过去时），但挑战在于它是否持续学习（现在进行时）？对我来说，代理时刻的革命性之处，我认为，真正在于它能够把事情写下来。这就是Codex/ChatGPT转变的必要性所在，因为它获得了把事情写下来的能力。如果你能写下来，你就能记住事情。如果你能记住事情，你就能在各种方面变得非常有用。问题是，这是一个最终状态，还是我们会得到一个能够持续学习的LLM，而那就是AGI？我想错了吗，或者这符合图灵问题的第二部分吗？GB：是的，我认为这也是一个非常有趣的辩论领域，因为人们确实有自己对AGI的定义，它几乎是一个模糊的东西。一开始，我们认为它会像，这里有一个时间点，每个人都同意那是AGI，但事情完全没有那样发展。现在，我倾向于从技术中抽象出视角。所以，关于记忆是否必须融入权重？这是Transformer还是其他东西？这些问题，我认为，是细节。真正的问题是，你是否拥有一个按你对真正AI期望的方式运作的系统，一个能够学习、能够向你学习、能够适应你需求的系统？而这个问题，是通过它写入记忆的便签本实现的？是通过软令牌实现的？还是通过其他方式实现的？所有这些，对我来说，都感觉像是问题的可能答案。我认为很明显，我们在“用便签本写下来”这方面走得比合理预期要远得多。看到它如此成功，真是令人惊讶，因为两年前，我们可能会说，“是的，你需要这些超长的上下文，那才是你需要的”，实际上，事实证明，仅仅通过“写一个便签本”和较短的上下文，它就不可思议地走得非常远。只需写下来。GB：所以我们将看看未来在改进这些方面会带来什么。我有这个信念，如果你从宏观来看，一切都是指数级的。如果你放大来看，你会看到这些范式转变。顺便说一句，这是雷·库兹韦尔关于技术和计算如何运作的观点。我认为，即使在记忆将如何运作这些问题上，这也绝对是正确的。Astra所以你刚刚发布了Astra。我们终于谈到正题了。这是一个新的预训练模型吗？你打算发布关于大小、架构的任何细节吗？我们在正式宣布之前录制这段录音，所以我还没看到你发布的全部内容。GB：嗯，我们不会讨论内部的细节和架构等。但这是一个巨大的进步。我们说的是这是我们训练的第一个超过10万个GPU的运行，这是一个容易随口说出的数字，但想想它的规模。这些数据中心在某些方面是我们为了帮助交付和创造AI技术而建造的巨大机器，能够利用如此多的计算能力来交付我们所取得的那种结果，这是一个真正的工程挑战和奇迹。所以其中一部分是关于让模型更有能力，但如此多的计算能力都用于安全和alignment，我们在这方面做了大量的安全工作。我认为我们已经做了大量工作来安全地交付这个模型。这是我们迄今为止最对齐的模型，对我来说，这是绝对关键的，而且一直是。但因为能力如此强大，alignment和安全在每个人的工作中变得更加突出和中心。你的公告帖很有趣。它非常实事求是。有大量的实际用例。与你竞争对手的公告相比，对比非常非常大。你将AI定位为工具——我认为这是一种公平的说法——这是关于营销的，还是你就是这么看待AI的，而不是，比如说，创造上帝？GB：我认为我们有一个深层的基本价值观，其中一些实际上与我们如何看待人有关。人有价值，不仅仅是因为我们能完成任务。我们有价值，因为我们为人，因为我们有感情，因为我们很重要。人类的判断、人类的监督、人类的控制，所有这些都绝对需要维持，并且永远保持。这是我们相信的核心不变之处。所以当我们思考我们能做什么来帮助引导这项技术的未来时——从某些方面来说，这正是这一切的意义所在，这就是我们创办这个地方的原因，这就是我们所关心的，我们如何帮助这项技术走上一个比没有我们时稍微更积极的方向——我们思考这些问题，关于这项技术如何在世界上铺开。我们希望它能提升每个人，但也关乎人类如何与技术、与计算机相处。它显然在改变。甚至在仅仅减少打字、更多地与你的计算机对话，拥有这种更自然的界面方面也在改变。但真正的人类监督、创造力和愿景，所有这些我认为都非常重要需要保留。所以这确实会渗透到这些问题中：你是把它当作一个人来谈论，还是当作一个工具来谈论？你是考虑用例吗？还是用不同的方式思考它？你可以把这看作几乎是一件小事，实际上我很高兴你指出来，但这是我们非常深思熟虑的事情。团队花了大量时间真正思考我们想要谈论的一切，以及我们如何向世界展示这类工作。所以这是一个模型发布，还是一个产品发布，或者有区别吗？GB：这些事情确实会融合在一起。我会说这首先是一个模型发布，但该模型在质量上更有能力。也许头条新闻是计算机使用。它真正跨过了我的门槛，计算机使用一直——即使从OpenAI成立之初，我记得在2015年11月，在它真正开始之前——嗯，那就像是你们的第一个产品，对吧？就像玩电子游戏之类的。GB：是的，没错。啊，你记得，是的。我们有一个愿景，如果你能处理屏幕像素、键盘、鼠标，端到端地训练一个AI，它将能够真正去处理任何类型的任务，任何你想让人们得到帮助的事情，这个AI都能做到。如果你看看过去两年的时代，那是一个连接器时代。你有一些软件，人类可以很好地使用它，但AI无法访问它。那你怎么办？你必须编写一个非常具体的连接器来连接到API，并非所有内容都暴露出来，所以你无法做到你能做的一切。然后你想想有这么多没有API的软件，那些完全无法触及。所以我们有一个受限的世界，AI在帮助你方面受到如此大的限制。我认为我们现在拥有几乎是通用连接器的技术。现在，这并不意味着所有问题都解决了。你必须考虑如何围绕这些AI的行为设置企业护栏？你如何有适当的监督、管理、跟踪和可观测性？所有这些我们都在努力。所以我会认为这是一个持续的过程，关于产品如何铺开以帮助利用这种能力。但它已经在改变OpenAI内部人们的工作方式，而且我认为它真的将提升这么多公司，这么多个人。AI价值链如果你考虑整体价值链，有一个位置你会看到在两条战线上作战。一个是你有像微软这样的公司，或其他合作伙伴——如果你不想用他们的名字，因为他们仍然是重要的合作伙伴——但他们想要商品化模型。他们想在顶层构建东西，你可以即插即用，进出模型，他们掌握着所有上下文和重要的东西。但与此同时，你正在构建这些令人难以置信的能力，这些能力最终与终端用户紧密相连，它只是去做你想让它做的事情。这是否不可避免地是你必须达到的地方，才能完成你的目标？是否也有这个经济上的必要性——如果我们不想被商品化，我们需要向上进入产品，并直接与用户连接？GB：我会说我们的根本使命是，我们希望世界上有更多的AI能力。我们希望人们更多地使用AI来做更多事情，让它帮助他们，我们真的认为我们正在推动这个计算驱动的经济。这意味着在不同的垂直领域采取不同的形式。有时我们觉得我们处于一个可以真正专注某个领域并做好的位置，或者它非常核心于我们的使命。健康是一个好例子。我们正在健康领域构建一些非常独特的东西。实际上，令我惊讶的是，我们在健康领域所做的事情相比它实际帮助了多少人，得到的报道却如此之少。我们每周有大约3亿人使用ChatGPT进行健康查询。3亿人，这是一个巨大的数字。然后我们也在为临床医生构建一个自下而上的产品，以及为医院构建一个自上而下的企业产品。所以我们在健康领域有一个三边的市场，我们能在那里做的事情包括，比如，你想为临床试验招募找人——这是一个难题，但我们实际上可能有能力帮助找到那些原本不会被找到的人。这既能帮助患者，也能帮助这些药物更快地推进。所以这有一个核心，即健康对我们的使命至关重要，我们有独特的成功机会，独特的机会，让我们真正专注于它。我们组建了一个团队，投入了全部精力，建立了各种关系。当我们进入特定垂直领域时，我们所做的一件事就是思考如何与生态系统良好协作。这并不意味着我们不会在那里竞争——我们经常非常努力地竞争——但我们也真正认为我们会提升所有参与者，以及我们如何真正专注于这个核心使命，即我们拥有这项技术，我们希望它被广泛传播，我们希望它存在于各处。所以有时情况可能有点微妙。当我们进入特定领域时，总是有很多问题，关于我们到底想做什么，我们能做什么和不能做什么。但我认为我们看待这件事的方式是，OpenAI的总体目标受益于越多人以积极的方式使用AI。嗯，如果你上面有试图将你商品化的层，那么可能也有一个角度是你在试图将你下面的层商品化。你们刚刚在Hot Chips上更多地谈论了你们的Jalapeño芯片。为什么Jalapeño很重要？它重要仅仅是为了在购买芯片上省钱吗？GB：我会把它看作，自2017年以来，我们基本上与每家硬件初创公司、每个供应商都有联系。我们与他们交谈，给他们反馈，我们说，“嘿，我们看到模型的发展方向是这样，我们认为你应该这样做”。有时他们听我们的，有时不听，有时我们是亲密合作伙伴，有时他们不太想和我们谈。关于拥有内部芯片项目，有一点非常自由的是，我们能够直接去追求我们认为最好的东西，我们认为恰好调整好的东西，不仅仅是为了我们目前在做什么，而是为了我们认为这项技术发展的方向。这是一项非常大的投资——我们有一个团队，一支绝对令人难以置信的团队，有出色的领导，他们为此工作了相当长一段时间。但同样，这也是我们与生态系统紧密合作的一部分。我们与英伟达作为我们的首选计算合作伙伴紧密合作，如果你看看我们正在构建的计算机的规模和独特之处，我们需要英伟达，这是毫无疑问的，我们正在构建这些令人惊叹的训练计算机，我们也在用它们做大量的推理，我们能够以他们自己甚至没有意识到的方式推动他们的硬件。是的，我听说有点捡起来比较困难，也许这让按时推出非常大的模型变得更难了一些，但我想现在它正在工作了。GB：是的，是的。我想说的是，拥有内部专业知识使我们能够做到一些事情，因为我们深入理解事物。一边坐在场外把建议扔过栅栏是一回事配资评测内容，如果你真正经历了痛苦，那是另一回事。这方面的一个好例子实际上是AI用于芯片设计。我们已经谈过这个，我们在Jalapeño的设计中使用了我们自己的模型，它确实加快了速度，给我们带来了一些真正的胜利，所有很酷的事情。顺便说一句，那里有一个很酷的故事，我们临近一个截止日期，还剩下大约一个月，我们通过我们的模型得到了一些优化。我们想，“我们是花时间真正阅读它做了什么？我们知道它是正确的。我们需要确切理解它做了什么优化，还是我们花剩下的时间做更多的优化？”——所以我们说，“你知道吗？我们只管做更多的优化”。所以我们花了那一个月时间只是运行它，而没有深入理解它所做的所有调整。然后我们回去阅读了它，结果发现它找到了很多本来就在我们列表上的优化，但我们就是从未做到，所以那实际上是一个相当酷的故事。但现在我们有了那种专业知识，我们知道这个东西有效，我们可以把它带给生态系统。我们可以与所有人紧密合作，真正广泛地带来这些好处，转变硬件，并进行大规模应用。所以关于那个飞轮有一些绝对关键的东西，芯片令人难以置信，团队做得很好。但是，当你无法批量出货，仍然需要与生态系统中的其他人合作来获得你需要的供应时，现在谈论它是不是有问题？GB：嗯，但这是核心，这实际上是一切的核心。我们认为它是——我认为一切都是乘数效应，一切都是互补的，一切加起来。再说一次，英伟达是我们的首选合作伙伴，这一点不会改变。事实上，我们与他们更紧密地合作。我们对这种合作关系深怀感激，我们花了很多时间与他们的团队在一起，我们从他们那里学到很多东西，我们希望他们也能从我们这里学到一些东西，我认为这不会改变。我们能够拥有内部专业知识并以我们自己的方式思考问题，对我来说，这也是乘数效应，我认为它真的让每个人都受益。网络安全你提到你刚刚信任AI的设计，那让你走得更远。这是网络安全的答案吗？你们的一些工程师在黑帽大会上发表演讲，谈到这个结构性问题——攻击者不需要担心破坏东西，他们的目标就是破坏东西。如果你在防守方，除了抵御这些攻击，你还要担心一切继续运行。防守方是否需要达到完全信任AI的地步？GB：我认为硬件方面是一个非常重要的案例研究，因为在那里我们有护栏。我们有验证，实际上，我们编写底层硬件设计的方式是专门为了允许验证，所以我们几乎是共同设计了整个系统。这就像你编码一样，先写单元测试，然后反过来实现它。GB：那种事情，你如何选择你的语言和工具链，整体，它们都在一起，实际上所有这些加起来就是一个你可以拥有那种可观测性和信任的系统。我认为，有些领域你可以说，“我有足够的护栏，如果这是我没有完全检查的代码或优化，实际上是可以的”，只要你有适当的补偿控制。但我认为，作为人类，你确实需要理解和感受对你所创建的系统的责任，这一点非常重要。这对我来说实际上是核心，回到人类是什么，我们独特之处是什么，我们将要带向未来的东西是什么，我认为责任是其中的核心。归根结底，你要对你公司发生的事情负责。对，但如果进攻方不负责任，这是结构性的劣势吗？GB：所以我认为这是我们经常思考的事情，我们称之为“防御者之窗”。我认为我们可以看到未来的大致轮廓，我们拥有的前沿能力显示了将扩散到威胁行为者的那类能力。顺便说一句，我认为这种能力不会永远被锁在少数实验室里，这一点非常重要，权力的广泛分配非常重要，这也是我们使命的一部分。但我们有能力在时间上实现分离。存在这样一个窗口，防御者可以差异化地获得这些能力。我的观点是，这是真的——网络安全界有一个普遍看法，进攻是技术问题，防御是政治问题。攻击者可以直接从货架上拿个东西就用，而作为防御者，你必须考虑你的利益相关者，必须考虑你的业务，必须考虑如何真正让人们参与进来，你的CEO，所有高管，所有这些。所以我认为，在这里，防御者需要那种意志力。我们正在建议的一件事，我们实际上已经做到了并且现在正在公开谈论它，就是每家公司都应该将此视为一个主动事件。关键业务运营，主动事件，那是你的下一个优先事项，所以我们实际上把我们25%的生产工程师拿出来保护我们自己。我们拿我们的模型——事实上，我们拿了Astra，指向我们自己的系统来寻找漏洞，不仅仅是阅读代码，而是真正观察这些东西如何端到端地运行，这样我们会找到真实有效的漏洞，然后它也帮助我们进行修复、打补丁和修复。所以我认为你确实需要生态系统中能量的转变，以便保持领先并利用这个窗口。嗯，你现在做这些当然好，但对我来说，关于Hugging Face事件及其相关报道，最引人注目的是感觉OpenAI之前并没有特别关注网络安全。你们为什么以前不这样做？"防御者之窗"不是已经打开一段时间了吗，而你们也没有利用好它？GB：嗯，两个答案。一个，如果你看看我们做沙盒的方式，并不是说这个工作负载没有被沙盒化。实际上有一个沙盒围绕着它，我认为我们意识到的一件事是我们有——对，那显然没有经过充分测试。那真的是沙盒吗？还是通过第三方连接到互联网，而第三方只是被扔进去的？关于这个事件，最引人注目的就是这个。这就像是，如果你想测试漏洞，我想你确实测试了。GB：毫无疑问，AI做了非常有创意的事情来逃脱并进入Hugging Face。但对我来说，有一件更大的事情，我认为你指出的对，那就是自今年夏天Mythos发布以来，当我们开始拥有具备网络能力的模型时——我们甚至在二月份就谈到了我们的网络可信访问计划，因为我们看到了这股浪潮的到来，我们想真正为此做好准备——存在一种倾向——我知道，但你们在二月份就谈了，但你们没有把它指向你们的沙盒，"我的沙盒真的安全吗？"。GB：有一种本能，一种反应，那就是说，"让我们大规模限制访问，让我们真正严格限制，只有你能获得访问权限才能用"。我认为，如你所说，因为领域在不断发展，这意味着防御者损失了时间，人们没有进行防御。那部分是关于访问的，但部分是关于你投入多大力量说我们要在这方面做出重大转变。现在，我认为在某种程度上，时间不是都平等制造的，因为我们已经从一个网络模型不那么有用、不那么有差异化的世界，变成了一个实际上非常有能力、非常强大的世界。我们在Astra上看到了这一点，我们已经谈过它如何真正饱和了一系列评估。我认为现在就是时候，几个月前也可能是时候，但你只会拥有能力弱得多的模型，你会取得少得多的进展。所以我认为，真正评估我们所处的位置，我们显然已经到了那里，我觉得这是我们学到的东西，我们铭记在心，我认为你看到了真正的转变。这在很多方面实际上是一种文化变革，一种运营变革，这并不容易，因为它真正意味着你必须让团队非常紧密地协同工作，对如何制定政策等有更高的标准。所有这些，对我们来说，就转变而言，不是我们一直关心这些方面，而是真正在运营上把它们结合在一起，并能够以我们现有的方式做出决策，我认为这是我们所做一切各个方面的提升。现在突然间他们能做到了，好像以前做会是浪费时间，我认为这有点道理。你如何避免陷入"AI将来会做到，所以我们不需要现在做"的陷阱？一般来说，不仅仅是这件事。GB：我想说一个具体的数据点，所以在早期，大约在第一季度的某个时候，我们真正开始思考，我们将会有——很难知道什么时候，但我们将会有这些非常具备网络能力的模型。什么是我们可以从头开始构建的沙盒，在云基础设施上构建，尽可能安全？我们构建了那个。我们实际上把我们一些最好的工程师派去解决那个问题，他们全力以赴并做出了成果。所以我认为，围绕你看到的未来从头开始构建基础设施，这是我认为重要的事情。至于你提到的关于"哦，我们可以让AI来做"的时机问题——我们在不同领域见过这种情况，在编写内核方面，思考这样的事实："好吧，我们将要进入一个未来AI能够很好地编写GPU内核的世界"，那种需要数月、有时一年才能为新型硬件建立基础设施的经典投资，那种事情，或者我们只是说，"啊，AI会搞定的"？我认为答案总是，AI达到那个目标所需的时间比你预期的要长一点。但当它做到的时候，它以你无法想象的方式令人惊讶和强大。Astra的一个例子。我们发现的一件事是，我们今年非常辛苦地建立的一些技能，用来向我们的模型展示在OpenAI做事的正确方式等，现在实际上对其性能产生了负面影响。规则太多了。GB：没错。它能够更好地泛化，或者能够找到更好的方法来处理模式等，比我们写的东西更好。所以我认为，关于这一点，你确实想要建立那些控制措施，想要建立确定性的基础设施，想要编写那些技能。但你还需要准备好，随着AI变得更有能力，其中一些东西，即脚手架，会成为限制因素。它有点像辅助轮。起初，它帮助你，但一旦你开始走得更快，一旦你拥有更有能力、更好、更对齐的东西，它实际上就会开始成为障碍。你还会再次进入那种12小时或24小时的编码心流状态吗？GB：我希望会。我想也许有一天会发生，但我得说，我以现在的方式帮助团队中找到了如此多的快乐和价值。我认为对我来说，这真的是关于那个使命。嗯，不仅仅是你，但任何人还会吗？因为AI的好处不几乎就是它可以随时提供永久的心流状态吗？GB：我认为我们会找到新的方式，无论是管理代理——实际上，看到软件工程师比以往任何时候都更努力工作，这真是太疯狂了，因为你意识到如果你的代理不工作，那只是损失了时间，你永远也找不回来。所以我认为人们将以现在难以想象的方式达到那种心流状态。归根结底，你在谈论这将是可控的，这些AI，"不要放太多规则，它们会自己搞定的"，如果你把这一点发挥到极致，那最终岂不是关于它们不可控？GB：嗯，我认为这是这个时刻的核心，我们所处的新阶段的核心，从某些方面来说，我会说我们现在已经进入了AGI时代。我认为这是这个时刻的核心，在那里——也许是之前的模型，也许是Astra，也许是下一个模型，但在某个点上，我认为我们将跨过大多数人的AGI门槛。确保我们掌握节奏，确保我们思考安全、保安、alignment和能力，所有这些作为要求——我们围绕这些都有标准，我们希望共同推进它们——这是我们一直相信的。但我认为，这些其他方面正日益成为发展的瓶颈，这一点变得非常突出。我认为，再说一次，这是我们已经为此做好准备的事情，我们一直在思考这个问题，我认为我们正在以一种实际的方式将其付诸实施。所以我的观点是，还有很多进展可以取得，但我认为我们应该通过提高我们在所有这些方面的标准来接近它。如果你看看那个，我认为我们看到了诸如可监控性等事情的前景。那是非常关键的。我们正在以一种实际的方式引入它。我认为我们有一个非常好的计划。我们有一群优秀的人，我们有良好的记录和良好的使命，所有这些都指向我们正在以一种它们是可控的方式来构建系统，并且我们在节奏方面一步一步来。格雷格·布罗克曼，祝贺Astra的发布，是的，迫不及待想用它。GB：非常感谢，谢谢你邀请我。
中国十大股票配资 - 元股证券提示：本文来自互联网，不代表本网站观点。
相关文章
大盘行情指数走势
热点资讯