奥特曼超长访谈，大伙关注的问题都回应了，GPT5、董事会风波、llya、马斯克...

难得难得！关于GPT-5细节以及OpenAI更多内幕，竟然被奥特曼自曝了。

GPT-5会是整个性能全面提升，会超出预期；对正研究如何提升GPT-4的初创公司会是一种碾压。

如果回到过去，我会考虑换掉“OpenAI”这个名字。

计算能力将会成为世界上最重要的货币。如果投入足够的计算资源，构建超越人类能力的AGI是完全可行的。

我非常尊敬Ilya，他的事情他自己说更合适，但我真的希望能一直跟他一起共事。

这波输出频率之高、内容之丰富，让不少网友感到惊讶。

前脚刚跟韩国硅谷记者团透露GPT-5会超出预期，后脚就同Lex Frideman展开两个小时的访谈。

于是乎，不到一天时间，这个访谈就有超百万的访问量。

奥特曼2小时超长访谈

在同Lex Frideman访谈中，奥特曼分享了很多内容，包括大家伙蹲了好几周的GPT-5进展，以及一直在被热议的“Ilya在哪”这样的敏感话题。

量子位做了简单整理，并从中摘取了部分重要信息，在此分享给大家。

（不过必须承认的是，奥特曼玩太极玩得贼6，愿意称他为新一代张sam丰）

关于GPT-5：全面提升

Q：从GPT-4到GPT-5的飞跃，哪些方面让你感到兴奋?

奥特曼：我很高兴看到GPT-5的智能水平得到提升。这听上去可能有点陈词滥调，但真正令人兴奋的是，它将是整个领域的全面进步，而不仅仅是某一方面变得更好。

Q：在编程方面，你认为未来5到10年内，人类还会亲自编写多少代码?

奥特曼：相信未来编程会有很多不同的形式，也许有些人会完全使用自然语言编程，也就是说不用写代码。

Q：编程很难，尤其是最后缩小那1%的差距，这有多难?

奥特曼：在大多数情况下，实践者会使用多种工具，他们会用自然语言去完成部分工作。

Q：我们会在某个时候看到OpenAI推出人形机器人或类人机器人大脑吗?

奥特曼：会的，在未来的某个时候。

Q：具身智能对你有多重要?

奥特曼：我觉得如果我们拥有AGI，但仍然是人类在现实世界执行各种任务，这将是令人沮丧的。因此作为转变的一部分，我们也希望能开发出人形机器人，或者某种现实世界的机器人。

Q：OpenAI过去在机器人技术方面有过相当一段时间的研究。

奥特曼：我们是一家小公司，所以必须集中资源。而且由于一些错误的原因，当时机器人的发展遇到了很大困难。未来我们还会以某种方式重新投入到机器人研发中。

Q：这听起来既令人鼓舞，又有些令人不安。

奥特曼：为什么?

Q：因为这感觉我们很快就会进入机器人时代，就像《终结者》里那样。

奥特曼：我们会重新投入机器人的研发，但当然不是要把自己变成机器人。

Q：要实现类似GPT-5的模型，还需要克服哪些最大的挑战和瓶颈?

奥特曼：关键点一直都是这些——更强大的计算能力？新的突破性进展？还是别的什么？所有这些因素缺一不可。

OpenAI做得非常好的一点是“将200个中等规模的改进组合在一起，变成一个庞然大物”，这实际上是Ilya的原话。

Q：所以这种分布式、持续的创新正在发生?

奥特曼：是的。

Q：在技术层面也是如此吗?

奥特曼：尤其是在技术层面。

有些人需要考虑如何将所有这些拼凑在一起，但大多数人都试图在头脑中把握整个大局。

从高层次来看，你可能并不清楚每一个细节是如何运作的，但我普遍认为，有时从宏观角度审视全局是非常有用的。这对技术问题和商业创新都适用。

但事情的发展往往会出人意料。即使大部分时间你都专注于某个特定领域，也能获得令人惊讶的洞见。

我曾经拥有的一项超级有价值的能力，就是对科技行业的所有或大部分前沿领域都有一个技术全景图。有时我能看到这些领域之间的联系，或一些可能出现的新事物。

但如果我只专注于一个领域，就不会有这些想法，因为我没有全部的信息。现在我已经钻研得非常深入了。

Q：你已经不再是从前的你了。

奥特曼：现在的工作跟我以前的工作完全不同。

关于董事会：通往 AGI 的道路应该是一场巨大的权力斗争

Q：告诉我OpenAI董事会的故事。

奥特曼：……这绝对是我职业生涯中最痛苦的经历，充满混乱、羞愧、不安以及许多其他负面的东西。不过其中也有美好的事情，但我希望当时不要那么仓促，以至于无法停下来欣赏它们……

整个周末，除了一个大的例外……有时候，我真的觉得这是AI安全史上最糟糕的事情之一。我也很高兴这事发生得比较早。我认为在 OpenAI 开始和我们创建 AGI 之间的某个时刻，会有一些疯狂和爆炸性的事情发生，但可能还会有更疯狂和爆炸性的事情发生。我认为，它仍然帮助我们建立了一些弹性，并为未来的更多挑战做好了准备。

过去那个戏剧性周末并不是OpenAI真正意义所在。OpenAI真正意义在过去的7年。

Q：你有种感觉，你会经历某种权力斗争？

奥特曼：通往 AGI 的道路应该是一场巨大的权力斗争。

Q：你觉得董事会权力太大了吗？

奥特曼：我认为董事会应该拥有很大的权力，但我们确实看到，在大多数公司结构中，董事会通常对股东负责。

有时人们拥有超级股票权的股份或其他东西。这种情况下，我认为对结构多加考虑的一点是，除非你制定了其他规则，否则非营利组织的董事会拥有很大的权力。

他们只对自己负责，不对任何人负责。这在某些方面是好的，但我们真正希望的是，OpenAI 的董事会能够对整个世界负责，因为这是一件很实际的事情。

关于Ilya在哪：我不方便透露

Q：Ilya是不是被关在某个秘密核设施里？

奥特曼：不是的。

Q：那么，他是不是在某个普通的秘密基地？

奥特曼：也不是。

Q：那他是不是在非秘密的核设施里？

奥特曼：不是的，以上都不是。

Q：你和Ilya认识很久了，现在你们之间的关系如何？

奥特曼：我非常尊敬Ilya，不过关于他的计划，他自己来说更合适。但我真心希望我们能够一直合作，直到我职业生涯的结束。他比我年轻，或许他的工作生涯会更长一些。

Q：有传言说，Ilya可能已经看到了一些关于AGI的东西，这让他感到非常忧虑。他究竟看到了什么？

奥特曼：Ilya还没有看到AGI，我们也都还没有见过AGI。我之所以特别欣赏Ilya，其中一个原因是他对AGI以及与之相关的安全问题非常严肃认真，他总是考虑这些技术对社会可能产生的影响。在我们不断取得进展的过程中，Ilya是我与之讨论这些问题最多时间的人之一。所以，Ilya并没有看到AGI。但他确实是人类在这一领域的功臣，为了确保我们能够正确处理这些问题，他付出了很多思考和努力。

Q：每当他谈论技术时，他总是在进行深远的思考，这使得他成为一个非常吸引人的人物。你知道他为什么保持沉默吗？他是在进行自我反省吗？

奥特曼：我还是那句话，我不想替Ilya发言。我认为你应该直接问他。他绝对是一个有深度的思想家。我相信他一直在以一种很好的方式进行自我反思。

Q：对，他还懂得沉默的力量。我还听说他有时候表现得有点傻气，但我从未见过他那样的一面。

奥特曼：最近我和他一起参加了一个晚宴，看到他正在和一只小狗玩耍，表现得非常亲切和可爱。我当时想，这真是外界很少见到的Ilya的另一面。

与马斯克的官司：他曾想收购我们

Q：关于马斯克对OpenAI提起的诉讼，你如何看待他提出的批评？他的观点有合理之处吗？他的理解有哪些偏差？

奥特曼：我不太明白他诉讼的真正意图。我们最初只是想建立一个研究实验室，对于这项技术的未来走向并没有明确的预期。

那是在语言模型还未广泛流行之前，我们还不清楚什么是API，也没有想过要销售Chatbot的访问权限，更没有考虑过产品化的问题。我们的初衷是仅仅进行研究，对其他事情一无所知。

我认为，对于许多颠覆性的新技术，我们往往在不确定中探索，并做出一些假设，而这些假设最终往往被证明是错误的。

随着时间的推移，我们意识到需要采取不同的策略，也需要更多的资金支持。因此，我们不断调整结构，每一步决策都是基于当时的合理性。但这并不意味着如果我们能回到过去，我们会做出完全不同的选择。

Q：你们这群热衷于AGI研究的人曾被嘲笑，马斯克也曾因谈论火箭而受到质疑，你认为他对此有何感想？

奥特曼：不久之前，马斯克还在热衷于讨论火箭发射，同样遭到了人们的嘲笑。我本以为他会对我们的处境有更多的同情。

当时，马斯克选择与我们分道扬镳，他认为OpenAI会失败，因此想要完全掌控局面。我们则希望继续沿着现在OpenAI所走的道路前进。他还曾希望特斯拉能够开发出AGI。

在不同的时期，他都试图将OpenAI转变为一家由他控制的营利性公司，或者将其与特斯拉合并。

我们并不同意这样的方向，所以他选择离开，这也是他的自由。

Q：对于OpenAI这个名字中的“Open”，你是如何理解的？

奥特曼：如果可以回到过去，我会选择一个不同的名字。OpenAI的核心使命是将先进的技术作为公益事业免费提供给公众。

这种开放性对我们的使命至关重要。我相信，如果我们能够向世界提供强大且成本低廉的人工智能工具，这将极大地推动人类创造一个美好的未来。因此，我们将继续致力于向全球提供免费或低成本的先进AI工具，这对于实现我们的使命至关重要。

Q：那么，对于马斯克提议将OpenAI更名为CloseAI，你有何看法？

奥特曼：这反映了他对诉讼的重视程度，他的说法让我感到意外。

Q：但我认为这起诉讼背后更重要的是对AGC以及OpenAI未来的立场表达。

奥特曼：Grok之前一直没有开源任何产品，直到人们开始质疑这种做法的虚伪性，他才宣布将在本周开源。我不认为开源与否是他真正关心的问题。

Q：目前许多公司都在考虑开源策略，OpenAI是否有过类似考虑？

奥特曼：是的，开源模式在某些领域肯定会有其位置，特别是对于那些可以在本地运行的小型模型，市场需求巨大。我认为未来会同时存在开源和闭源的模式，这与其它技术生态系统并无二致。

Q：许多初创公司对OpenAI从非营利组织转变为盈利公司的做法感到关注。

奥特曼：我会强烈建议这些公司三思而后行。我不认为我们正在开创一个先例。

Q：你期待与马斯克未来的关系如何发展？

奥特曼：我非常尊敬马斯克，希望在未来我们能够建立起友好的关系。

7万亿美元？算力将成为未来的货币

Q：有报道称你筹集了7万亿美元？

奥特曼：我从没说过这样的话。

Q：但你说了：Fuck it， maybe eight。

奥特曼：我确实认为算力将成为未来的“货币”。它可能会变成世界上最宝贵的资源，我们应当大量投资以提升计算能力。

这涉及到许多挑战，比如能源供应是最大的难题，数据中心的建设、供应链管理以及芯片生产也同样困难。但这是未来的发展方向。我们所需的计算量目前还难以估计。

Q：如何解决能源问题？你看好核能？

奥特曼：我确实看好核能。

Q：核聚变？

奥特曼：是的。我认为我们应该建造新的反应堆。现在该行业停滞不前实在是太可惜了。

关于谷歌：世界不需要另一个谷歌

Q：随着GPT的发展，OpenAI是否有意接管谷歌20年前开始的业务？

奥特曼：我觉得这个问题很无聊。很多人试图做出一个比 Google 更好的搜索引擎。但这涉及到技术、品牌以及生态系统等多方面的挑战。

我不认为世界需要另一个谷歌。

Q：将ChatBot与搜索引擎集成在一起。

奥特曼：这样更酷。LLM加上搜索功能的整合，我认为还没有人能真正探索出来，我很乐意去尝试。

Q：那你对广告业务的看法呢？ 奥特曼：我讨厌广告。互联网需要广告来支撑，但我认为这只是一时的产业。

我更倾向于人们为ChatGPT付费，而他们得到的答案不受广告商的影响。这是一个简单直接的商业模式。

我在使用Twitter、Facebook、Google或其他依赖广告的平台时，并不喜欢它们。我认为在AI时代，这种情况可能会变得更糟。

Q：像维基不做广告是个非常大胆的举动，从商业角度OpenAI现在可持续的吗？

奥特曼：我们必须找到增长的方法，我相信我们会找到的。能否在没有广告的情况下运营一家伟大的企业，满足计算需求？我相信这是可能的。

对于AGI的展望：任何人不应该控制AGI

Q：您认为我们何时能开发出AGI？

奥特曼：我曾经喜欢猜测这个问题，但AGI的定义模糊不清。我认为更有意义的是讨论何时能实现具体功能，而非泛泛而谈「何时达到这个里程碑」。
AGI不是终点，而是一个起点，是一个重要的里程碑。

预计到本十年末，甚至可能更早，我们将拥有强大的AI系统，让人惊叹“哇，这太了不起了”。

Q：但许多人认为ChatGPT已经是AGI。

奥特曼：是的，但我不认为GPT-3.5改变了世界。它可能改变了人们对未来的期望，这非常重要。

这确实让更多人重视这个问题，推动我们进入新的发展阶段。因此，我不想再次低估它。我想在实现这一成就后退休对我的职业生涯感到满意。但我不认为会在回顾这一点时说，这是一个真正改变了世界的门槛。

Q：所以你在寻找一些真正重大的变革。

奥特曼：是的，这正是我对AGI的期待之一。

Q：你期待的是奇点级别的变革吗？

奥特曼：不，不是。我认为，如果一个系统能显著加快世界科学发现的速度，那将是一件大事。真正的经济增长大多源自科技进步。

Q：你一般能比其他人更先与AGI交流，你会问些什么？

奥特曼：研究人员会比我更早与AGI交流。但如果可能，我会问AGI：

请解释一下物理学的万物理论。

Q：您可以问一些是非问题，比如“这样的理论存在吗？它能存在吗？”或者“还有其他外星文明吗？您的直觉是什么？”

奥特曼：是的，虽然我不指望第一个AGI能回答这些问题，即使只是是非问题。但如果可能，这些问题会是我提问的首选。

Q：谁首先打造出AGI，将获得巨大的权力。您觉得自己能掌控这样的权力吗？

奥特曼：我会非常诚实地回答这个问题。我始终相信，无论是我还是其他人，都不应完全控制OpenAI或AGI。

我们需要一个健全的治理体系。去年董事会的风波让我意识到，尽管董事会有权力解雇我，但实际上这并未发生。这是一种治理上的失败。

我从未拥有过，也从未想要拥有对OpenAI的超级投票控制权。即使经历了这么多，我仍然不想要它。

我认为任何公司都不应做出这些决策，我们需要政府来制定规则。

我在OpenAI的发展过程中做出了一些好的和坏的决定，总的来说，我对自己的表现感到自豪。但我不认为任何个人应该或能够控制AGI，或影响AGI的发展方向。我不认为这是正在发生的事情。

Q：你担心失去对AGI的控制吗？很多人担心的不是国家行为者或安全问题，而是AI本身。

奥特曼：根据我目前的看法，这不是我最担心的问题。

One More Thing

不过爆料了那么多，对于GPT-5发布时间还是三缄其口。

Lex Fridman说：如果今年发布GPT-5话，就眨眼两次。

奥特曼be Like：我忍住不眨。

完整版视频链接：
https://www.youtube.com/watch?v=jvqFAi7vkBc