奥特曼gp1-018，奥特曼gp2-014

今天一早，Lex Fridman 对OpenAI 董事长Sam Altman 进行了公开采访。这篇独家专访讨论了OpenAI的棋盘大战、GPT-5、AGI等等，作者花了一个晚上仔细翻译，以供您参考。

今天一早，就在几个小时前，OpenAI 主席Sam Altman 发表了由Lex Fridman 主持的独家专访，涵盖了大家感兴趣的所有话题。

谈话内容按顺序排列如下：

OpenAI 董事会之战Ilya Sutskever 在哪里？ Elon Musk 的诉讼Sola GPT-4 内存和隐私Q*GPT-5 7 万亿美元资助Google 和Gemini 跨界到GPT-5AGI 外星人过夜，我翻了。这段对话太长了，所以我就省略英文原文了。

第1 部分：OpenAI 董事会之战Lex Fridman：

我们很高兴地宣布一系列活动，从11 月16 日星期四或11 月17 日星期五举行的OpenAI 董事会会议开始。

萨姆·奥特曼：

这确实是我一生中最痛苦的职业经历，充满了困惑、羞耻、不安和许多其他负面情绪。当然有很多积极的一面，但肾上腺素太高，无法停下来感恩。重读当时的旧推文，我感觉就像在读自己的讣告，看到其他人对我所爱和关心的人所说的所有关于你的精彩言论。我感受到了难以置信的支持。真的很棒。整个周末，我感受到了很多爱和很少的恨，但有一个很大的例外。尽管我感觉很糟糕，因为我不知道发生了什么或接下来会发生什么。曾经有一段时间，我认为这是人工智能安全可能发生的最糟糕的事情之一。但我也认为这是一件好事，它发生得相对较快。我认为从OpenAI 成立到AGI 创建之间将会发生一些疯狂和爆炸性的事情，而且未来可能会发生更疯狂和爆炸性的事情。Ta。然而，我相信这段经历增强了我们的韧性，并为我们未来可能遇到的进一步挑战做好了准备。

莱克斯·弗里德曼：

但你是否有预感我们可能正在经历某种权力斗争？

萨姆·奥特曼：

毫无疑问，通向AGI的道路将充满激烈的权力斗争。世界……嗯，不，我预测这将是未来。

莱克斯·弗里德曼：

所以，正如你所说，尽可能频繁地重复这个过程，以最小化权力为目标，如何构建董事会、如何组织、如何选择合适的合作伙伴、如何有效沟通。我们需要找到一种方法。斗争。

萨姆·奥特曼：

那是对的

莱克斯·弗里德曼：

冷静下来

萨姆·奥特曼：

但现在感觉那些艰难、痛苦、难以忍受的日子已经一去不复返了，但我们又回到了工作岗位，事情是如此忙碌和专注，以至于我们没有太多时间去思考。之后的一段时间，也许一个月左右，也许45天后，我每天都在发呆，环顾四周，感觉自己就像在一个漂流瓶里。我的精神完全崩溃了，感到极度沮丧。

莱克斯·弗里德曼：

难道只是个人心理层面的问题吗？

萨姆·奥特曼：

是的，很痛。在这种情况下，想要控制OpenAI 是非常困难的。我只想找个山洞，爬进去，休息一会儿。但现在我们又回到了为使命而战的状态。

莱克斯·弗里德曼：

嗯，对于像你这样最有可能构建AGI 的人来说，回想一下董事会结构、权力动态、公司运营方式、研究与产品开发之间的紧张关系、资金等因素肯定是有益的。之上。这样，未来构建AGI的努力将更加有序、不那么戏剧性。因此，尝试去那里旅行，不仅是为了你作为领导者的个人和心理成长，也是为了了解董事会的结构及其复杂性。

萨姆·奥特曼：

我学到了很多关于组织结构、激励措施以及对董事会的期望的知识。从某种程度上来说，我认为现在发生这种情况是值得的。我认为这不是OpenAI 最后一次面临这样的压力，但这肯定是一个非常紧张的时刻。我的公司快要破产了。除了思考如何建立有弹性的组织，如何建立能够承受世界压力的结构系统之外，思考我们要为AGI做准备的许多其他事情我认为非常重要。

莱克斯·弗里德曼：

您能否了解董事会为决策过程带来的深度和严谨程度？您能否解释一下这种情况下涉及的人际动态是什么？就几次。你们刚刚进行过对话吗？事情升级了，有人说了这样的话：“你为什么不解雇萨姆？”

萨姆·奥特曼：

我觉得董事会成员通常都有良好的意图，我相信人们会理解并在压力大、时间敏感的情况下做出次优的决定。我认为OpenAI 面临的挑战之一是需要建立一个能够在压力下有效运作的董事会和团队。

莱克斯·弗里德曼：

你认为董事会权力太大吗？

萨姆·奥特曼：

我认为董事会应该有很大的权力。但请注意，在大多数公司结构中，董事会通常对股东负责。在某些情况下，我们可能持有具有特别投票权的股份。就此而言，我认为我们的结构问题也许应该更深入地考虑。这意味着在没有特殊规则的情况下，非营利组织董事会实际上拥有很大的权力。他们除了自己之外，并不真正对任何人负责。这样做有好处，我们知道这在实践中很困难，但我们希望OpenAI 董事会对世界负责。

莱克斯·弗里德曼：

因此他们宣布了新的董事会。

萨姆·奥特曼：

是的。

莱克斯·弗里德曼：

最初是一个新的小型董事会，现在是一个新的正式董事会？

萨姆·奥特曼：

我们的董事会尚未最终确定。我们增加了一些成员。未来这个数字还会继续增加。

莱克斯·弗里德曼：

添加了一些。好的，您在上一个版本中考虑到的哪些问题在新版本中得到了修复？

萨姆·奥特曼：

旧木板在大约一年的时间里被刮掉了。最初有9名成员，但后来减少到6名成员，而后加入新成员又引发了分歧。我也觉得董事会缺乏有经验的成员。现在，OpenAI 的新董事会成员拥有丰富的董事会经验。我认为这会改善它。

莱克斯·弗里德曼：

这个问题受到了很多批评，其中一些人对拉里·萨默斯加入董事会表示不满。选择董事的程序是怎样的？这个过程涉及哪些因素？

萨姆·奥特曼：

那个周末的情绪就像坐过山车一样，布雷特和拉里在压力下做出了决定。我们想确定一位新的董事会成员，既要得到这里管理层的批准，又要得到现有董事会成员的认可，所以我们经过了一番艰苦的谈判，经历了很多曲折。事实上，拉里是老董事会推荐的人之一。至于布雷特，我记得在那个疯狂的周末之前提到过他，但他太忙了，没有兴趣。之后，在[无法理解的00:09:22]期间需要进一步的支持。我们考虑了其他几位候选人，但觉得如果我要回来，我就必须引入一位新的高管。我从未想过会以同样的方式再次与同一个董事会合作，但最终我做出了决定，并对Adam 能够留下来深感感激。然而，在考虑了各种可能的配置之后，我们最终决定创建一个三人董事会，并在很短的时间内找到了两名新的董事会成员。

所以这些决定其实都是直接做出的……这就是战场上的现实，你不能设计死板的流程。然而，我们为新董事和未来继续增加的董事设定了一些重要标准。我们希望我们的董事会涵盖各个专业领域。在招聘高管时，你可能只需要在一个岗位上表现出色，但对于董事会来说，你需要带来全方位的治理和思维能力。布雷特说的我特别同意的一件事是，你应该分批聘用高管，而不是一次聘用一名高管。我们想要实现的目标是将一群具有非营利专业知识、商业运营专业知识以及扎实的法律和治理专业知识的人聚集在一起。

莱克斯·弗里德曼：

那么，董事会成员个人的技能水平重要吗？

萨姆·奥特曼：

并非所有董事都需要这样做，但有些董事确实需要这样做。这是董事会职责的一部分。

莱克斯·弗里德曼：

人们可能不太理解OpenAI 的有趣之处，我当然也不理解，那就是运营企业所需要做的所有小事情。当人们想到董事会并想到戏剧性元素时，他们首先想到的是您。他们想知道，如果你要开发通用人工智能(AGI) 或其他一些高影响力的产品并成功地将其推向市场，你会与董事会进行什么样的对话。Masu。这个场景还考虑了应该组建什么样的团队来进行决策和讨论。

萨姆·奥特曼：

听着，我认为我们的董事会肯定需要一些技术专家。与此同时，我们需要能够思考“我们如何部署这项技术以最大限度地造福人类？”的人。我们还需要具有根本不同观点的人。像你我这样的人犯的错误之一就是认为技术理解是唯一重要的事情。这是您希望董事会讨论的事情之一，但还有许多其他方面。我希望董事会能够反思技术如何影响社会和人们的生活。

莱克斯·弗里德曼：

您是在回顾他们过去的表现还是只是与他们沟通？

萨姆·奥特曼：

过去的表现很重要。当然有很多对话，但是对于某些角色你根本不看他过去的表现，你只看他的上升势头而忽略Y截距。

莱克斯·弗里德曼：

谢谢。感谢您用数学方式向观众解释了这个问题。

萨姆·奥特曼：

作为董事会成员，我更关注Y 截距。在这方面，过去的成绩很能说明问题，我觉得经验是不可替代的。

莱克斯·弗里德曼：

您是否试图用多项式或指数函数来拟合此性能记录？

萨姆·奥特曼：

这个比喻有点牵强。

莱克斯·弗里德曼：

现在，我之前提到了那个周末我经历的一些低潮时刻。你遇到过哪些心理挫折？你有没有想过干脆去亚马逊雨林，尝试一下死藤水（一种致幻剂），然后消失在这个世界上？

萨姆·奥特曼：

那真是一段糟糕的时光。但也有一些非常伟大的时刻。我的手机里充满了来自每天共事的人和十年未见的老朋友的温馨信息。我应该更珍惜这些时刻，但我太忙于应对危机，无法充分欣赏它们的温暖，但这确实很好。总而言之，那个周末非常痛苦。就像一场公开的战斗，出乎意料的累，比我想象的还要累。平时战斗就已经很累了，但这一次尤其如此。董事会周五下午做出了决定。确实很难找到答案，但我也觉得既然董事会有权这样做，我们就应该花时间仔细思考下一步要做什么。不过，我会尝试在其中寻找一些隐藏的运气。

我心里清楚，我目前在OpenAI 的角色，或者至少是我以前的角色，是经营一家相当大的公司。我最喜欢的是与研究人员合作。我想，是的，我可以找到一份高强度的通用人工智能研究工作。这个想法让我兴奋。那时我根本没有想到，这一切的努力可能会白费。那是一个星期五的下午。

莱克斯·弗里德曼：

所以你已经接受了结局.

萨姆·奥特曼：

非常快，真的非常快。我也经历过困惑和愤怒的时期，但它们都是暂时的。到周五晚上，我开始与人们谈论我下一步要做什么，并且对此感到兴奋。我记得我第一次听到我们管理团队中的某个人说，“嘿，我们要反击”，是在周五晚上。

莱克斯·弗里德曼：

你能睡吗？

萨姆·奥特曼：

没那么多。有一个非常奇怪的时期，大概有四天半的时间，我几乎睡不着，吃得也很少，但我仍然精力充沛。了解有关战时肾上腺素的一些奇怪的事情。

莱克斯·弗里德曼：

换句话说，你已经接受了像孩子一样对待的OpenAI 有一天会失败。

萨姆·奥特曼：

我对新事物感到非常兴奋。你只是想，“好吧，这很疯狂，但无论如何。”

莱克斯·弗里德曼：

这确实是一个非常棒的应对策略。

萨姆·奥特曼：

那个星期六早上，两名董事会成员打电话给我说：“嘿，我们已经帮您解决了。一开始，我说：“嘿，我们并不是想搅局。我们不是想在这里创造价值。我们能谈谈你的回报吗？”我真的不想回去，但当我再想一想，我意识到我真的很关心这里的人，我们的合作伙伴，我们的股东。我喜欢这家公司。于是我想了想，对他们说：“好吧，但是我有我自己的条件。”而整个周末就是我最痛苦的时刻。我不断反思，并被告知，不仅仅是我，我们整个团队都在思考。当整个世界都在试图分裂OpenAI、人们试图在各地挖人时，我们正在努力保持OpenAI 的稳定。

我们不断听到，“好吧，快结束了。快结束了。我们需要更多时间。”这非常令人困惑。直到周日晚上，我几乎每隔几个小时就想一切都结束了，我可以回去找到一种方法将一切重新组合起来。但后来董事会任命了一位新的临时首席执行官，那一刻我感觉非常糟糕。那是最低谷的时刻。让我告诉你，这非常痛苦，但整个周末我都感受到了如此多的爱。除了周日晚上的那一刻，我没有感受到愤怒或仇恨，而是感受到人们的爱以及对他们的爱。尽管很痛苦，那个周末普遍的情绪是爱，而不是恨。

莱克斯·弗里德曼：

您高度评价了米拉·穆拉蒂，并在推文中提到她在重要、平静的时刻特别有帮助。绕一点路也许是个好主意。你最欣赏米拉的什么？

萨姆·奥特曼：

在那个周末的混乱中，她的表现令人钦佩，但无论好坏，人们往往会关注领导者在危机时刻的表现。但对我来说真正重要的是，在一个平凡的周二早上9 点46 分，在平凡、无聊的日常生活中，领导者如何行事。人们参加会议的频率以及他们做出的决策的质量。这就是我所说的“沉默时刻”。

莱克斯·弗里德曼：

大多数工作进展缓慢，日复一日，一次又一次的会议。只要保持专注并做出正确的决定即可。

萨姆·奥特曼：

是的，你知道，我想用最后20 分钟来讨论——。我知道—— 是关于那个非常戏剧性的周末，但这不是OpenAI 的目的。 OpenAI 真正专注于剩下的七年。

莱克斯·弗里德曼：

是的。尽管人类文明已经超越了纳粹德国入侵苏联，但仍然是特别关注的焦点。

它为我们提供了一扇了解人性的窗口，包括人性的极端。或许在那一刻，人类文明的一些破坏和伟大成就就会显露出来，非常具有启发性。

第2 部分：Ilya Sutskever 在哪里？Lex Fridman：

我可以问你一个关于伊利亚的问题吗？他是在秘密核设施中被扣为人质吗？

萨姆·奥特曼：

不

莱克斯·弗里德曼：

那么普通的秘密基地呢？

那么非保密核设施呢？

萨姆·奥特曼：

绝对不

莱克斯·弗里德曼：

这件事已经变得有些成谜了。你认识伊利亚很长时间了，对吧？他显然卷入了那场董事会争议。你们现在关系怎么样？

萨姆·奥特曼：

我非常爱伊利亚并且非常尊重他。我现在不能透露他的计划。由他来回答这个问题。但我真的希望我们能够继续合作，至少在我余下的职业生涯中。他比我年轻一点，所以他工作的时间可能比我长。

莱克斯·弗里德曼：

有一个著名的笑话说他看到了一些东西，显然是AGI，而这个事件让他充满了焦虑。以利亚看到了什么？

萨姆·奥特曼：

伊利亚从未见过通用人工智能（AGI）。我们当中还没有人。我们甚至还没有创造出通用人工智能。但伊利亚有很多我钦佩的品质，其中之一是他非常认真地对待人工智能的总体问题及其更广泛的安全性，包括它对社会的潜在影响。我们继续取得巨大进展，但过去几年我大部分时间都在与Elijah 讨论这意味着什么以及如何正确行事以确保我们完成我们的使命。都花在讨论需要做什么。因此，尽管Ilya 从未见过AGI，但他的深思熟虑和关心确保我们走在正确的轨道上并顺利完成这一过程，这对人类做出了宝贵的贡献。

莱克斯·弗里德曼：

到目前为止，我和他有过几次互动。我总觉得他在谈论技术时有一种长远的心态。他从首要原则出发思考，想象10 年后会发生什么，而不是一年内会发生什么。这种心态为我考虑所有安全问题奠定了坚实的基础，并使我与他的对话非常有趣。你知道他为什么这些天很少说话吗？他是在进行一些心灵深处的思考吗？

萨姆·奥特曼：

再说一遍，我不是在谈论伊利亚。我觉得你应该问他本人。他绝对是一位有深度的思想家。我认为伊利亚一直以非常积极的方式探索他的灵魂。

莱克斯·弗里德曼：

是的。他真正理解沉默的吸引力。我听说他其实是一个很有趣的人，但我一直没有机会亲眼目睹他的那一面。

萨姆·奥特曼：

当这种情况发生时，感觉非常甜蜜。

莱克斯·弗里德曼：

我还没见过巴凯利亚，但我很期待那一天的到来。

萨姆·奥特曼：

我最近和他一起去参加一个晚宴，他正在和一只小狗玩耍，他有一种非常轻松、顽皮的氛围，我真的很喜欢。那一刻我想，“哇，这就是以利亚在外界很难看到的一面。”

莱克斯·弗里德曼：

那么，您对整个事件的董事会组成感到满意吗？

萨姆·奥特曼：

是的

莱克斯·弗里德曼：

……你对此有何看法以及接下来会发生什么？

萨姆·奥特曼：

我对新董事会的成立感到非常高兴。当谈到OpenAI 的架构时，董事会的职责之一是考虑如何使该结构更具弹性。我们的首要任务是确定新的董事会成员，很明显，在此过程中我们对组织结构的理解有了显着提高。我认为我没有什么特别深刻的见解。这是一次非常令人困惑和痛苦的经历。感觉就像一场奇怪的完美风暴。对我来说，这预示着未来的挑战，因为风险持续上升，需要更强大的治理结构、流程和团队。我很庆幸在我年轻的时候发生过这样的事情，但这实际上是一次非常艰难的经历。

莱克斯·弗里德曼：

这会让你更加犹豫是否要相信别人吗？

亲自？

萨姆·奥特曼：

是的，我认为自己是一个非常可靠的人。我一直坚持的人生哲学是“不要太多担心，不要让偏执的怀疑和极端的可能性困扰你”。这样做的代价是，有时你可能会遭受一些小损失，但作为回报，你可以过上放松警惕的生活。然而，这件事对我来说确实是出乎意料、措手不及、彻底改变了我。我不喜欢这种变化，但它确实影响了我对人们默认信任的态度以及对潜在不良情况的计划。

莱克斯·弗里德曼：

我们需要更加关注这一点。担心自己过于愤世嫉俗？

萨姆·奥特曼：

我不怕太过愤世嫉俗。我不认为我天生乖张，但我担心我正在失去对他人本能的信任。

莱克斯·弗里德曼：

事实上，我仍然不知道是相信从事通用人工智能开发的人更好还是持怀疑态度更好。你走的那条路很有趣。但说到建筑，我们其实更注重人性的一面。你怎么能让自己周围都是那些正在建造很酷的东西并做出明智选择的人呢？因为你越有钱，这个问题的影响力就越大，你周围的人就越疯狂。

萨姆·奥特曼：

我认为你可以对董事会成员、我应该受到多少重视或者事情应该如何改变提出各种各样的评论。不过，如果您能在这里谈谈我们的团队，我想您会给我们很高的评价。我对每天与我一起工作的人怀有极大的感激、信任和尊重。我认为被这样的人包围是非常重要的。

第3 部分：埃隆·马斯克诉讼莱克斯·弗里德曼：

我们共同的朋友埃隆·马斯克起诉了OpenAI。您认为他的批评的核心问题是什么？他的批评有多少是正确的？有多少人被误解或错误？

萨姆·奥特曼：

我真的不知道这到底是怎么回事。最初，我们只想成为一个实验室，并不知道这项技术的未来会是什么。现在已经记不清了，因为那是七八年前的事了，但当时语言模型还不是热门话题。我没有考虑过开发API 或出售聊天机器人的访问权限。我从来没有想过将其商业化。我们想，“让我们做一些研究吧。我们不知道如何处理结果。”当我们探索全新的事物时，我认为我们总是在水中摸索并提出几个假设.但大部分结果都出来了。那是错误的。

然后我们意识到我们需要做一些不同的事情，但这需要大量的资金。所以我们想，“目前的结构显然不合适。我们如何改进它？”我们做了一些调整，结果至少可以说是令人惊讶的。但我们觉得我们每一步都做出了正确的决定。然而，如果我有机会回到过去并有一位先知在我身边，那并不意味着我会做任何完全不同的事情。但当时我们还没有先知。无论如何，我真的不知道埃隆的真正动机是什么。

莱克斯·弗里德曼：

在OpenAI 的博客文章中，他们的回应重点是为什么他们认为我们不应该继续使用完整版本的GPT-3 API。他们担心该模型可能被滥用，并认为现阶段需要加强监管和提高透明度。此外，他们还谈到了对人工智能长期影响的责任感，并表示愿意与其他机构合作，确保人工智能的使用安全和有益。

萨姆·奥特曼：

哦，我之前提到埃隆表达了一系列的情绪。这是我们的声明，也可以不是我们的声明。这是对所发生事情的解释。我们尽量不把事情看成是针对个人的，只是说：“这是历史。”

莱克斯·弗里德曼：

我认为埃隆误解了你刚才提到的，即你当时面临着多少不确定性。你们只是一个小研究团队，热情地谈论通用人工智能，当时每个人都认为这个想法很愚蠢。

萨姆·奥特曼：

不久前，埃隆曾激烈地谈论火箭发射，当时每个人都在嘲笑这个想法，所以我认为他会对此更加同情。

莱克斯·弗里德曼：

我认为其中有个人因素。这其中有一些个人因素，因为OpenAI 和这里的许多优秀人士已经决定与埃隆·马斯克分道扬镳-

萨姆·奥特曼：

埃隆选择离开

莱克斯·弗里德曼：

你能告诉我更多吗？什么情况下你会选择分手？

萨姆·奥特曼：

他觉得OpenAI 失败了。他想要完全控制以挽救局面。但我们希望继续朝着OpenAI 当前的方向前进。他还希望特斯拉致力于AGI（通用人工智能）项目。他在不同的时期有不同的想法，包括将OpenAI变成一家他可以控制的商业公司，并与特斯拉合并。我们无法达成一致，所以他决定离开，这很好。

莱克斯·弗里德曼：

所以你的意思是，正如那篇博客文章中提到的，他希望OpenAI 成为像特斯拉收购那样的东西，也许有点像微软，或者更戏剧化的东西。这意味着它有一定的形状。

萨姆·奥特曼：

我记得，就是这个提议，就是从特斯拉手中收购，然后让特斯拉完全控制。我相信这就是这个提议的意义。

莱克斯·弗里德曼：

Elon，当时OpenAI 中的“开放”对您来说意味着什么？Ilya 已经在我们的电子邮件交流中讨论过这个话题。当时这对你来说意味着什么？现在这意味着什么？

萨姆·奥特曼：

想想看，如果我能带着“Oracle”回来，我确信我会选择一个不同的名字。 OpenAI 正在做很多事情，但我认为其中最重要的是将强大的技术作为公共物品免费交到人们手中。我们的服务不提供ads——

萨姆·奥特曼：

作为我们公共利益的一部分，免费版本不会投放广告或通过其他方式赚取收入。我们的出发点是使命——：让人们免费访问日益强大的工具并让他们使用它们。我们认为这种开放性对我们的愿景很重要。如果我们能够提供出色的工具，人们可以学习如何使用、自学并使用这些工具为彼此建设更美好的未来，那就太好了。因此，如果我们能够继续为世界提供免费或低成本的强大人工智能工具，我们将极大地推进我们的使命。至于要不要开源，我觉得有些东西应该开源，有些东西不应该开源。尽管这个问题往往是一场信仰之战，很难保持中立，但我们认为找到平衡点才是正确的做法。

雷克斯自由