截至今天2023年11月21日，OpenAI内部发生的一系列动荡依旧在持续，尤其是围绕前CEO Sam Altman的是否回归。在这场动荡中，一个显著的特点是绝大多数员工(高达95%)的联合行动，他们不仅支持Altman，还要求新任CEO Emmett Shear(原Twitch CEO)下台，甚至愿意为此集体辞职。这种强烈的团结态度表明，员工们对公司的未来和领导层的选择有着深刻的关注和坚定的立场。
同时，知名人工智能专家吴恩达的公开支持Sam Altman，以及对董事会无任何理由辞退CEO的谴责，所以这些在进一步加剧了OpenAI这场动荡，关于最后整个动荡将要什么时候以及如何结束，所有人都不知道，甚至包括Sam Altman自己。
那为什么OpenAI董事会要把Sam Altman公司灵魂式人物开除呢?
今天我们分享The Atlantic 的文章揭秘OpenAI整个混乱的始末：导致 Sam 被开除的混乱，开始于 一 年前 ChatGPT 的发布开除是 OpenAI 内部两种极端意识形态斗争的高潮 - 一个群体(Sam 那一派)诞生于硅谷的技术乐观主义，受到快速商业化的推动;另一个群体深感恐惧，认为人工智能对人类构成生存风险，必须极其谨慎地加以控制。
这篇文章通过描述OpenAI的结构和愿景，以及Sam Altman的角色和最近的变动，提供了对公司内部动态的深入了解。
原文如下：
要深刻理解过去 一个周末里发生的惊人变化——生成式 AI 领域领军人物、OpenAI 首席执行官 Sam Altman 令人意外的被撤职，以及随后有关公司正努力让他复职的报道——我们必须明白，OpenAI 与众不同，并非一般意义上的科技公司。
它不像 Meta、Google 或 Microsoft 这样的互联网时代里程碑式企业。OpenAI 的成立初衷是对抗科技行业常见的某些价值观，如盲目追求规模扩张，以及推出消费产品时采取的先行后考虑的做法。自 2015 年成立以来，作为一个非盈利组织，OpenAI 专注于开发能够“惠及全人类”的人工通用智能(AGI)。AGI 在公司的设想中，将具备超越任何人在“大多数经济价值工作”中的能力，这种影响力巨大的技术需要负责任的管理。因此，OpenAI 更像是一个研究机构或智囊团。其章程明确表示，OpenAI 的首要责任是对人类负责，而非其投资者或员工。这种模式并没有维持太长时间。在 2019 年，OpenAI 开设了一家子公司，采纳了一种“盈利上限”的模式，这使得公司能够筹资、吸引顶尖人才，并最终涉足商业产品的开发。尽管如此，非盈利的董事会依然紧握着全部控制权。这些看似琐碎的公司内部情况对于理解 OpenAI 迅猛崛起及其创始人 Altman 惊人的失势至关重要。Altman 在周五被 OpenAI 董事会解雇，这是公司内部两大意识形态派系——一方是根植于硅谷的技术乐观主义，对快速商业化充满热情;另一方则深陷于 AI 对人类存续构成的风险的担忧，并坚持必须极度谨慎地对待 AI ——之间权力斗争的高潮。这两个观点多年来设法并存，途中不免经历了一些摩擦。这种脆弱的平衡在一年前几乎就在那天被打破，原因是 ChatGPT 的发布，这也是 OpenAI 获得全球知名度的关键。
从外界看来，ChatGPT 是史上最成功的产品发布之一。它的增长速度超过了任何其他消费者应用程序，似乎独立地重新定义了数百万人对自动化威胁和承诺的看法。但它却使 OpenAI 分裂成截然不同的方向，加剧了已有的意识形态分歧。ChatGPT 加速了赢利产品创造的竞赛，同时给公司的基础设施和那些专注于评估及减轻技术风险的员工带来了前所未有的压力。这加剧了 OpenAI 各派系间已然紧张的关系，Altman 曾在 2019 年的一封员工邮件中将其形容为“部落”。
《大西洋月刊》与 OpenAI 的 10 名现任和前任员工的交谈中揭露了一个情况：公司的转型引发了领导层间的不可持续的分歧。(出于对话中员工的隐私考虑，我们选择不公开他们的姓名。他们担忧，如果公开对 OpenAI 内部情况的坦白，可能会面临不利后果。)这些员工的陈述合在一起，展示了一个场景：公司致力于盈利的部门面临着日益增长的商业化压力，这与公司公开宣称的使命发生了冲突，一切在 ChatGPT 及其紧接着推出的产品中达到了高潮。“ChatGPT 推出后，盈利的路径变得明晰，”一位知情人士透露。“那时，再把自己定位为一个充满理想的研究实验室就不再合适了。现在这里有着迫切需要服务的客户。” 关于 Altman 被解雇的确切原因，我们还是一无所知，也不清楚他是否会回到之前的职位。Altman 今天下午前往位于旧金山的 OpenAI 总部，商讨可能的协议，但对我们的采访请求并未做出回应。董事会在上周五宣布，经过深入审查，发现 Altman 在与董事会沟通时并非始终坦诚，因此对他继续担任 OpenAI 首席执行官的能力失去了信心。首席运营官随后向员工发出的一份内部备忘录，经 OpenAI 发言人证实，表明解雇的原因是 Altman 与董事会之间的“沟通断裂”，而非“不法行为或与财务、商业、安全或安全/隐私实践有关的任何问题”。
但具体细节仍然是个谜。我们所能确定的是，过去一年 OpenAI 的状况非常混乱，主要是因为公司发展方向上的明显分歧。在 2022 年秋季，OpenAI 正在为其有史以来最强大的大语言模型 (大语言模型) GPT-4 的发布做最后的准备。此时，团队们正忙于改进这项技术，这项技术不仅能够流畅地撰写文章和编程代码，还能描述图片内容。他们也在努力打造必要的基础设施并完善政策，以决定哪些用户行为是公司可以接受的。就在此期间，OpenAI 内部开始传出有关其竞争对手 Anthropic 正在开发自己的聊天机器人的谣言。这场竞争十分个人化：Anthropic 是由一些在 2020 年离开 OpenAI 的员工组成的，据说他们对公司产品推出的速度感到担忧。到了 11 月，OpenAI 的高层告知员工，他们需要在几周内推出一个聊天机器人，这一消息来自于公司内部的三名员工。
为了实现这一目标，他们指示员工推出一个已有的模型——带有聊天界面的 GPT-3.5。高层小心翼翼地将这一举措描述为“低调的研究预览”，而不是一个正式的产品发布。Altman 和其他高管认为，通过让人们使用 GPT-3.5，OpenAI 能够收集到更多关于人们如何使用和与 AI 互动的数据，这对于 GPT-4 的发展大有帮助。这种做法也与公司逐步发布技术、让公众逐渐适应的更广泛策略相符合。包括 Altman 在内的一些高层开始强调同一个观点：OpenAI 需要启动“数据驱动的良性循环”。一些员工对于公司急于推出新的对话模型感到不安。
由于 GPT-4 的研发，公司已人手不足，难以应对可能改变风险格局的聊天机器人。几个月前，OpenAI 上线了一款用来追踪用户基本行为的新流量监控工具，但这个工具的功能还在完善中。公司正通过这个工具来了解用户如何使用其产品，并据此制定对策，以防止技术被滥用和带来的潜在危险。而另一部分员工认为，把 GPT-3.5 升级为聊天机器人不会带来太大挑战，因为这个模型已经通过了足够的测试和完善。
尽管如此，公司还是在 11 月 30 日推出了 ChatGPT。这个事件进行得非常低调，以至于很多不直接参与的员工，包括安全部门的员工，都没意识到它的发生。一位员工透露，一些知情的员工甚至开了一个赌池，猜测第一周有多少人会使用这个工具，最高估计是 10 万用户。OpenAI 的总裁在推特上表示，这个工具在前五天就吸引了 100 万用户。"低调研究预览"这个词很快在 OpenAI 内部流行起来，员工们甚至把它做成了笔记本电脑贴纸。ChatGPT 的巨大成功给公司带来了极大压力。研究团队不得不将计算资源重新分配来应对流量激增。
随着用户不断增加，OpenAI 的服务器屡次崩溃，流量监控工具也屡遭故障。即使工具运行正常，员工们也难以利用其有限的功能来详细了解用户行为。公司内的安全团队呼吁放慢步伐。他们正在努力完善 ChatGPT，使其能够拒绝处理滥用性质的请求，并对其他问题给出更合适的回答。但他们在开发一些功能上遇到了难题，比如自动禁止那些反复滥用 ChatGPT 的用户。与此同时，公司的产品部门则希望趁热打铁，加大商业化的力度。公司迅速扩充人手，聘请了数百名员工来积极推广其产品。
2 月，OpenAI 发布了 ChatGPT 的付费版本;3 月，又迅速推出了一个 API 工具(应用程序编程接口)，帮助企业将 ChatGPT 集成到他们的产品中。紧接着，两周后，公司最终发布了 GPT-4。据当时在公司的三名员工回忆，新产品的推出加剧了问题。流量监控工具的性能严重落后，难以清晰地分辨哪些流量是由 ChatGPT 和 GPT-4 通过新 API 工具集成到的不同产品产生的。这导致理解和阻止滥用变得更加棘手。与此同时，随着用户大量创建账户，API 平台上的欺诈行为急剧增加。他们利用每个新账户附赠的 20 美元预付费服务额度进行牟利。
因此，阻止欺诈成为了紧急任务，目的是减少收入损失和防止用户通过新账户逃避滥用监管。一个规模本就不大的信任与安全团队的员工不得不从处理其他滥用问题转而专注于这一挑战。在这种压力下，部分员工开始出现心理健康问题，而且公司内部沟通效率低下。有时同事们只有在 Slack 上发现某个同事突然消失，才意识到对方已经被解雇。GPT-4 的发布也让那些专注于更深层次人工智能安全挑战的对齐团队感到挫败。
这些挑战包括开发多种技术，确保模型按照用户指令行动，防止其发表有害言论或错误地以自信的态度呈现虚假信息。许多团队成员，尤其是那些对更先进人工智能模型可能带来的存在风险感到担忧的人，对 GPT-4 的快速推出和广泛集成感到不安，认为他们所做的安全工作还不够。这种紧张情绪在公司高层达到了顶点。随着 Altman 和 OpenAI 总裁 Greg Brockman 不断推动商业化，公司的首席科学家 Ilya Sutskever 对于 OpenAI 是否还能坚守其创造有益 AGI 的非营利使命越来越担忧。
在过去几年中，OpenAI 大语言模型的快速进步使 Sutskever 更加确信 AGI 的出现指日可待，并因此更加专注于预防其可能带来的危险。据他在多伦多大学的博士导师、AI 先驱 Geoffrey Hinton 透露，他一直与 Sutskever 保持着密切联系。(Sutskever 没有回应置评请求。) Sutskever 开始表现得像一个精神领袖，他经常重复“感受 AGI”的口号，暗示公司即将实现其最终目标。在 OpenAI 2022 年的假日派对上，该派对在加州科学院举行，Sutskever 带领员工高呼“感受 AGI!”这个短语非常流行，甚至在 Slack 上特别为此创建了一个表情符号。随着 Sutskever 对 OpenAI 技术力量的信心逐渐加深，他也越发支持公司内那些关注存在风险的团队。
今年在一次领导层活动中，据两位知情人士透露，Sutskever 特别委托一位本地艺术家创作了一个木制雕像，以象征那些“未对齐”(不符合人类目标的)AI。他将其点燃，这代表了 OpenAI 对其创立初衷的坚守。7 月份，OpenAI 宣布成立一个名为“超级对齐”的研究团队，由 Sutskever 联合领导。OpenAI 计划扩大对齐团队的研究范围，发展更多前沿的 AI 安全技术，并专门投入公司 20% 的计算芯片资源，以应对本十年可能出现的全面通用人工智能(AGI)。同时，公司其他部门继续推陈出新。在超级对齐团队成立后不久，OpenAI 推出了功能强大的图像生成器 DALL-E 3。
这个月初，公司举行了首次“开发者大会”，Altman 在会上发布了 GPTs，这是一种可以无需编程即可构建的 ChatGPT 定制版。然而，这些新产品也遭遇了重大挑战：根据公司公告，OpenAI 经历了一系列服务中断，其中包括 ChatGPT 及其 API 的大规模宕机。大会结束三天后，据 CNBC 报道，由于安全考虑，微软短暂限制了员工使用 ChatGPT 的权限。在整个过程中，Altman 持续推动公司前进。在他被解雇前的几天，他仍在积极推广 OpenAI 的最新进展。
他向《金融时报》透露，公司已开始研发 GPT-5，并在几天后在 APEC 峰会上暗示了即将揭晓的惊人成果。“就在过去几周里，我有幸亲历一个重大时刻——我们推开无知的面纱，科技发现的前沿再次向前迈进，”他说。“能够参与其中，是我职业生涯中的一大荣耀。”据报道，Altman 正在寻求从软银和中东投资者那里筹集数十亿美元，目的是建立一家能与 Nvidia 和其他半导体制造商竞争的芯片公司，同时为 OpenAI 降低成本。仅用一年时间，Altman 就帮助 OpenAI 从一家研究与发展兼顾的公司转型为一个高速发展的硅谷科技巨头。
在这样的背景下，可以容易理解为何紧张局势会升级。OpenAI 的宪章强调的是原则优先，而不是利润、股东或任何个体。公司的创立部分是由 Ilya Sutskever 代表的那群人推动的，他们对 AI 的潜在风险感到忧虑，他们的观点有时似乎与科幻小说的世界相连。而这些人也是 OpenAI 当前董事会的一部分。但 Altman 也把 OpenAI 的商业产品和筹资活动看作是实现公司终极目标的手段。他对员工表示，公司的模型还在初期阶段，OpenAI 应该通过商业化来创造足够的收入，以便在对齐和安全问题上毫无限制地投入资金;据说 ChatGPT 正在向每年超过 10 亿美元的营收目标迈进。从一方面看，Altman 被解雇可能是 OpenAI 独特结构的一个惊人实验。这个实验现在可能正在颠覆我们所熟知的公司，并影响 AI 的发展方向。
如果 Altman 在投资者的压力和现有员工的反对声中重返公司，这将是对他权力的巨大巩固。这也意味着，尽管有其宪章和高尚的信条，OpenAI 最终可能仍然只是一家传统科技公司。然而，从另一角度看，无论 Altman 是否留下，都不太可能解决人工智能发展中的一个重大隐患。在过去的 24 小时里，整个科技界都在屏息等待 Altman 和 OpenAI 的命运。尽管 Altman 和其他人公开支持监管，并表示欢迎全球的反馈，但这个动荡的周末清楚地展示了，在这个时代最重要的技术进展中，真正有发言权的人有多少。
AI 的未来正被富有的技术乐观主义者、极端的末日论者和数十亿美元的公司之间的意识形态争斗所左右。OpenAI 的命运或许悬而未决，但公司所宣扬的开放性——正如其名——却显示出了其限制。
看来，未来将在幕后决定。
原文链接：
https://www.theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050/
