Inside OpenAI, the Architect of ChatGPT, featuring Mira Murati | The Circuit with Emily Chang

Bloomberg Originals

15 Jun 202324:01

Summary

TLDR这段视频脚本介绍了位于旧金山的热门初创公司OpenAI，该公司开发了聊天机器人Chat GPT和Dolly，引领了一场技术巨头之间的竞争。OpenAI的首席架构师Mira Murati和首席科学家Ilya Sutskever讨论了AI的挑战、战略、以及如何确保模型的可靠性和安全性。他们还探讨了AI的未来，包括与人类的互动、AI在工作场所的影响，以及如何通过“闪电式扩展”快速推进技术发展。此外，还提到了AI可能带来的风险，包括错误信息的传播和AI的“幻觉”问题，以及如何负责任地创新和监管AI技术。

Takeaways

🌟 在旧金山一个不起眼的建筑内，一家全球最热门初创公司正在使人工智能驱动的未来变得前所未有的真实。
🚀 这家公司开发了两个巨大的产品：Chat GBT 和 Dolly，并在市场竞争中击败了最大的科技巨头。
🤖 他们正在探索人工智能的潜力，包括其可能带来的积极和消极影响。
💡 Open AI 的首席架构师 Mira Murati 强调了处理模型的幻觉、真实性、可靠性和一致性的重要性。
🔍 他们意识到在部署策略上的分歧可能导致一些员工离开去创办其他组织。
🛠️ 作为首席技术官，Mira Murati 的职责包括指导团队、思考长期战略、发现缺口，并确保团队得到成功所需的支持。
📈 Chat GPT 的发布是一个重要的决策时刻，团队决定利用公众反馈来改进技术并提高公众意识。
📊 该技术迅速成为历史上增长最快的科技产品，其受欢迎程度超出了团队的预期。
🧠 人工智能的能力来自于在大量数据上训练的大型神经网络，随着模型和数据的增加，它们的功能也变得更加强大和可靠。
🔑 Open AI 正在探索不同于传统搜索引擎的信息理解方式，提供更直观的搜索体验。
💼 随着人工智能的不断发展，一些工作将会消失，同时也会诞生新的工作，比如提示工程师（prompt engineers）。
🌐 人工智能的发展正在硅谷引发一场淘金热，风险投资家们正在向人工智能初创公司投入大量资金。
🤝 尽管存在分歧，但 Open AI 的创始人之一 Elon Musk 和其他科技领袖仍然保持着良好的关系。
🚦 有人担心人工智能的快速发展可能带来风险，包括与人类目标不一致的自主决策能力。
🏁 对于人工智能的未来，Open AI 强调了负责任的创新和对社会影响的深思熟虑。

Q & A

OpenAI 是如何成为世界上最受关注的初创公司之一的？
-OpenAI 通过开发两个非常成功的产品 —— Chat GBT 和 Dolly，并且在市场上击败了最大的科技巨头，从而成为了一个备受瞩目的初创公司。他们通过这种方式启动了一场竞争，迫使所有竞争对手展示自己的实力。
Mira Murati 在 OpenAI 中扮演什么角色？
-Mira Murati 是 OpenAI 的首席架构师，负责公司的战略规划。
OpenAI 的工作环境给人什么样的感觉？
-OpenAI 的工作环境给人一种非常活跃和充满生机的感觉，被描述为有着 Westworld Spa 的氛围，仿佛悬停在空间和时间之中，带有一点未来主义的感觉。
OpenAI 如何处理模型的可靠性和真实性问题？
-OpenAI 专注于处理模型的幻觉、真实性、可靠性和一致性问题。他们通过持续的对话和系统化这些关注点来找到共同点。
当 OpenAI 决定发布 Chat GPT 时，他们的决策过程是怎样的？
-OpenAI 在发布 Chat GPT 之前进行了一段时间的内部测试，并达到了一个点，他们认为可以从人们的使用反馈中受益，了解这项技术的局限性，并开始将其引入公众意识。
Chat GPT 成为历史上增长最快的科技产品，OpenAI 的反应是什么？
-OpenAI 对于 Chat GPT 能够如此迅速地吸引公众的想象力并让人们喜欢与这个 AI 系统互动感到惊讶。
AI 系统如何模仿人类进行写作和编码？
-AI 系统通过在大型超级计算机上训练大量数据的神经网络来实现。训练过程中的目标是预测句子中的下一个词，随着模型的增大和数据的增多，这些模型的能力也会增强，变得更有帮助。
OpenAI 如何看待与 Google 等公司在搜索市场上的竞争？
-OpenAI 并没有打算主导搜索市场，但他们的 Chat GPT 提供了一种不同的理解信息的方式，这种方式比基于关键词的搜索更为直观。
OpenAI 是如何处理 AI 产生的“幻觉”问题的？
-OpenAI 认识到 AI 模型可能会产生“幻觉”，即编造令人信服的内容。他们强调需要意识到不能完全盲目依赖技术提供的输出。
AI 应该在与人类互动时标识自己为人工的吗？
-虽然 AI 是一种不同类型的智能，但区分机器提供的输出和另一个人类之间的区别很重要。随着我们越来越多地与这些机器合作，输出将变成混合的。
OpenAI 如何考虑给那些为 AI 训练数据做出贡献的作家和艺术家回馈价值？
-OpenAI 认识到 AI 的发展可能会导致一些工作丢失和变化，他们正在考虑如何在实践中为互联网上每个人创造的信息进行某种形式的价值回馈。
什么是提示工程师（prompt engineer），他们如何与 AI 工具交互？
-提示工程师是一种新兴的职业，他们擅长选择正确的词汇来引导 AI 工具生成最准确和最有启发性的回答。他们就像是 AI 的“耳语者”，能够通过精确的提示来激发 AI 的潜力。
OpenAI 如何确保其 AI 系统在与儿童等更脆弱群体互动时的安全性？
-OpenAI 认为应该非常谨慎地将强大的系统置于更脆弱的群体面前，并确保有适当的检查和平衡措施，因为这些系统仍然处于早期阶段，我们还不完全了解它们可能对人们产生的影响。
硅谷目前正在经历一场 AI 淘金热，这对未来的科技格局有什么影响？
-风险投资家正在向任何 AI 初创公司投入资金，希望找到下一个大热门。像 LinkedIn 联合创始人 Reid Hoffman 这样的早期 OpenAI 支持者，正在尝试引导社会进入 AI 时代。
Reid Hoffman 如何看待 AI 对未来社会的影响？
-Reid Hoffman 认为 AI 将成为比互联网和移动设备更大的技术平台转变，因为它结合了互联网、移动设备、云计算和数据，使 AI 工作成为可能。
什么是 Blitz 扩展（Blitzscaling），它在 AI 领域中的应用是什么？
-Blitz 扩展是一种在不确定性环境中优先考虑速度而非效率的策略，目的是成为第一个规模化的公司。在 AI 领域，这意味着尽可能快地集成技术到我们的日常生活中。
Elon Musk 对 OpenAI 的看法是什么，他为什么离开了 OpenAI？
-Elon Musk 认为 OpenAI 不再像以前那样开放，他希望它成为一个非营利的对抗 Google 的力量。现在，OpenAI 成为了一个闭源的、追求最大利润的公司，实际上由 Microsoft 控制。
OpenAI 如何平衡其非营利使命和商业化需求？
-OpenAI 通过一个 501c3 非营利组织运行，同时也有一个商业系统，这是为了引入资本主义支持非营利使命，同时确保安全和有益的 AI 发展。
AI 领域是否存在一个类似于“PayPal 黑手党”的网络，影响着技术的发展？
-是的，存在一个由过去几年深度参与 AI 发展的人们组成的网络，他们将对技术的发展产生很大影响。
AI 是否有可能打破现有的大型科技公司的等级制度？
-AI 创造了一波对现有大型科技公司的颠覆，例如在搜索领域，大型语言模型可能会改变用户获取信息的方式。
OpenAI 是否有意向减缓 AI 的发展速度？
-OpenAI 多年来一直在强调这些风险，并认为社会需要应对加速带来的风险，但他们并不打算减缓 AI 的发展。
AGI（人工通用智能）的到来是否是 OpenAI 员工投票决定的？
-OpenAI 员工是否仍然对 AGI 进行投票，这一点不得而知。AGI 的到来还有很长的路要走，目前这些系统还不能自主做出决策或发现新知识。
我们是否应该追求 AGI，人类真的想要它吗？
-社会的进步来自于推动人类知识的发展，但这并不意味着我们应该以粗心和鲁莽的方式进行。我们需要找到指导这些发展的方法，而不是因为潜在的恐惧而突然停止。