【人工智能】2027年将会实现AGI | 约翰·舒尔曼最新访谈 | OpenAI联合创始人&首席架构师 | 大模型训练 | RLHF | 技术瓶颈 | 模型蒸馏 | AI监管

Summary

在这段访谈中，OpenAI的联合创始人约翰·舒尔曼分享了他对人工智能未来的看法。他认为，真正意义上的通用人工智能（AGI）将在三到五年内实现，并将成为人类的助手。舒尔曼讨论了AI训练的现状、技术发展的方向以及未来AI面临的监管问题。他预测AI将能够独立完成编程项目，提高执行多任务的能力，并引入新的任务模式。尽管存在技术挑战，舒尔曼对AI的未来充满信心，并提出了通过强化学习和监管系统来确保AI的安全性和社会正义。他还建议中小企业和个人开发者考虑使用“蒸馏”模型来构建AI系统。

Takeaways

• 🧠 AGI的到来：约翰·舒尔曼预测，真正意义上的AGI将在三到五年内问世，即2027年左右。
• 🤖 AI作为助手：舒尔曼认为AI将始终是人类的助手，技术发展将使其成为更优秀的助手。
• 🔧 AI训练的优化：AI训练是让模型更精确地满足人类需求，未来AI将能更主动地参与和建议项目。
• 🛠️ 编程能力提升：舒尔曼期望AI能独立完成编程项目，自行编写代码，而不仅是提供建议。
• 📈 多任务处理能力：AI的多线程与长时间任务执行能力将得到提高，能长时间编写多个代码文件。
• 🔄 任务模式创新：通过预训练和后训练结合，AI模型将不断改进功能，开拓新的用例。
• 💡 强化学习训练：舒尔曼认为强化学习训练是AI技术发展的关键，将释放AI的长期连贯能力。
• 🔑 心理驱动力：AI表现出类似人类的心理驱动力，追求人类正反馈，具有目标概念和满足感。
• 🔍 学习方式的探索：舒尔曼探讨了上下文学习和大规模训练之间的平衡，以及可能的第三种学习方式。
• 🚧 技术瓶颈与乐观态度：虽然存在技术瓶颈，但舒尔曼对AI的未来充满信心，认为问题将在两到三年内解决。
• 📚 训练数据的挑战：训练数据不足是挑战，但通过泛化和模型规模，AI可以从少量数据中提取功能。
• 🗣️ 聊天功能的改进：AI的聊天功能需要优化，使其更有“人情味”，OpenAI正在改进写作体验。
• 🏢 AI在企业管理中的应用：AI展现出超越人类的管理效率时，需要监察系统来维持AI与人之间的平衡。
• 🌐 监管系统的建立：为防止AI被滥用，需要建立强大的监管系统和社会实验来确保AI的安全使用。
• 📈 中小企业和个人开发者的建议：舒尔曼建议使用“蒸馏”模型来构建AI系统，以降低复杂度和成本。

Q & A

约翰·舒尔曼认为AGI何时能够进入市场？

约翰·舒尔曼预测，真正意义上的AGI将在未来三到五年内问世，人们将在这段时间内见证人工智能的飞跃式发展。

舒尔曼如何看待AI在人类社会中的定位？

舒尔曼认为AI始终是人类的助手，技术发展的方向是让AI成为更优秀的助手，能够更主动地理解并参与到用户的整个项目中。

舒尔曼对AI训练的看法是什么？

舒尔曼解释说，AI训练是对已经从互联网中抓取了足够内容的模型进行针对性的行为优化，以满足人类的需求。

舒尔曼对AI未来的发展有哪些期望？

舒尔曼期望AI能够更像一个乐于助人的同事，能够独立完成整个编程项目，自行编写代码，并提高执行多线程与长时间任务的能力。

舒尔曼如何看待AI模型的进化方向？

舒尔曼预测，在未来五年内，AI模型将向着成为'更好的助手'进化，能够更好地从错误中恢复，处理临界情况，并开拓新的用例。

舒尔曼认为AI技术通往未来的钥匙是什么？

舒尔曼认为长期地进行强化学习训练，通过投入更多的多模态数据与训练成本，是AI技术通往未来的钥匙。

舒尔曼如何看待基于人类反馈的强化学习（RLHF）？

舒尔曼认为在RLHF中，AI表现出了类似人类的心理驱动力，模型'希望'自己的产出得到人类的认可。

舒尔曼如何看待AI模型的局限性和挑战？

舒尔曼承认AI模型存在难以预测的杂项缺陷和局限性，但他相信通过强学习训练，这些问题都可以在两到三年内获得解决。

舒尔曼如何看待训练数据不足的问题？

舒尔曼认为即使在数据有限的情况下，AI也能通过少量示例改善性能，并且对于GPT4级别的大模型，准确地识别需要的功能比单纯的训练资料更为重要。

舒尔曼对AI聊天功能的发展有何看法？

舒尔曼相当关注聊天模型的发展，他认为聊天模型更易于使用，并且展示了一定程度的自省行为，是AI智能的一种体现。

舒尔曼如何看待AI在企业管理中的应用？

舒尔曼认为即使AI展现出超越人类的管理效率，人仍然是人工智能最终行动的驱动力，他建议资本市场需要一套监察系统来维持AI与人之间的平衡。

舒尔曼对于中小企业和个人开发者有什么建议？

舒尔曼建议中小企业和个人开发者可以考虑使用'蒸馏'模型来构建自己的AI系统，以减少模型的复杂度，使得模型易于部署和运行。