【人工智能】吴恩达Andrew Ng与Ark Invest八月最新访谈 | 看好Agentic Workflow | AI发展远没到瓶颈 | 训练和推理成本将大幅下降 | 开源比闭源优势更大
Summary
TLDR在这段视频中,大飞分享了吴恩达博士对AI产业发展的乐观看法。尽管美股科技板块近期表现不佳,吴恩达认为AI的潜力远未达到上限。他强调,AI产品面临的主要挑战在于执行而非设计,产业链的不完善是限制AI发展的主要因素。吴恩达对Agentic Workflow技术充满期待,认为快速推理能力的提升将是推动AI应用的关键。他还讨论了开源与闭源模型的商业价值,强调开源对创新的重要性。最后,他提醒AI市场存在潜在风险,但对2030年AI软件市场的预测非常乐观。
Takeaways
- 📉 美股科技板块在七月表现不佳,英伟达等公司股价全线下跌,引发对AI泡沫的讨论。
- 🧐 吴恩达博士认为AI产业规模远未达到上限,技术层面风险不大,主要挑战在于执行。
- 🤖 AI产品发展受限于产业链问题,如GPU价格和人才储备,许多有潜力的项目尚未落地。
- 🔍 吴恩达看好AI Agent或Agentic Workflow技术,认为其能显著提高AI应用的准确性。
- 🔄 Agentic Workflow面临技术瓶颈,需要更快的推理能力以支持迭代过程。
- 💡 ARK Invest报告支持吴恩达观点,预测训练和推理成本将大幅下降,推动AI应用创新。
- 🛠️ 吴恩达分享Agent在面对失败时能够自主切换到备用方案的优势案例。
- 🚀 吴恩达认为提高快速推理能力比模型迭代更重要,这将改变客户体验。
- 🔧 MLOps领域正在探索构建、部署和维护大语言模型的新方法。
- 🌐 开源与闭源的竞争中,吴恩达认为开源更有利于推动创新和AI技术的发展。
- 💡 吴恩达对AI产业的未来持乐观态度,预计到2030年AI软件市场将达到13万亿美元。
Q & A
吴恩达博士对当前AI产业的发展持何种看法?
-吴恩达博士认为AI产业的发展还未达到上限,他认为技术本身已经成熟,当前面临的主要挑战是产业链兼容性和硬件限制等问题。
吴恩达博士如何看待AI遇到瓶颈的说法?
-吴恩达博士认为AI遇到瓶颈的说法是错误的。他指出,过去10到15年里,每次有新大模型发布时,这种说法都会被证明是错误的。
什么是Agentic Workflow,吴恩达博士如何评价它?
-Agentic Workflow是一种迭代工作流程,类似于人类写作的过程,能够显著提高AI应用的准确性。吴恩达博士认为这种流程有助于解决很多AI技术中的问题,并对其未来发展充满信心。
吴恩达博士认为快速推理能力对AI的未来发展有何重要性?
-吴恩达博士认为快速推理能力是目前AI应用的瓶颈之一,提升推理速度将显著改善用户体验,并推动下一波AI应用的发展。
MLOps在AI产业中的作用是什么?
-MLOps是构建、部署和维护大语言模型的关键技术领域,推动了AI堆栈的巨大变化。吴恩达博士认为MLOps将推动更多的AI应用落地。
在开源与闭源之间,吴恩达博士更倾向于哪种模式?
-吴恩达博士更倾向于开源模式,他认为开源有助于推动全球AI技术的创新,并对社会产生积极影响。
吴恩达博士对未来的大模型发展有何期待?
-吴恩达博士期待未来的大模型,如GPT-5,将比现有的模型更强大,但他同时认为,模型的实际表现还需依赖具体的应用场景和附加组件。
吴恩达博士认为AI产业在未来可能面临哪些风险?
-吴恩达博士认为AI产业可能面临产业链发展的瓶颈和文化变革的缓慢影响,这可能会影响中小模型企业的生存。
吴恩达博士如何看待Meta在AI领域的开源策略?
-吴恩达博士认为Meta的开源策略非常聪明,因为它避免了依赖竞争对手的封闭平台,有助于Meta在社交网络和通信业务中保持竞争力。
根据吴恩达博士的观点,AI市场未来的发展潜力如何?
-吴恩达博士乐观地认为AI市场将快速发展,他引用ARK的预测称,到2030年AI软件市场将达到13万亿美元的规模,相比今天的IT支出有大幅增长的空间。
Outlines
📉 美股科技股大跌与AI产业前景
在2024年7月,美股科技板块经历大跌,英伟达等公司股价全线飘绿,引发外界对AI是否仅为泡沫的质疑。然而,吴恩达博士认为AI产业规模远未达到上限,他认为AI产品的主要挑战在于执行而非设计。吴恩达与ARK Invest的查理·罗伯茨和首席未来学家布雷特·温顿的对谈中,强调了Agent Systems的技术成熟度和AI产业的发展瓶颈,如GPU价格和人才储备问题。他指出,AI项目因硬件限制等原因未能落地,但一旦这些问题解决,AI产业将迎来更多项目落地和技术创新。
🛠️ AI技术发展与Agentic Workflow的潜力
吴恩达博士在对谈中提出,AI技术的发展不应被看作是遇到瓶颈,而是整个产业链需要进一步发展。他特别提到了Agentic Workflow的概念,这是一种迭代的工作流程,类似于人类的写作过程,能够显著提高AI应用的准确性。尽管存在技术瓶颈,如推理速度,但吴恩达认为随着硬件的改进,这些问题将得到解决。他还分享了一个Agent在演示中自主解决问题的例子,展示了Agentic Workflow面对失败时的自我修复能力。
🔧 MLOps与AI应用的未来
在讨论MLOps时,吴恩达博士认为推理与训练可能会分成两条不同的发展路径。他指出,构建、部署和维护大语言模型是一个新兴领域,AI堆栈正在经历巨大变化。云服务提供商和企业正在开发基于编排层的应用,而Agentic Framework等框架的出现将推动更好的AI应用发展。吴恩达强调了在应用层面存在大量新机会,竞争不如基础模型层激烈。他还讨论了模型选择、开发成本和时间的缩短,以及开源与闭源模型的商业价值和战略意义。
🚀 AI产业的未来发展与挑战
吴恩达博士对AI产业的未来持乐观态度,他提到ARK预测到2030年AI软件市场的收入将达到13万亿美元。尽管AI技术在工业自动化中的应用正在加速,但社会和文化层面的变革可能会非常缓慢,这可能对中小模型企业构成风险。吴恩达认为,尽管AI技术不断进步,但公司仍需根据具体应用选择合适的模型并添加额外组件以提升专业能力。他还提到了Meta开源模型的商业逻辑,并期待看到GPT-5的发布,同时指出即使是更先进的模型,Agentic Workflow的应用也能带来显著的改进。
Mindmap
Keywords
💡AI
💡Agent Systems
💡AI Agent
💡MLOps
💡大模型
💡GPU
💡Agentic Workflow
💡开源
💡闭源
💡推理成本
💡迭代
Highlights
美股科技板块在七月遭遇重挫,英伟达等科技股全线下跌,引发AI泡沫论的重新抬头。
吴恩达博士认为AI产业规模远未达到上限,与ARK Invest的查理·罗伯茨和布雷特·温顿展开深入对谈。
吴恩达认为AI产品的主要挑战在于执行而非设计,Agent Systems技术层面风险低。
过去10~15年AI瓶颈论被不断证明错误,吴恩达对2024年仍有此类言论表示惊讶。
AI产业发展的担忧点在于GPU价格和人才储备,许多潜力项目因硬件限制未能落地。
吴恩达看好AI Agent和Agentic Workflow技术,认为其能显著提高AI应用的准确性。
Agentic Workflow面临技术瓶颈,需要更快的推理能力以支持迭代过程。
ARK Invest报告支持吴恩达观点,预计训练和推理成本将大幅下降,推动AI应用。
Agentic Workflow能修复自身错误,吴恩达分享斯坦福演示中Agent自主切换备用方案的成功案例。
吴恩达认为快速推理能力的提升比模型迭代更重要,对AI应用有显著影响。
MLOps推动下,吴恩达认为推理与训练可能分成两条赛道,AI堆栈正在变化。
吴恩达看好大语言模型的软件应用领域,认为应用层面新机会多,竞争不激烈。
吴恩达讨论了应用层面公司接入基础模型的策略,包括选择模型和微调。
吴恩达认为开源模型的商业价值得到验证,Meta的PyTorch策略是成功案例。
吴恩达对开源持积极态度,认为开源对全球AI技术供应链至关重要。
吴恩达期待GPT-5的发布,但同时认为Agentic Workflow带来的改进可能超越模型本身。
AI市场潜在风险包括社会和文化变革的缓慢,可能影响中小模型企业的生存。
ARK预测到2030年AI软件市场将达到13万亿美元,远超当前IT支出。
Transcripts
大家好,这里是最佳拍档,我是大飞
今年七月
美股的科技版可以说是哀鸿遍野
七大奇迹全都在跌
英伟达更全线飘绿
这样的惨状让AI只是泡沫的言论重新抬头
高盛等老牌投行纷纷看衰
不过,在吴恩达博士的眼中
AI的产业规模还远远没有达到上限
近日
吴恩达(Andrew Ng)与 ARK Invest 首席投资策略师 查理·罗伯茨Charlie Roberts
以及首席未来学家 布雷特·温顿Brett Winton
展开了一次对谈,在他看来
Agent Systems不仅已经出现
而且在技术层面几乎没有太多的风险
如今
AI产品的主要挑战在于执行而不是设计
作为AI 领域最具影响力的科学家和教育家之一
吴恩达的这次对谈含金量还是很高的
今天大飞就来分享一下这次访谈的内容
这场访谈的核心
自然是AI的发展问题
毕竟,总有人说 AI 遇到了瓶颈
我们在性能上的进步不会带来实际的生产力提升
而在吴恩达看来
这些言论只是无聊的复读机
在过去的 10~15 年里
总有少数声音在说 AI 遇到了瓶颈
而这些说法随着一个又一个大模型的发布
都已经被证明是错误的
吴恩达很惊讶,都2024年了
居然还有人把AI瓶颈的问题当真
被打脸的次数还不够多吗?
比起AI技术本身
其实整个AI产业的发展进度才是需要担忧的问题
比如说GPU的价格
或者说足够的人才储备
吴恩达与一些想要甚至是已经开发出大模型的人交谈过
他们当然都希望通过 AI 实现显著的投资回报率
但是他们的模型开发由于各种原因被卡住了
比如无法获取 GPU
或者他们没有足够的软件工程师来实现这些想法
所以很多有潜力的项目还没有真正的落地
在吴恩达看来,AI 缺的不是技术
而是缺乏兼容技术的产业链
已经有很多经过验证的想法可以带来显著的投资回报率
但是由于硬件限制或其他原因
整个项目都无法被部署
一旦这些问题得到解决
更多的项目就将会落地
吴恩达对即将到来的技术感到非常兴奋
比如 AI Agent 或我们称之为 Agentic Workflow 的技术
现在很多人使用大语言模型 的方式是
你输入一个提示
它输出一个结果,然后就结束了
这就像让一个人写一篇文章
但是要求他一次性完成
不允许使用退格键
这其实和人类的写作流程完全不同
我们最好的写作并不是一锤子买卖
而是更倾向于使用迭代的工作流程
比方说先写一个初稿
然后再进行编辑、研究等等
这样的流程产出的文字作品显然会更好
Agentic Workflow也是这样的一个迭代的过程
与写作类似
这样能显著提高很多 AI 应用的准确性
当然了
Agentic Workflow 确实也面临着一些技术瓶颈
吴恩达表示
我们需要更快的推理能力
因为你需要多次调用它
反复迭代产品
不过,吴恩达觉得
这只是个时间上的问题
随着更好的硬件上线
研究人员就可以进一步推进AI推理相关的研究项目
ARK Invest 的报告也支持了吴恩达的想法
他们估计训练成本将每年下降 75%,
推理成本每年下降 86%。
虽然只是一个估算
但是吴恩达确实看到成本在迅速下降
这对于进一步的创新是非常有利的
他认为训练和推理成本的下降将会推动更多的应用
当然了
Agentic Workflow也不是魔法
就如同 John Locond 所说的
任何系统在运行的时候都会有一定的错误率
即使是 Agent Systems也不例外
这就导致实际上你正在处理的工作流程越长
生产力就越会受到影响
而 Agentic Workflow的优势在于
它可以在一定程度上修复自己的错误
吴恩达分享了一件趣事作为证据
之前他在斯坦福大学现场演示模型的时候
由于某些原因
调用的网络搜索失败了
吴恩达当时就心想“糟糕
演示要失败了”。
但是,出乎他意料的是
Agent救了场
它 说“网络搜索失败了
让我用维基百科搜索代替吧”,
而吴恩达自己都忘了还给它设置了维基百科搜索的备用方案
最后演示大获成功
这个案例就体现出
Agent 在面对失败的时候
能够自主切换到备用方案的优势
吴恩达希望能够进一步扩大这个优势
为了达到这个目的
Agentic Workflow还需要进一步的升级
对于Agentic Workflow的未来发展
吴恩达觉得
提高快速推理的能力比模型迭代更重要
他表示Agentic Workflow 在现有的 Transformer 模型下已经工作得很好了
虽然我们肯定会搞出更好的模型
但是这不是Agent 升级的必要条件
吴恩达更加看重快速推理和快速生成的能力
他认为
快速推理的能力正成为许多应用的瓶颈
对于人类来说
阅读速度大约是每秒 6 个 token
所以你不需要生成比每秒 6 个 token 更快的内容
但是对于 Agentic Workflow 和 AI 来说
情况就复杂得多
比方说这些AI可能需要起草一份草稿
然后修复其中的错误
这意味着它需要在短时间内生成大量的 token
有时
Agentic Workflow 可能需要花费 25 分钟的时间来处理工作
如果我们能将这 25 分钟的处理时间压缩到2分钟
这将是一个改变游戏规则的突破
推理速度的提升将会显著改变客户体验
比如从20到25分钟缩短到1到2分钟
因此在快速生成 token 方面还有很多工作要做
这将有助于推动下一波 AI 的应用
谈完了Agentic Workflow
罗伯茨将话题转移到了 MLOps
这也是吴恩达最突出的教育贡献之一
主持人很好奇,在MLOps的推动下
推理与训练有没有可能分成两条赛道?
对此,吴恩达给出了肯定的答复
他认为
LLMOps这个领域还在探索阶段
如何构建、部署和维护大语言模型 仍然是一个相对新的领域
AI 堆栈正在发生巨大变化
而云服务提供商正在推出对应的编排层
不少和企业又可以根据这些编排层开发一些有趣的应用
现在
Harrison Chase就在 LangChain搞编排层
除了编排层
另一个即将出现的有趣框架是 Agentic Framework
这点吴恩达没有细说
但是这两种框架最终导向的
都是更好的AI应用
吴恩达表示
他最近花了很多时间在大语言模型的软件应用上
这个领域目前几乎没有竞争对手
他觉得
这说明在应用层面仍然有很多新机会
而且竞争没有基础模型层那么激烈
对于那些应用层面的公司
他们不仅需要思考如何将自己的软件接入基础模型?
还需要考虑使用哪种模型
是只接入现成的 GPT-4
还是说设计成能够可以在多个模型切换的形式?
又或者对Llama 进行微调?
这些都是需要评估的关键点
吴恩达表示,在未来的模型开发领域
开发成本和时间都会比以前大幅缩短
公司完全可以做到在一天内构建出一个有吸引力的应用程序
在这种情况下
模型的评估可能需要花费更多的时间
而对于有能力自己开发模型的大公司而言
情况又所有不同
这些大公司可能需要面临更高层次的斗争
比如开源和闭源的竞争
罗伯茨 就担心
像Meta 那样的大公司
投下数十亿美元训练这些模型并将它们公开发布的努力
是否会削弱封闭的基础模型类玩家的经济效益?
又是否会对 OpenAI 和 Anthropic 等公司的商业盈利能力构成威胁?
在吴恩达看来
想靠闭源保持领先地位是相当困难的
在如今的AI领域
各个公司之间的人才流动和想法传播仍然很强烈
多少前OpenAI的大佬都跳槽去了Anthropic
在这种情况下
企业很难靠闭源长期保守住秘密
闭源公司可能会在短期内获得一些优势
但是长期来看
防御性的作用不大
而开源带来的好处明显然比闭源的短期优势更重要
吴恩达觉得,我们应该尽力推动开源
因为它会让世界变得更好
他对去年反对开源的强烈游说活动感到非常惊讶
这些活动实际上会扼杀美国的创新
也会压制全球的创新
开源是全球 AI 技术供应链的一部分
它反映了各国的价值观
例如,很多国家都使用 Google Docs
而 Google Docs 在共享文档时非常容易
但是它在锁定文档时相对较难
这反映了 Google 内部的开放文化
而 iMessage 的端到端加密则反映了注重隐私的价值观
每个国家的技术往往会反映其价值观
如果民主国家不参与 AI 的供应链
那么其他国家将会填补这一空白
哪怕抛开国家层面的大战略,只聊钱
开源模型的商业价值也通过Meta得到了验证
吴恩达表示
Llama 开源的商业逻辑并不神秘
实际上
Meta 在开发 PyTorch 的时候也采取了类似的策略
Meta 意识到自己需要一个开源的平台来构建业务
而不是依赖于竞争对手的专有平台
比如 TensorFlow
当你意识到主流的深度学习开发平台可能会被竞争对手所控制时
Meta 的做法非常聪明
Meta 没有试图拥有这个平台
而是创建了开源的 PyTorch
随后它获得了大量的动能
并且大大降低了被其他人控制深度学习平台的风险
由于 Meta 并没有运营大型云业务
因此它只需要一个开源的平台
来构建社交网络和通信业务
从商业角度来看
Meta 确保有一个开源的基础模型和生态系统是非常理性的
因为这样一来
Meta 就可以在自己的平台基础上构建模型
而不必担心依赖于其他的封闭平台
不过,话又说回来
开源模型也不是吴恩达博士唯一的期待
他也很看好OpenAI
在访谈中
他很期待看到 GPT-5 的发布
并且确信它将比 GPT-4 更强大得多
但是,吴恩达也相信
GPT-5 仍然会有很多事情做不到
他的团队做了一个小研究
表明在编码问题上
使用 Agentic Workflow 的 GPT-3.5 与的GPT-4 相比
GPT-3.5 的表现其实更好
所以
虽然从 GPT-3.5 到 GPT-4 的进步非常令人兴奋
但是使用 Agentic Workflow 带来的改进实际上超过了这个进步
因此,哪怕有了更好的大模型
公司依然需要根据具体的应用来选择适合的模型
再添加对应的额外组件
来提升模型的专业能力
虽然吴恩达并不担心OpenAI之类的大公司在开发速度上会出什么岔子
但是,AI市场依然有它潜在的风险
吴恩达表示
AI给社会带来的转变会需要很长时间
就目前而言
深度学习和 AI 浪潮
更多的是在影响工业自动化的重复性任务
而不是像科幻作品中
遍及社会各行各业的通用人工智能AGI
当AI涉及文化变革和内部管理的变革时
这种转型也许会出人意料地缓慢
这可能会拖垮不少中小模型企业
吴恩达认为这确实是一个难以规避的风险
好了
以上就是吴恩达博士本次访谈内容
吴恩达的乐观看法也不是空穴来风
ARK就预测
到 2030 年 AI 软件将会是一个 13 万亿美元的收入市场
相比之下
今天的整个 IT 支出大约为 4~5 万亿美元
作为一个市场化还不到五年的新产业
AI产业的未来犹如一条见首不见尾的神龙
每个人都在努力抓住一丝未来的可能
为自己博取最大的利益
大家是如何看待AI产业的未来的呢?
欢迎在评论区留言,感谢大家的观看
我们下期再见
Browse More Related Video
《與楊立昆的對話:人工智能是生命線還是地雷?》- World Governments Summit
In conversation with the Godfather of AI
AI and Quantum Computing: Glimpsing the Near Future
NVIDIA黃仁勳給年輕人的忠告!你要面對的世界將是這樣子的!不看真的會後悔!
【人工智能】2027年将会实现AGI | 约翰·舒尔曼最新访谈 | OpenAI联合创始人&首席架构师 | 大模型训练 | RLHF | 技术瓶颈 | 模型蒸馏 | AI监管
Ilya Sutskever | The birth of AGI will subvert everything |AI can help humans but also cause trouble
5.0 / 5 (0 votes)