【生成式AI導論 2024】第0講：課程說明 (17:15 有芙莉蓮雷)
Summary
TLDR李宏毅教授在《生成式人工智能导论》课程中，分享了开设此课程的初衷，即帮助学生理解生成式AI的全貌和背后原理。他通过ChatGPT展示AI的实用性，并强调了理解AI原理的重要性。课程不要求先修知识，适合初学者，旨在培养学生对AI的深入理解，而非仅仅教会使用特定工具。课程作业将涵盖AI应用开发和模型训练，让学生体验AI技术的实际应用。
Takeaways
- 📚 李宏毅教授开设了《生成式人工智能导论》这门课程，旨在介绍深层式人工智能的原理和应用。
- 🤖 教授通过一个学生提问如何自动对文章分类的例子，引出了使用ChatGPT等生成式AI的便捷性。
- 🔍 ChatGPT可以作为一个强大的助手，通过简单的指令就能执行新闻分类等任务，无需深入学习机器学习原理。
- 🌐 通过展示ChatGPT的操作界面，说明了生成式AI的易用性和强大功能，强调了其作为工具的实用性。
- 🛠️ 课程将教授如何在自己的程序中调用像ChatGPT这样的AI，以嵌入到自己的应用或服务中。
- 🚀 李宏毅教授认为，生成式AI的发展速度非常快，过去需要自己开发和训练模型，现在可以直接使用现成的AI工具。
- 📈 课程不仅介绍ChatGPT，而是提供生成式AI的全貌，包括背后的原理和未来的可能性。
- 👨🏫 课程适合不同背景的学生，无需先修课程，可以作为人工智能领域的入门课程。
- 📝 通过作业，学生将体验使用生成式AI构建应用和训练自己的AI模型，尽管过程可能耗时且结果难以预测。
- 🔮 教授强调了理解AI原理的重要性，比喻为了解魔术背后的手法，能更深刻地欣赏其精妙之处。
- 🎓 课程内容将涵盖从基础概念到最新研究，鼓励学生阅读相关论文以深入了解AI技术的最新进展。
Q & A
李宏毅教授开设生成式人工智能导论课程的初衷是什么？
-李宏毅教授开设这门课程的初衷是因为在教授机器学习课程时，发现许多学生对机器学习的应用感兴趣，但可能并不需要深入了解机器学习的原理。他希望通过这门课程，让学生了解生成式AI的全貌以及背后的原理，帮助他们判断何时应该自己开发模型，何时可以使用现成的人工智能。
为什么李宏毅教授建议想要进行文章分类的学生直接使用ChatGPT而不是学习机器学习原理？
-李宏毅教授认为，如果学生的目标是实现具体的应用，如文章分类，而不是深入理解机器学习的原理，那么使用像ChatGPT这样的现成工具会更高效。这样可以节省时间，直接利用强大的AI能力来满足需求。
ChatGPT在实际应用中可以扮演什么角色？
-ChatGPT在实际应用中可以作为用户的智能助理，帮助完成各种任务，例如自动对文章进行分类，只要用户给出相应的指令和示例，ChatGPT就能根据这些信息进行操作。
如何将ChatGPT的功能嵌入到自己的应用程序或服务中？
-课程的第三次作业会教授学生如何在自己的程序中调用像ChatGPT这样的人工智能，以便将这种智能功能集成到自己的应用程序或服务里。
生成式人工智能导论课程与李宏毅教授之前开设的机器学习课程有何不同？
-生成式人工智能导论课程不专注于教授如何使用特定的工具或技术，如ChatGPT，而是旨在提供生成式AI的全貌和背后的原理。相比之下，机器学习课程更侧重于机器学习的原理和模型开发。
为什么李宏毅教授认为即使学生已经会使用ChatGPT，了解其背后原理仍然很重要？
-了解ChatGPT背后原理可以帮助学生更深入地认识这项技术，避免对其能力有错误的理解和期待。就像知道魔术背后的手法可以让人更欣赏魔术师的技巧，了解AI的原理可以让学生更精准地判断何时应该使用现成的AI工具，何时需要自己开发模型。
课程是否会涉及到如何使用ChatGPT？
-课程不会特别着重于教如何使用ChatGPT，因为ChatGPT的使用非常简单，且网络上已有大量教学资源。课程的重点是教授生成式AI的概念、原理以及未来的可能性。
学生是否需要有人工智能、数学或编程背景才能参加这门课程？
-不需要。这门课程没有预设任何先修要求，可以作为学生人生中的第一堂人工智能相关课程。
课程中的作业难度是如何分布的？
-课程作业的难度会逐渐增加。前两个作业相对简单，基本上是送分题，而后面的作业会涉及到编程和模型训练，难度会更高，需要学生投入更多的时间和精力。
学生在课程中是否会体验到训练模型的过程？
-是的，课程中的作业会让学生体验如何使用生成式AI来构建应用，并且会教授学生如何训练自己的生成式AI模型，让他们了解训练模型可能遇到的挑战，如时间消耗和结果的不确定性。
课程是否会使用外部平台或工具来辅助教学或作业批改？
-会的。课程中会使用CodeLab或Cargo等工具来辅助编程和模型训练，而且作业的批改可能会使用大型语言模型来完成，以提高效率。
Outlines
📚 课程介绍与生成式AI的启示
李宏毅教授在课程开始前介绍了开设生成式人工智能导论课的初衷。自2014年起在台大教授机器学习相关课程，并于2015年开设相关课程。一次课后，有学生询问如何让机器自动对文章分类，教授从机器学习的角度回答了问题，但随后意识到学生可能更关心如何实现文章分类而非学习机器学习原理。于是，教授推荐使用ChatGPT，并解释了ChatGPT的使用方法和功能，展示了如何通过简单的指令让ChatGPT对新闻进行分类。此外，教授还提到了如何将ChatGPT的功能嵌入自己的应用程序中，并强调了这门课程的目的是教授生成式AI的全貌，而不仅仅是如何使用ChatGPT。
🔮 生成式AI的趋势与课程定位
教授强调了生成式AI技术的快速发展，并指出了解这些技术可以帮助更精确地判断何时应该自己开发模型，何时可以使用现成的人工智能。课程的定位是介绍生成式AI的全貌，而不是仅仅教授如何使用ChatGPT。ChatGPT只是一个例子，学习使用它并不需要专门的课程，因为它的使用非常直观。课程的目标受众是已经使用过生成式AI并希望进一步了解其背后原理的人。教授还提到，这门课程不需要任何先修课程，可以是学生的第一门人工智能相关课程。
🎓 课程内容与学习目标
教授介绍了课程内容和学习目标，强调了理解生成式AI背后的概念和原理的重要性。通过学习这些原理，学生可以更深入地理解AI的能力，避免对其有错误的期待。课程与机器学习课程相比，内容差异很大，即使是已经学习过机器学习的学生，也能从这门课程中获益。课程旨在为学生提供人工智能的基础知识，为将来学习更高级的课程打下基础。
🚀 技术发展速度与作业规划
教授讨论了生成式AI技术的快速发展，并用GPT-2模型的发展来说明这一点。通过比较过去和现在的模型大小，强调了技术进步的速度。课程作业的目标是让学生体验使用生成式AI构建应用，并尝试训练自己的模型。教授提到，尽管训练模型可能耗时且结果可能无法预测，但这些体验对于学生未来面对挑战是有帮助的。
🛠️ 作业要求与资源支持
教授介绍了作业的要求和资源支持情况。学生不需要自己准备GPU或其他硬件资源，所有编程和模型训练都将通过CodeLab或Cargo平台完成。教授还对作业难度进行了评估，并提到了作业的截止日期。此外，教授提到了使用大型语言模型来批改作业的计划，并感谢了NTK的达芬奇团队对课程的支持。
🤖 业界分享与课程展望
教授提到了MTK团队将在课程中进行分享，介绍他们如何使用生成式AI以及他们对这项技术的看法。此外，MTK的技术团队也会分享他们开发大型语言模型的经验。这些分享将为学生提供业界视角，增进对生成式AI应用和开发的理解。
Mindmap
Keywords
💡生成式人工智能
💡机器学习
💡ChatGPT
💡模型训练
💡参数
💡GPT-3.5与GPT-4
💡应用嵌入
💡技术发展速度
💡预训练模型
💡CodeLab和Cargo
💡达芬奇平台
Highlights
李宏毅教授开设生成式人工智能导论课程，旨在介绍深层式人工智能的原理和应用。
教授自2014年起在台大教授机器学习相关课程，并于2015年开设了生成式人工智能导论。
学生提出如何让机器自动对文章分类的问题，教授建议使用ChatGPT而非深入学习机器学习原理。
ChatGPT页面简单，只有一个对话框，但功能强大，可作为个人助理。
通过ChatGPT可以轻松实现新闻分类等任务，展示了生成式AI的实用性。
课程将教授如何在自己的程序中调用像ChatGPT这样的人工智能。
教授强调生成式AI技术日新月异，课程旨在教授长期适用的概念和原理。
课程不要求学生有人工智能、数学或编程背景，适合作为人工智能的第一门课程。
了解生成式AI背后原理的重要性，类比于了解魔术背后的手法。
课程内容与机器学习课程有较大差异，即使学过机器学习也能从中获益。
课程作业将教授训练一个70亿参数的模型，体验生成式AI的构建和训练过程。
教授比喻训练模型的过程就像养小动物或种花草，结果可能无法预测。
课程作业将使用CodeLab或Cargo平台，学生无需自备GPU等硬件资源。
课程作业设计包括正面和负面体验，让学生全面理解生成式AI的构建过程。
课程将使用大型语言模型进行作业批改，提高效率并减少教师负担。
NTK团队将分享他们在业界使用生成式AI的经验和看法。
MTK技术团队将分享他们开发大型语言模型的心得和技术细节。
Transcripts
00:00好 那個各位同學大家好啊
00:06感謝大家來生成式人工智慧導論這門課捧場
00:10那我們就開始上課
00:12我是李宏毅
00:14那在開始上課之前呢
00:16我們先講一下
00:18為什麼我會想要開深層式人工智慧導論這門課
00:22那我從2014年開始在臺大任教
00:26然後2015年呢
00:28每年都開機器學習相關的課程
00:31那在去年的春季班
00:33在機器學習這門課的下課後呢
00:36有一個同學來問我這樣一個問題
00:39他問說
00:40怎麼讓機器自動對一篇文章做分類
00:43那這是機器學習的課程
00:45我就從機器學習的角度來回答他
00:48告訴他說這是一個很標準的分類問題
00:51你要先準備一些標注資料
00:53然後你就可以訓練一個自己的模型
00:56講到這邊
00:57我腦中突然想起了一個聲音
01:00我突然獲得了一個天啟
01:02我問他說
01:03你是真的想要學機器學習的原理嗎
01:07還是你只是想要知道
01:10怎麼做到文章分類這件事
01:13你為什麼會想要做文章分類呢
01:15他說
01:16這是我新創需要的服務
01:18那我說你還浪費時間學機器學習嗎
01:21別管我剛才說的那些,直接Call ChatGPT就好了
01:25這句話到底是什麼意思呢?當我說直接用ChatGPT就好的時候
01:31到底是什麼意思呢?
01:33也許我直接操作一下,大家會比較能夠想像
01:40這個是ChatGPT的頁面
01:44那我這邊用的是GPT-3.5
01:48GPT-3.5是免費的
01:50GPT-4是需要付費的
01:52所以我等一下展示的功能
01:54是免費版的功能
01:56是每一個人都可以
01:58唾手取得的功能
02:00那第一次看到這個
02:02ChatGPT的頁面的人啊
02:04往往會不知所措
02:06這個頁面上就
02:08只有一個對話框
02:10那在這個對話框裡面
02:12可以輸入任何的文字
02:14但這樣一個
02:16我們可以跟我們對話的人工智慧
02:19到底有什麼樣的作用呢
02:22我會無聊到需要每天跟ChetGPT說話嗎
02:26我有寂寞到需要跟人工智慧不斷的聊天嗎
02:30可能沒有
02:31所以很多人覺得說
02:33這不過是一個聊天機器人
02:35他能有什麼作用
02:37事實上呢
02:39ChetGBT可以是你的好助理
02:42你有什麼要求
02:44直接告訴他
02:46舉例來說
02:48我們今天想要對新聞
02:50做分類
02:52那你直接把你的指令貼給他
02:54跟他說
02:56新聞就分成以下的類別
02:58那這邊呢就簡單定義一下
03:00新聞分成政治社會財經生活
03:02影視娛樂體育
03:04等等
03:06那接下來呢跟他說以下我會給你一篇新聞
03:08請告訴我這篇新聞屬於哪一類
03:10只給我類別就好
03:12接下來就貼一段新聞的內容給他
03:16比如說這邊
03:17隨便找一個新聞
03:19元宵
03:20逢最小滿月
03:22隨便貼一段新聞給他
03:25就貼在這邊
03:26然後輸入
03:30他就告訴你說這則新聞呢
03:32屬於生活
03:34或者我們再試另外一個例子吧
03:37這邊這個是跟AI有關的新聞
03:42那我們把這段新聞的直接貼到這裡
03:48那GPT知道說這個是影視娛樂
03:56所以你可以輕易的用GPT打造你想要的AI應用
04:02但是有人可能會想說這個是一個demo的網頁啊
04:08我要怎麼把這個功能
04:10嵌入我的應用裡面
04:14嵌入我的服務裡面
04:16那在這門課的作業三會告訴你
04:18怎麼在你自己的程式中
04:20呼叫像ChairGPT這樣的人工智慧出來幫你做事
04:28總之我的想法是
04:29大人時代變了
04:31過去呢
04:32在做這個人工智慧有關的應用的時候
04:35我們往往都是自己開發人工智慧的模型
04:39自己訓練機器學習的模型
04:42這就像是在決鬥的時候用劍一樣
04:44今天有人可以直接掏出一把槍
04:47在瞬間就完成人工智慧的應用
04:51所以也許作為一個人工智慧的基礎的課程
04:56我想要開一門新的課
04:58告訴大家今天這個世界
05:00如果你想做人工智慧相關應用的話
05:03可能是什麼樣子
05:06當然有能力自己開發模型
05:08仍然非常重要
05:10所以並不是說機器學習這門課就不重要
05:13也並不代表我以後就不會開機器學習這門課
05:17那我只是想要告訴大家說
05:19瞭解今天生成式AI的趨勢
05:22瞭解今天生成式AI的技術
05:25發展到什麼地步
05:27可以幫助你更精確的判斷
05:29什麼時候你應該自己開發模型
05:32什麼時候可以用一個現成的人工智慧
05:37好那在開始課程之前呢
05:39我來講一下這門課的定位
05:41那因為這個課的一開場呢
05:43就跟你講了ChatGPT
05:45可能會給你帶來一個誤解
05:47我看到網路上有很多同學說
05:49這是一門教大家怎麼用ChatGPT的課
05:53那其實這不是一門
05:55教大家怎麼用ChatGPT的課
05:57ChatGPT
05:58只是眾多生成式人工智慧的其中一個例子
06:02當然他是今天最具有代表性的應用
06:05所以我們課堂上一定會反覆的提到
06:08ChatGPT這一個人工智慧
06:11但他只是生成式AI的一個例子而已
06:15而這門課要講的是
06:17期待能夠帶給大家生成式AI的全貌
06:21那其實ChatGPT非常容易上手
06:24很多人都會問說
06:26我要怎麼學習用ChatGPT呢
06:29用ChatGPT這件事情是不用學的
06:33你只要能夠跟另外一個人溝通
06:35你大概就有辦法跟ChatGPT溝通
06:38所以學習用ChatGPT這件事
06:40其實不需要花一整個學習的時間
06:44來學怎麼用ChatGPT
06:46而且另外一方面
06:48ChatGPT的學習資源真的非常多
06:50你要在YouTube上面打ChatGPT
06:52滿坑滿谷的網紅通通在教你
06:55怎麼用ChatGPT
06:56在這個去年年初ChatGPT剛火的時候
07:00只要是個網紅通通在講ChatGPT
07:03歷史的頻道就要讓ChatGPT
07:04偽裝成歷史的古人跟他對話
07:07一個打遊戲王的頻道也要逼迫ChatGPT
07:10跟他玩遊戲王
07:11明明ChatGPT根本玩不了遊戲王
07:13也要逼迫ChatGPT跟他玩遊戲王
07:15總之已經有太多人
07:17提供ChatGPT的教學資源
07:20所以這一門課要講的
07:21並不是教你怎麼使用ChatGPT
07:25這一個人工智慧的應用
07:28那這一門課要講的是什麼呢
07:30這一門課呢我預設的目標受眾是
07:34假設你已經用過ChatGPT這類的生成式AI
07:39你知道他們可以做什麼
07:42你知道他們有多厲害
07:44但是你想要更進一步瞭解這些生成式AI背後的原理
07:50他們到底是怎麼來的
07:52怎麼被訓練出來的
07:54怎麼變得像今天一樣這麼厲害
07:56以及你想要知道這一些人工智慧
07:59未來有什麼樣的可能性
08:01還有哪些可能的發展
08:03這一門課就是為你開的
08:06那為什麼這一門課不會特別著重某一個應用
08:10比如說ChatGPT的使用呢
08:12因為今天這個技術真的是日新月異
08:15而如果你在這個2022年年底
08:18ChatGPT一上線的時候就有用它的話
08:21你會發現ChatGPT現在它的介面
08:23跟它剛上線的時候
08:24介面已經有很大的差異
08:27它能做的事 它的能力也有非常多的不同
08:31所以這個應用是日新月異
08:34所以你在某一門課
08:35就算你學到了怎麼使用ChatGPT
08:38可能同樣的技巧
08:40在幾個月甚至幾週之後
08:42就已經不適用了
08:44但我們在大學開一堂課是希望可以教你
08:48也許在往後數年甚至一輩子都可以用得上的東西
08:53所以這一門課真正想要傳達的
08:55並不是教你怎麼用ChatGPT這一個應用
08:59而是告訴你深層式AI背後概念和原理
09:04那這一門課呢
09:06我沒有預設需要任何的預修課程
09:09也就是如果你想要修這一門課的話
09:12你不需要修過任何人工智慧相關的課程
09:15不需要有任何數學跟程式的背景
09:18也不需要修過任何機器學習相關的課程
09:23這門課可以是你人生的第一堂人工智慧相關課程
09:29那有人可能會問說我已經會用ChatGPT了
09:32用ChatGPT就是如此的簡單
09:35只要你會說話
09:36只要你會打字
09:37你知道怎麼跟另外一個人溝通
09:39你就可以用ChatGPT
09:41我已經會用啦
09:42那會用就好啦
09:44我幹嘛知道他背後的原理是什麼
09:47那確實就算你不知道Chain 3D的原理
09:50你也有機會打造人工智慧的應用
09:54但是瞭解他的原理
09:56可以帶你走向另外一個層次
09:59假如像說魔術非常的神奇
10:02今天的人工智慧也像是魔術一樣
10:06但是如果你又知道魔術背後的手法的話
10:11你在觀看魔術的時候
10:12你可以更能夠欣賞
10:14魔術師他厲害的地方
10:16你看到魔術師把一個人聚成兩半再黏在一起的時候
10:19你不會覺得他是真的把人聚成兩半
10:22然後用念能力把他黏在一起
10:24你會知道說這是一個手法
10:26你不會覺得魔術師是一個有超能力的人
10:29或者是一個念能力者
10:30你知道這是魔術的手法
10:33那對於深層式AI也是一樣的
10:35今天深層式AI展現出非常神奇的能力
10:38但是假設你可以正確瞭解他背後的概念跟原理的話
10:43那就好像是瞭解了魔術背後的手法
10:46你可以更精確的認識他
10:48至少你不會對他的能力有錯誤的誤解
10:52或有錯誤的期待
10:53那有同學問我說這門課跟機器學習
10:56我自己開機器學習這門課
10:58有什麼重疊的地方嗎
11:00呃
11:02你應該要問說還有什麼一樣的地方
11:04基本上就是沒有什麼一樣的地方
11:06所以就算是你修過我的機器學習
11:10或者是修過其他老師開的機器學習
11:13我相信這一門課也可以帶給你很大的幫助
11:17那我剛才有說這一門課可以作為你的人工智慧的第一堂課
11:22你可以把這一門課作為你學人工智慧的基礎
11:25未來再去學其他機器學習相關的課程
11:29那要再聲明一下在這一門課你不會學到什麼
11:33因為這是一門入門的課
11:35所以如果我們繼續用魔術這個比喻的話
11:38這一門課會手把手帶你變幾個魔術
11:42但是可能不足以訓練你成為魔術師
11:45也沒有辦法帶你創造新的魔術
11:49但這並不代表說這一門課是沒有用的
11:52這一門課可以作為
11:53假設你的目標未來是要成為頂尖的魔術師
11:56要做些大變活人之類的
11:58那這一門課可以作為你成為魔術師的開始
12:03那上課因為時間有限
12:05然後把這門課設定為是兩學分的課
12:08所以我們上課時間只有兩個小時而已
12:10因為上課時間有限
12:12所以我們無法深入提到所有的技術
12:15所以很多地方可能會讓你覺得
12:17我什麼都脫了
12:19就只給我看這個
12:21所以很多地方可能沒有辦法講得非常的深入
12:25但是這是你的第一門人工智慧的課
12:28他不會是你最後一門人工智慧的課
12:32未來你可以修其他相關的課程
12:34或者是假設你想要深入研究
12:37上課所提到的一些技術背後的原理的話
12:41你可以看投影片上引用的論文
12:44那講到引用這件事啊
12:46我講一下說
12:47在我們這門課
12:49我們的投影片上
12:50多數的論文呢
12:51都是引用來自一個叫做
12:53archive 的網站
12:55所以看到說
12:56上課引用的論文連結
12:58他上面會寫這個
13:00archive.org
13:02archive 是什麼呢
13:04如果是這個電腦科學領域的同學
13:07一定都知道Archive是什麼
13:09但我知道說這門課的同學呢
13:10來自於各個不同的領域
13:13所以我介紹一下什麼是Archive
13:15我知道說一般我們在做這個研究的時候
13:18你知道說你做研究有了一個新的想法
13:22那你會把你的想法呢寫成論文
13:25發表在國際會議跟國際期刊上
13:29但是這個國際會議國際期刊論文往往一審
13:32都是個一年半載
13:34對於AI的領域而言
13:37技術變化實在是太快了
13:39一年半載的時間往往就會有翻天覆地的變化
13:44往往你投一篇文章
13:46六個月之後被國際會議接受
13:48那個技術已經不行了
13:50所以怎麼辦呢
13:52有一個網站叫做阿凱
13:54今天往往你有新的想法
13:56尤其是電腦科學人工智慧相關的新的論文
14:00往往不先投國際會議 先直接放archive
14:04搶先公開出來
14:06所以在archive上比較容易找到最新的研究
14:10那這邊教大家怎麼看archive文章上傳的時間
14:14那archive的文章後面都會有一個數字
14:18這個數字的前兩個代表的是年份
14:22後面兩個數字代表的是月份
14:25所以2205的意思就是
14:27這篇文章是在2022年的5月被公開來放在R-CAPE上
14:34之後你在我們的課程的投影片上
14:36會看到很多文章
14:38這些文章往往是幾個月前
14:41甚至是幾週前才被放在R-CAPE上的
14:46那講到這個技術迅速的變化這件事啊
14:49我就想分享一件事情
14:52在這門課裡面
14:53我們的作業會教大家訓練一個
14:57有70億個,7個Billion
15:00縮寫是7B,7B這麼多參數的模型
15:05雖然說是訓練,但實際上是微調啦
15:07不過我們還沒有講到訓練跟微調的差異
15:10這個我們之後再講
15:11現在就當作你要訓練一個7B的模型
15:15那這個70億的參數到底是什麼意思呢
15:21我們還沒有講到參數的概念
15:23我們下一堂課會講參數的概念
15:25但是你現在就想成參數量越多
15:28就代表這個模型越厲害
15:31雖然實際上影響模型能力的這個因素還有很多
15:35不是隻有參數的數量
15:37不過今天大家往往把參數的數量
15:39來當作誇耀模型能力的一個指標
15:44那有70億個參數的模型
15:4770億聽起來是一個很大的數字
15:49跟地球的人口差不多多
15:5270億個參數的模型
15:53它是一個很大的模型嗎
15:55它顯然不是一個特別大特別厲害的模型
15:59因為這是我們課堂的一個作業
16:01你可以想像修完這堂課以後有上千人
16:04都能夠訓練70億個參數的模型
16:07而且你今天用免費的運算資源
16:10就可以訓練一個70億參數的模型
16:12所以它顯然不是一個特別厲害的模型
16:16但是要是你穿越到五年前
16:20穿越回2019年
16:222019年的時候發生什麼事呢?
16:242019年的時候
16:26OpenAI釋出了第二代的GPT
16:30那個時候網路上各種文章也是拼命的吹捧
16:34比如說史上最強NLP模型GPT2.0
16:38或者是逆天語言模型GPT2.0
16:42最大的模型GPT2.0
16:45但這個GPT2到底有多大呢?
16:48它只有15億個參數
16:51它大概是你今天作業要用的模型的四分之一到五分之一
16:57所以今天假設你帶著我們的作業穿越回五年前
17:01你手上有的是一個毀天滅地的巨大模型
17:05OpenAI跟Google看到你都得下跪你知道嗎
17:08這是一個當時最大大家沒有辦法想像的巨大模型
17:13這讓我想到什麼呢
17:14我想到贊頌的福利連
17:16這個是福利連那個動畫的第三話
17:20這個福利連已經播很久了
17:22所以講福利連的劇情不算爆雷了吧
17:24那如果你不怕被雷的話
17:25就把耳朵捂起來
17:28好來講個這個葬送的福利連裡面的故事
17:31這個福利連呢他是一個精靈
17:33他在80年前
17:35曾經參加勇者小隊去討伐魔王
17:39在魔王手下有一個很厲害的幹部
17:41叫做撫賢庫瓦爾
17:43撫賢庫瓦爾非常的厲害
17:45他發明瞭一個殺人魔法
17:47可以穿透任何的防禦
17:50所以沒有人可以擋住他的一擊
17:52所有的勇士都被他殺了
17:55連弗利連都沒有辦法打倒他
17:58只能夠把他暫時封印起來
18:01過了八十年之後
18:03他的封印鬆動了
18:04庫瓦爾復活了
18:06弗利連就帶著他的弟子費倫想要來幹掉庫瓦爾
18:11一開始費倫非常的緊張
18:13想說庫瓦爾他的殺人魔法是沒有辦法防禦的
18:16我們要怎麼樣才能夠打倒庫瓦爾呢
18:19弗莉蓮說到時候就知道了
18:22然後庫瓦爾呢對費倫使了一技殺人魔法
18:25弗莉蓮跟這個費倫說你就把防壁展開
18:29鏘就擋住了
18:30然後費倫就說這什麼殺人魔法
18:33不過就是普通攻擊而已啊
18:35對就是當80年前的殺人魔法
18:39過了80年後就只是普通攻擊而已
18:42因為80年對人類來說實在是太長了
18:46人類已經鑽研了庫瓦爾的魔法
18:49已經尋找到了防禦的方法
18:52而在生成式AI的領域也是一樣
18:55當年的GPT-2就像是庫瓦爾一樣
18:59當年一個毀天滅地的巨大模型
19:01今天在你的眼中
19:03也已經不算什麼了
19:05這個例子是要告訴你說生成式AI的技術變化是非常的快
19:09不要說是五年
19:11有時候五個月五個星期都會有很大的變動
19:15這邊講到作業就跟大家說一下這個作業的規劃
19:21作業的目標是要讓大家體驗生成式AI
19:26這個體驗分成兩個面向
19:29第一個層面的體驗是體驗我們怎麼用生成式AI來打造某些應用
19:36另外一個層面是教大家怎麼訓練出自己的生成式AI模型
19:45當然程式助教都已經寫好了
19:48要做的事情往往就是一直按Enter
19:50但是你可以體驗怎麼訓練出一個自己的生成式AI模型
19:56那在這門課裡面呢
19:58我保留了一些負面的體驗
20:01什麼樣負面的體驗呢
20:02比如說訓練模型很花時間
20:05那當然今天所謂的很花時間在作業裡面
20:08可能就是兩三個小時那麼久
20:11你知道這個痛苦是比較出來的
20:14你可能覺得訓練兩三個小時很花時間
20:16事實上如果你要訓練真正的大模型
20:19往往他的時間都是用周作單位來進行計算
20:24那另外你可能還會有什麼負面的體驗呢
20:27你可能會發現說
20:28就算你完全按照助教的指示按Enter
20:32你得到的結果
20:33可能也會跟主教得到的結果不一樣
20:37很多第一次訓練模型的同學會覺得非常的驚奇
20:40想說訓練模型不就是寫個程式嗎
20:43它是電腦啊
20:44它怎麼每次還會得到不一樣的結果呢
20:47我告訴你這個訓練模型呢
20:49你不要用程式來想它
20:52你要想成好像是在養小動物
20:55好像是在種花食草一樣
20:58它的結果往往是有可能無法預測的
21:02當然我們可以把這些負面的體驗拿掉
21:05就不讓你自己訓練模型就好
21:06但是我仍然把好幾個訓練模型的工作
21:11保存在作業中
21:13為了讓你得到一些負面的體驗
21:15期待這些負面的體驗
21:16可以像是疫苗一樣
21:19幫助你在未來面對更大的挑戰
21:23我知道說在座各位
21:25不是每一個人未來都會成為工程師
21:28不是每一個人都會訓練模型
21:30但也許透過這堂課的體驗你可以知道說
21:33訓練模型是可能很花時間的
21:36是可能很難預測的
21:38有一天你當了大老闆
21:40也許你可以對你手下的肥宅工程師多一些寬容
21:47好那這個是作業內容的規劃啦
21:49這門課呢總共有十個作業
21:51那公告的日期呢我都已經寫在投影片上
21:54那每一個作業呢如果沒有特別說明預設
21:57他的截止日期就是在兩週後
22:00那這些作業呢 有好幾個是需要寫程式 甚至是訓練模型的
22:07那有同學就會問說 那要訓練模型 我需要準備什麼東西呢
22:12我需要買自己的GPU嗎 你什麼都不用準備
22:17那在執行程式訓練模型的部分 我們都會用CodeLab或者是Cargo
22:23那你不知道CodeLab或Cargo是什麼也沒有關係
22:25總之你只要記得 你什麼都不用準備
22:29這邊我稍微估射了一下作業的難度
22:34在這個作業裡面如果打一個三角形就是送分給你
22:38所以等一下作業1還有下週講的作業2
22:41基本上就是送分給你
22:43這個開局就先送大家20分
22:47但是後面的作業會逐漸的有一些難度
22:51如果兩個三角形就是代表說
22:53假設你不在意分數的話
22:55這個作業也可能可以非常快完成
22:58但是假設你想要拿到滿分
23:00你還是需要花一些時間自己努力的
23:04那三個三角形代表說這個作業是需要訓練模型的
23:07所以你至少需要好幾個小時才能完成
23:11但我要再強調一次
23:12痛苦是比較出來的
23:13好幾個小時已經算是非常快了
23:17過去2015年我剛開機器學習這門課的時候
23:20有好幾個作業呢
23:21他的訓練時間大概是比如說三天
23:24我就跟同學講說這個作業就是要訓練三天
23:27所以今天假設離作業的截止日期不到三天
23:31你唯一能做的事情就是放棄這樣子
23:34因為你已經不可能把模型訓練出來了
23:38但今天訓練模型最多就是幾個小時
23:41你在前一晚作業deadline的前一晚再趕
23:43也許還來得及
23:46好所以有關這門課的份量呢
23:48我這邊給一個註解啦
23:50因為有十個作業
23:51幾乎每週都會公告一個作業
23:53所以就通識來看
23:55就假設你把這門課當作一個通識
23:57因為畢竟這門課的名字裡有導論這兩個字
24:00它不會是一個太難的課程
24:02但是如果把它當作通識來看
24:04它可以是一個非常充實的通識
24:07當然如果把它看作是選修課
24:10那它可能是一個比較輕鬆的負擔沒有那麼重的選修課
24:15那跟大家講一下作業可能的負擔給大家參考
24:19那有關上課內容規劃的部分
24:21這個我們下一節再講
24:24好,那這邊大家常常會問的一個問題就是
24:26這門課能不能夠用人工智慧
24:29比如說ChangeBT來寫作業呢?
24:32答案就是可以
24:33這個是深層式AI導論這門課
24:36當然應該可以用深層式AI來寫作業
24:39但是同時老師也要用人工智慧來改作業
24:43到時候我們的作業基本上能夠用大型語言模型改的
24:47我們都會用大型語言模型來批改
24:50這邊特別感謝NTK的達芬奇達哥團隊
24:54提供給我們達芬奇的平臺
24:56提供給我們算力跟提供給我們平臺
25:00讓我們可以透過達芬奇的平臺來批改作業
25:04就算他們知道說我們這一堂課可能會有超過一千人選修
25:09他們也願意無條件的大力支持
25:12所以在此特別感謝NTK的達哥團隊
25:16好那這個3月15號的時候呢
25:19MTK的團隊會來跟大家分享
25:21他們是怎麼使用生成式AI
25:24他們對生成式AI在業界有什麼樣的看法
25:27那5月24號的時候
25:29MTK自己也有開發大型語言模型
25:32所以技術團隊會來跟大家分享
25:34他們開發大型語言模型的心路歷程
Browse More Related Video
5.0 / 5 (0 votes)
