Nvidiaのライバル?革新的AIチップを開発するGroqについて解説してみた
Summary
TLDRこの動画では、言語モデルの処理速度を劇的に高速化できるGlock社のLPUチップについて解説されています。LPUは言語モデルの計算に特化したチップで、業界をリードする高速の文章生成を実現しています。従来のGPUと比べて最大18倍の速度を発揮し、生成コストも著しく安価です。同時に、人間とのリアルな対話を可能にするような瞬間応答性も備えています。Glockの創業者が過去にGoogleのTPU開発に携わった経緯や、今後のAIの発展にとってLPUが果たす重要な役割など、言語モデルの高速化を支える最新技術の魅力が語られています。
Takeaways
- 😀 グロックは世界一速い言語モデルを提供するサービスです。
- 🚀 1秒間に185トークンを生成でき、他のサービスと比べて最大18倍の速度を実現しています。
- 💡 トークンは文字のようなもので、1秒間に何文字生成できるかを表します。
- 🔧 グロックは言語モデルを高速に動かすためのオリジナルチップ「LPU」を開発しています。
- 💼 NVIDIAとGoogleはGPUとTPUを提供しており、AIモデルの計算速度を高めています。
- 🌐 LPUは「ランゲージプロセシングユニット」の略で、言語モデルの計算に特化したチップです。
- 👤 グロックの創業者は、Googleで初代TPUの開発に携わったジョナサン・ロスさんです。
- 💰 グロックのサービスはコストパフォーマンスが高く、速くて安いことが特徴です。
- 🆓 グロックでは、ラマ2とミストラルという2つのオープンソースモデルを無料で体験できます。
- 📈 今後、グロックの技術が広く採用されれば、AIと人間の対話がより自然になる可能性があります。
Q & A
グロックとは何ですか?
-グロックは、言語モデルを高速に動かすためのチップ「LPU」を開発している企業です。LPUは言語処理に特化したチップで、GPUよりも18倍速い文章生成が可能です。
なぜGPUが必要なのでしょうか?
-GPUは同時に複数の処理を行うことができるため、計算量の多いAIモデルを予測するには不可欠です。言語モデルの需要が高まったことでGPU需要が高まり、NVIDIAの株価も大幅に上昇しました。
TPUとは何ですか?
-TPUはAIの計算に特化したチップで、GoogleがAIの学習に使用しています。GPUよりもさらに高速に計算できますが、Googleのクラウドサービスでしか利用できません。
グロックの創業者は誰ですか?
-グロックの創業者はジョナサンロス氏で、元GoogleのTPUチップのコア部分を開発していた人物です。GoogleのTPUの利用規制を解消するため、グロックを設立しました。
グロックの名前の由来は何ですか?
-グロックの名前はイーロン・マスクのクロックと類似していることから、商標登録の問題があったようです。グロックの「Q」は「何かを深く理解する」という意味から来ているそうです。
グロックのサービスの特徴は何ですか?
-グロックのサービスの特徴は、1秒間に生成できる文字数が多く、応答時間(所得)も非常に速いことです。他のサービスと比較して圧倒的に早い応答速度を実現しています。
グロックのサービスの料金はどのようなものでしょうか?
-グロックのサービスは現状オープンソースのモデルしか使えませんが、速度と価格両面でコスパが良いことがわかります。クラウドサービスよりも安価で高速なモデルを提供しています。
グロックのサービスを体験するにはどうすればよいですか?
-グロックのWebサイトで無料で体験できます。2つのオープンソースモデル「ラマ2」と「ミストラル」を使ってプロンプトを入力し、高速な応答を体験できます。また、APIを利用してプログラムから利用することも可能です。
グロックの技術がAIに与える影響は何ですか?
-グロックのLPUが量産化されれば、GPUを脅かす存在になる可能性があります。また、応答速度が向上することで、AIと人間のように自然な会話が可能になると期待されています。
グロックのデモ動画では何が示されていますか?
-デモ動画では、アナウンサーとグロックモデルの自然な会話が紹介されています。質問に即座に回答する機動力の高さから、人間との会話に近い体験が得られることが示されています。
Outlines
🤖 グロックとは何か
本文は、「グロック」というサービスを紹介しています。グロックは、言語モデルを高速化するためのチップ「LPU」を開発していることで知られています。LPUによって、通常の18倍もの速度で文字を生成できるようになりました。グロックの創業者は、元Googleで初代TPUの開発に携わった人物です。彼はGoogleから独立してグロックを設立し、GPUを超える性能のAIチップを作りたいと考えていました。
🎬 グロックのデモ
この文では、グロックがYouTubeで公開したデモについて説明しています。デモでは、グロックの言語モデルとアナウンサーが会話をしていました。言語モデルはアナウンサーの質問に即座に答えていたため、人間と対話しているかのように感じられました。このように、グロックの技術は人間と同様の自然な対話をAIと行えるようになっていることがわかります。また、グロックのサイトでもLPUを無料で体験できるツールが提供されており、ユーザーはそれを試すことができます。
🚀 グロックの可能性
最後の文では、グロックの将来性について述べられています。グロックのLPUが量産化されれば、GPUメーカーのNVIDIAを脅かす存在になるかもしれません。また、生成速度の向上は作業効率の向上にも繋がります。そして、より人間と対話するのに近い会話が可能になることから、AIとヒトの対話がより自然なものになっていくでしょう。さらに、グロックはAPIも提供しており、これを使ってチャットボットなどのアプリケーションを作ることもできそうです。
Mindmap
Keywords
💡グロック
💡言語モデル
💡LPU
💡GPU
💡TPU
💡トークン
💡応答速度
💡生成速度
💡料金
💡オープンソースモデル
Highlights
言語モデルを世界一早くするグロックというサービスについて紹介します。
言語モデルを使っている時に返答が少し遅いと感じたことはありませんか。
グロックというサービスを使うと、近い将来人間と同じくらい、それよりも早い速度で返答を行うAIを体感できます。
グロックは世界一早く言語モデルを動かせる会社になっています。
言語モデルを高速に動かすためのLPU(Language Processing Unit)というチップを開発しています。
グロックは1秒間で185トークン出力できるので、他のサービスと比べて18倍も早いです。
言語モデルを高速に動かすにはGPU(Graphics Processing Unit)が必要で、1個300万円もします。
GPUを開発しているNVIDIAの株価は1年で231%上昇し、時価総額がAmazonを上回りました。
GoogleのTPU(Tensor Processing Unit)はAIの計算に特化して開発されたチップで、GPUよりも高速に計算できます。
グロックのLPUはランゲージプロセシングユニットの略で、言語モデルの計算に特化したチップです。
グロックの創業者はGoogleの初代TPUのチップコア開発者で、TPUをGoogleのクラウドだけでなくグローバルに使えるチップを作りたくて会社を立ち上げました。
グロックとGPT-3は名前が似ていて商標問題がありました。
グロックのLPUを使うと、文字生成速度だけでなく所要時間(プロンプトから最初の文字生成までの時間)も他サービスより速くなります。
グロックのサービスはオープンソースのモデルだけ使えますが、コストパフォーマンスが非常に良いです。
生成速度が早くなると作業効率が上がり、AIと人間のような自然な対話ができるようになります。
Transcripts
somethinginter
めちゃくちゃ早いので見ていて
ください英語でも使ってみますTell
meaboutChatGPTで打ってみ
ますはい皆さんこんにちはAIVニット
です本日は言語モデルを世界一早くする
ブロックというサービスについて紹介して
いきます皆さん言語モデルを使ってる時に
返答が少し遅いなとかもっと早くなったら
いいのになていう風に感じたことない
でしょうか今後AIがどんどん進化して
いってもえ話しかけてからすぐに返答が来
ないと人間と同じように会話してるという
感覚は生まれてこないかと思いますえ今回
紹介するえグロックというサービスを使う
とえ近い将来人間と同じくらかそれよりも
早い速度で返答を行うAIというのを体感
できますで将来的にAIと人間どちらと
喋ってるか分からないという未来になって
きたら結構な仕事がAIで大体できそう
ですよねで今回はこのグロックという
サービスについてえどういうものかという
のを誰でも分かるように解説していきます
えそれでは早速やっていき
ましょうでで最初にえグロックって何って
ことなんですけどもえグロックはえ世界一
早く原語モデルを動かせるという会社に
なっていますで具体的にやってることとし
てはえ言語モデルを高速に動かすためのえ
チップを開発していますでこちらはえ
いろんな会社のサービスで同じ言語モデル
を使った時に1秒間でどれくらいの
トークンを生成できるのかというのを計測
した結果になっていますでトークンという
のはえ文字のようなものになっていて簡単
に言うと1秒間でえ何文字生成できるのか
というのを表していますでいろんな会社の
サービスがあるんですけどもこのグロック
という会社は1秒間で185トクえ出力
できるというところで軍を抜いて早いと
いうのが分かるかと思いますでグロックが
開発したチップを使うと最大で他の
サービスと比べて18倍も早いぜという
ところが出張されていましたでグロックが
開発してるAIのチップって何っていう風
に思いますよねというかそもそもAIの
チップって何なんだという人もいるかと
思いますで言語モデルとかAIのモデルを
え高速に動かすにはGPUというこんな
感じのかなり高い機械がえたくさん必要に
なってきますこれ価格雲で見たんですけど
もこのGPUだと1個300万円とかして
ま初めて聞いた人は車買えるじゃんという
風に思うかもしれませんでなんでこれが
必要かと言うとGPUはえ同時に複数の
処理を行うことができるものになっていて
AIのモデルっていうのはえ計算量が
すごく多いのでこういったGPUが
たくさんないと予測を計算するまでに
すごく時間がかかってしまうというわけ
ですねなので去年から言語モデルがすごく
流行ってるのでこのGPUの需要が非常に
高まっていますでこのGPUを開発してる
1番有名な会社としてはNVIDIAと
いう会社があるんですけどもこの
nvdiaの会社の株価はえこの1年間で
えなんと231上昇していますで最近では
このnvdiaの会社の時価総額が
Amazonを上回ったということでえ
ニュースになっていましたでこの規模の
会社が1年で株価が2倍とか3倍になって
るってのはすごい驚きですよね余談なん
ですけどもえ私も去年の3月くらいに
GPT4を触った時にこれは言語モデルが
絶対入るんだという風に思ってま少しNB
の株を買ってたんですけども振り返って
みるとまめちゃくちゃ上がってるので
もっと買っておけばよかったなっていう風
に最近は株価を見て思ったりしますはい
ちょっと話がそれたんですけどもえ
NVIDIA以外にも計算を高速化する
チップっていうのはあって実は
GoogleでもTPUという計算チップ
を開発していますでこのTPUというのは
AIの計算に特化して開発されたものに
なっていてGPUよりもさらに高速に計算
することができますでTPUとかGPUと
か混乱するんだけどという感じかもしれ
ないですけどもNVIDIAがメインで
開発してるGPUは仮想通貨のマイニング
とかゲームの映像処理とかえそういうもの
にも使えますでこちらのGoogleの
TPUはAIの計算に特化して使われると
いうわけですねただこのGoogleの
TPUはえ価格comとかで売ってるわけ
じゃなくてGoogleのクラウド
サービスを利用しないと使えないという
状態になっていますえ先日リリースされた
えGoogleの言語モデルのjemにも
このTPUを使って学習が行われています
でこちらはGoogleのブログなんです
けどもこの下のところにえGoogleの
センサープロセシングユニットTPUを
使ってますという風に書かれてますねでオ
OpenAIと比較した時にえ
Googleの強みとしてはこのTPUを
使って高速に学習できるというところが
あげられるかと思いますで今回紹介するえ
グロックというサービスではえ先ほど見せ
たように1秒間で圧倒的な文字数を生成
できるとまつまりめちゃくちゃ早いんです
けどもえその秘密はlpuという
オリジナルのチップを使ってるからになり
ますなのでえこの像を見ると他のビスはえ
GPUという風に書いてんですけども
グロックのサービスだけlpuという風に
書かれてるかと思いますでこのlpuと
いうのはえランゲージプロセシング
ユニットの略で言語モデルの計算に特化し
たえチップになっていますでlpuを開発
したえグロックという会社の総業者の方が
えこの方になっていますジョナサンロス
さんという方でなんと元々Googleで
初代TPUのチップのコア部分を開発して
たとえそういった方になっていますで
GoogleのTPUはえさっきもあった
ようにGoogleのクラウドサービスで
しか使えないので世界中の人がえ誰でも
使えるようなAIのチップを作りたいと
いう思いがあってGoogleをやめてえ
グロックという会社を作ったみたいですえ
余談なんですけども会社名がグロックと
いうものになってますでイロンマスクのX
でもえグロックという言語モデルを開発し
ていてま少し名前が感動しやすいかと思い
ます言語モデルの方はえ最後がKで今回の
LPを作ってるグロックはえ最後が9に
なっていますでこちらのグロックの公式の
ページでイーロンマスクに対してでえ俺
たちは商標登録してるのでえグロックと
いう名前変えてくれというリリースを出し
てました確かにこのグロックからするとま
溜まったもんじゃないなっていう風な感じ
かもしれないですねちなみにこのグロック
のQというのはえ何かを深く理解すると
いう意味から来てるみたいですかっこいい
なという感じですねでグロックの特徴とし
てえ1秒間あたりに生成できる文字数が
多いということもあったんですけどもその
他にもえ所得が早いということがあげられ
ますで所属って何だということなんです
けども例えばええ何かプロンプトを入力し
てから言語モデルがえ最初の文字を生成
するまでの待ってる時間になります確かに
チャットgpdとか使ってる人分かると
思うんですけども入力して送信してから
回答するまでに少し間があったりしますよ
ねでこちらはえ各サービスで初速が何秒か
というのを計測した結果になってるんです
けどもこちらはもうえグロックが他の
サービスと比較して所得がかなり早いと
いうのが分かるかと思いますでこういう風
に見るとえ同じモデルを提供してるのに
サービスによって文の生成速度が変わって
くるというのは興味深いなという風に思い
ます以前紹介したpowerxTIは
こちらになってるのでなかなか早いなと
いう風な部類かもしれませんで気になる
ところとしてはえ料金ですでlpuはえ
こんなに早く文章を生成できるんだったら
さかしお高いんでしょうという風に思い
ますよねでこちらはアーティフィシャル
アナリシスというサイトで載っていた言語
モデルを提供しているえいろんなサービス
を比較した結果になっています縦軸が生成
速度になっていて横軸がえ料金になってい
ます左上に行くほど早くて安く文章を生成
できると右下に行くほど遅くて高いという
ことになりますで全部同じモデルで比較し
てるんですけどもこう見るとえグロックの
サービスは軍を抜いてえ早くて安いという
のが分かります逆にMicrosoftの
アジールとかAmazonのえベッド
ロックとかそういったクラウドサービスを
使ってモデルを使用する場合はかなり
コスパが悪いということが分かりますただ
え注意点としてはえ現状グのサービスで
使えるのはオープンソースのモデルだけと
いうことになりますつまりチャットGPT
とかの言語モデルは使えないということ
ですねで将来的にはこのグロックが開発し
てるlpuというチップがオAIで使われ
たりしたら世界が変わりそうですよねで
こんだけコスパがいいのでlpuのチップ
が量産できるようになったらGPUを作っ
てるnvdiaを脅かす存在になるかも
しれませんねグロックのサービスの概要に
ついて紹介してきたんですけども皆さん
どういう風に思ったでしょうか文章の生成
速度が早早くなると何が嬉しいのかなと
いう風に思った人もいるかと思いますまず
生成速度が早くなるとえ作業効率が上がる
というのはあるかと思います他にもえ冒頭
少し喋ったようにAIと人のように会話
するにはこの生成速度の向上が不可欠かと
思います例えばえ現在のチャットGPT
って文字を打ってから返答まで少し間が
あるのでやや機械っぽく感じてしまいます
よねでこれも返答速度が上がったらかなり
人間との対話に近づいていくと思いますで
ここら辺はえグロックの式の
YouTubeでデモが行われていて本当
に人間と喋ってるっぽくて驚いたので
ちょっとそちらを見てみましょうはい
こちらがえグロックの公式の
YouTubeで載っていたCNNでのえ
インタビューの動画になっていますでこの
右側の人が先ほど紹介したグロックの創業
者のジョナサンロスさんで左側の人がえ
アナウンサーになってますでグロックの
モデルについて色々会話してるんですけど
もこの中で一部グロックを使ったえデモが
行われていますちょっとそちら見てみ
ましょう
はい今これアナウンサーの人がこれまでの
言語モデルと何が違うんですかていう風に
聞くとグロックで言語モデルが使われて
返答が生成されて会話ができてい
ますHUMAN
はいこれちょっと面白くてこのグロックの
サービスで言語モデルが返答を読み上げ
てる時にこのアナウンサーの人がえそれを
遮ってあなたはどれぐらい人間の脳に近い
んですかていう風に重ねて質問しました
そうするとこのグロックで動いてる言語
モデルはその質問に対してすぐに答えて
くれていますこれってかなり人間っぽい
やり取りですよ
ね
はいこれも面白くてこれあなたの人がまた
再って質問するんですけどもそれに対して
グロックのモデルが回答を生成するとで
アナウンサの人もこんな感じで驚いた顔に
なっていますで将来的にはえ人間と同じ
ようにAIと会話するっていう風になると
思うんですけども現在の技術でももう
すでにここまで来てるというのは結構驚き
ですよ
ねはいでこちらはえグロックのページに
なってるんですけどもこちらでもえ
グロックのLPを無料で体験することが
できます左上のところからえモデルが選択
できてえラマ2とえミストラルと2つの
オープンソースのモデルが使用できますえ
今ミストラルが選ばれていてえこちらで
ですねプランプ打ってみますはいチャット
GPTについて教えてくださいという風に
入力していますめちゃくちゃ早いので見て
いて
くださいはいこんな感じで生成されました
めっちゃ早くないですかえただちょっと
日本語だとトークンが文字代になって
しまうので英語でも使ってみますTell
meaboutChatGPTで打ってみ
ますはいこんな感じでですねこの文章がえ
0.88mmマークのところからシステム
プロンプトを設定できたりとかあとはえ
モデルのパラメーターとかも設定できるの
で興味がある人は無料で使えるので触って
みるといいかもしれませんはい他にもえ
グロックのサービスではAPIといって
プログラムで使うための機能も提供されて
いますこちらに関しては今申し込みが殺と
中でリクエストをしてえ認証されたら
使えるようになります私も一応リクエスト
しといたので今後使えるようになったら
チャットMODを作ってみたいなという風
に思いますはいグロックのサービス紹介し
てきたんですけども皆さんどういう風に
感じましたか今後もこういった面白いAの
技術が出てきたらえ紹介していきたいと
思いますはい以上で本日の動画を終了し
たいと思いますこの動画良かったなて思人
はえ高評価コメントとチャンネル登録の方
よろしくお願いしますユでをやってますの
で概要欄から見てみてくださいえそれでは
また次回の動画でお会いしましょうバイ
バイ
DET
5.0 / 5 (0 votes)