大学・研究機関で 生成 AI の活用にお悩みの全ての方々へ、業務の負荷軽減・効率化に向けたご提案
Summary
TLDRこのセッションでは、大学研究機関におけるAWS生成AIサービスの活用方法を紹介します。Amazon Web Services Japanの佐々が自己紹介し、生成AIの基本概念、代表的な基盤モデル、そして具体的な利用例を説明します。大学研究機関向けに最適なソリューションとして、Amazon BedrockやAmazon Qの機能とメリットが詳述され、生成AIの導入手順とその効果についても触れています。最後に、ラララグ導入パックの具体的な構成とその導入方法について説明があり、セッションは終了します。
Takeaways
- 😀 セッションの目的は、大学研究機関におけるAWSの生成AIサービスの活用方法を紹介することです。
- 👥 自己紹介では、話者はAmazon WEBサービスJAPAN合同会社のソリューションアーキテクトで、主に大学研究機関向けの技術支援を行っていると述べています。
- 📈 AWSの生成AIサービスは、会話、ストーリー、画像、動画などの新しいコンテンツやアイデアを生み出すAIであり、多くの分野で活用が進んでいます。
- 🔍 基盤モデルは事前学習された大規模モデルを用いて、テキスト生成などを行うための機械学習の進歩を紹介しました。
- 📚 代表的な基盤モデルとして、テキストtoテキスト、テキストtoエンディング、マルチモーダルのモデルが挙げられ、それぞれ異なる機能を有しています。
- 🏥 大学病院での業務効率化の取り組みとして、AWSの生成AIを用いた文章の生成が行われている事例が紹介されました。
- 💡 生成AIは研究業務や教育機関としての役割、経営ジムなど様々なフィールドで活用される可能性があると話されています。
- 🚀 AWSの生成AIサービスは、アプリケーションとして基盤モデルを提供するAmazon 9、ツールとして基盤モデルを使ったアプリケーション作成のためのAmazon Bedrock、インフラとしてGPU搭載仮想サーバーなどを提供していると説明されています。
- 🛠️ Amazon Bedrockは、基盤モデルを利用して生成アプリケーションを簡単に構築できるAWSサービスで、多様な基盤モデルを提供しています。
- 🔒 プライバシーとセキュリティに関する質問にも触れており、AWSの生成AIサービスはコンプライアンスにも配慮していると強調されています。
Q & A
セッションの目的は何ですか？
-セッションの目的は、大学研究機関に所属されている皆様を対象にAWSの生成AIサービスを活用する方法とその始め方について説明することです。
佐々木さんはどのような部署に所属していますか？
-佐々木さんはAmazon WEBサービスJAPAN合同会社ソリューションアーキテクトであり、主に公共部門のお客様を担当する部門に所属しています。
生成AIとはどのようなAIですか？
-生成AIとは会話、ストーリー、画像、動画など新しいコンテンツやアイデアを生み出すことができるAIです。
基盤モデルとは何を指しますか？
-基盤モデルとは多くのデータに基づいて事前にトレーニングされた大規模モデルを指し、機械学習の進歩により数十億のパラメーターや変数を含むモデルです。
テキスト生成において基盤モデルはどのように動作しますか？
-テキスト生成において基盤モデルは次の単語が来る確率が高いものを選択し、テキストを生成していきます。
AWSの生成AIサービスはどのように分類されますか？
-AWSの生成AIサービスはアプリケーションとして基盤モデルをお使いいただけるスタック、ツールとしてのAmazon Bedrock、インフラストラクチャーとしてのGPUを搭載した仮想サーバーなど、3つのカテゴリーに分類されます。
Amazon QuickSiteとは何ですか？
-Amazon QuickSiteはAWSのサービスで、可視化のためのダッシュボードを簡単に構築することができるサービスです。
Amazon Bedrockはどのようなサービスですか？
-Amazon Bedrockは基盤モデルを活用した生成アプリケーションを簡単に構築できるAWSサービスです。
生成AIを導入する際の悩みとして挙げられたものは何ですか？
-生成AIを導入する際の悩みとして、どのモデルを選べば良いかわからない、環境をどう準備すれば良いかわからないといった問題が挙げられます。
クラスメソッドのラララグ導入パックとは何ですか？
-クラスメソッドのラララグ導入パックは、大学研究機関における業務でのAI活用例とその解決策を提供するサービスです。チャットボットによる自動回答、ドキュメントの横断検索、自然な日本語での回答生成が特徴です。
ラララグ導入パックのメリットは何ですか？
-ラララグ導入パックのメリットとして、チャットボットによる自動回答で作業量を減らす、ドキュメントを横断して検索して回答生成できる仕組みを導入することができる、自然な日本語での回答で回答品質を上げるといった点が挙げられます。
ラララグ導入パックの導入形態にはどのようなものがありますか？
-ラララグ導入パックの導入形態には、テンプレートをそのまま導入するテンプレート導入パックと、テンプレートをベースにカスタマイズするカスタマイズパックの2通りがあります。
ラララグ導入パックの導入費用はどのくらいですか？
-ラララグ導入パックのテンプレート導入パックの費用は税抜きで211万円です。カスタマイズパックについては、カスタマイズの内容によって異なります。
クラスメソッドが提供するサービスには何がありますか？
-クラスメソッドが提供するサービスには、AI環境の構築サービス、技術コンサルティング、AIを活用する上での教育支援、セミナーなどのサービスが挙げられます。
Outlines
📚 大学研究機関でのAWS生成AIサービスの概要
このセッションでは、AWSの生成AIサービスを大学研究機関でどのように活用できるかを紹介します。自己紹介として、Amazon Web Services Japanのソリューションアーキテクト、佐々が登場し、主に公共部門の技術支援を担当しています。生成AIは会話、ストーリー、画像、動画など新しいコンテンツやアイデアを生み出す能力があり、基盤モデルに基づいています。具体例として、テキスト生成や画像生成の代表的な3つの基盤モデルが紹介されました。
🧑💻 大学研究機関における生成AIのユースケース
生成AIの概要と大学研究機関での活用方法について説明します。研究業務、教育機関としての役割、経営事務におけるデータ活用のユースケースが紹介されました。不事代化大学の事例では、大学病院の業務効率化のために文章自動生成が行われました。生成AIの進化が早いため、複数のモデルを簡単に利用できる環境の構築が望まれています。プライバシーとセキュリティに関する質問も多く、これらの課題にAWSの生成AIサービスで対応しています。
🔧 AWSの生成AIサービスのカテゴリと具体的なツール
AWSの生成AIサービスは3つのカテゴリに分類されます。まず、Amazon9などのアプリケーションとして基盤モデルを使用できるスタック、次に、Amazonベッドロックという基盤モデルを使ってアプリケーションを作るためのツール、そしてGPU搭載の仮想サーバーなどインフラストラクチャーです。具体的なツールとして、Amazon9ビジネスとAmazon9クイックサイトが紹介され、データソースと連動して効率的に業務を進めることができます。
🏗️ Amazonベッドロックの詳細と利点
Amazonベッドロックは基盤モデルを利用した生成AIアプリケーションを簡単に構築できるAWSサービスで、複数の高性能な基盤モデルにアクセスできます。ファインチューニングや継続事前学習を利用してモデルをカスタマイズでき、プライベートリンクを使用してセキュアな接続が可能です。幅広い基盤モデルにアクセスできることで、品質や応答速度、コストのバランスを取ることができます。
📝 Generative AIユースケースJPのデモ
Generative AIユースケースJPを使った文書要約のデモを紹介します。基盤モデルclow3のソネットを使用して文部科学省の議事録を要約し、簡単な指示で要約された文章を生成します。この方法は音声からの文字起こしにも利用でき、組織内の情報を基盤モデルに取り込む方法について説明します。
🔍 検索拡張生成ラグの活用
検索拡張生成ラグを利用して学内文書に基づいた回答を生成する方法を紹介します。Amazonケドラと基盤モデルを組み合わせ、ユーザーの質問に対して関連文書を検索し、回答を生成します。情報検索と生成AIを組み合わせることで、学内のナレッジを活用し、迅速かつ正確な回答を提供する仕組みを説明します。
🤖 問い合わせ対応業務での生成AIの活用例
問い合わせ対応業務における生成AIの有効性を説明します。AIが人材不足や業務の難易度上昇などの課題に対応し、自動回答により業務効率を向上させます。検索拡張生成ラグの機能を活用し、情報検索と回答生成を組み合わせたソリューションを提供します。具体例として、クラスメソッド社内での生成AIによる問い合わせ対応のデモが紹介されます。
🚀 ラララグ導入パックの特徴と導入メリット
ラララグ導入パックの特徴と導入メリットを紹介します。テンプレート化された形態で迅速な導入が可能で、使い慣れたチャットツールから質問を入力できます。AWS上の環境にドキュメントを保管し、セキュアに利用することが可能です。回答に対するフィードバック機能もあり、運営者はフィードバックを分析して改善サイクルを回すことができます。
🌐 ラララグ導入パックのシステム構成
ラララグ導入パックのシステム構成を説明します。チャットツールから質問を入力し、Amazonケドラで関連ドキュメントを検索、Amazonベッドロックで回答を生成します。テンプレート導入パックでは、事前準備としてドキュメントの準備やAWSアカウントの設定が必要です。構築後は運用サポートを提供し、データの更新も適宜行えます。
💡 生成AI導入コンサルパックの案内
生成AI導入コンサルパックの案内です。ラララグ導入パックと合わせて、前後の業務課題の抽出や導入後の評価を行います。特別価格での提供があり、生成AIの導入を支援します。クラスメソッドでは、AI環境の構築サービスや技術コンサルティング、教育支援も実施しており、幅広いサポートを提供します。
Mindmap
Keywords
💡生成AI
💡AWS
💡基盤モデル
💡Amazon Comprehend
💡Amazon Lex
💡マルチモーダルモデル
💡ファインチューニング
💡プライバシーとセキュリティ
💡Amazon SageMaker
💡検索拡張生成
Highlights
AWSの生成AIサービスを大学研究機関での活用について紹介
Amazon WEBサービスJAPAN合同会社ソリューションアーキテクトの佐々が講演
2024年4月時点でのサービス内容及び価格についての説明
生成AIの活用背景と基盤モデルのトレーニング方法について解説
テキスト生成を例に基盤モデルの仕組みを紹介
代表的な3つの基盤モデル：テキストtoテキスト、テキストtoエンディング、マルチモーダルモデルについて解説
大学病院の業務効率化に生成AIを活用した事例の紹介
AWSの生成AIサービスを研究機関の多岐にわたるフィールドで活用する可能性について語り
生成AIの進化が早いこととその追従の重要性について触れる
AWSの生成AIサービスの3つのカテゴリー：Amazon 9、Amazon Bedrock、インフラストラクチャーサービスの紹介
Amazon 9ビジネスとAmazon QuickSiteの機能紹介
Amazon Bedrockの機能とその基盤モデルの豊富さについて解説
Amazon Bedrockで提供されるモデルバリエーションと評価方法の紹介
ファインチューニングと継続事前学習を通じて基盤モデルのカスタマイズ方法について解説
AWSプライベートリンクとガーディアン4Amazon Bedrockによるセキュリティとプライバシーの確保について紹介
デモンストレーションとして生成AIによる文書要約のデモを実施
学内情報の基盤モデルへの取り込み方と検索拡張生成ラグの活用について解説
問い合わせ対応業務への生成AIの適用とその効果について語り
クラスメソッドのラララグ導入パックの紹介とその3つのメリットについて解説
ラララグ導入パックのデモとサービスの特徴について紹介
ラララグ導入パックの導入形態とサポート体制について解説
ラララグ導入パックの導入費用とランニングコストについて紹介
クラスメソッドの他サービスや導入後の教育支援について触れる
Transcripts
00:06それでは大学研究期間でお伺いする悩みと
00:11活用できるサービスのご紹介という
00:12セッションを始め
00:14ますこのセッションでは大学研究機関に
00:18おいてAWSの生成合サービスを用いて
00:22どのような活用ができるかをご紹介して
00:25いき
00:27ます最初に簡単に自己紹介させていただき
00:31ます私はAmazonWEBサービス
00:35JAPAN合同会社のソリューション
00:36アーキテクトの佐々
00:39です主に公共部門のお客様を担当する部門
00:43に所属しておりましてその中でも大学研究
00:48機関のお客様を中心に技術支援をさせて
00:51いただいておりますどうぞよろしくお願い
00:54いたし
00:56ます本資料は2024年4月時点での
01:01サービス内容及び価格についてご説明して
01:05います最新の情報はAWS公式
01:09ウェブサイトにてご確認
01:15ください本セッションでは大学研究機関に
01:20所属されている皆様を対象として我々がお
01:24伺いする課題やユースケースについて考え
01:28AWSの生成AIサービスで何ができるか
01:32どうすれば始めることができるかについて
01:35お伝えしていきたいと思い
01:39ますそれではまず生成AIとは何か活用さ
01:44れている背景について考えていき
01:49ましょう生成AIは会話ストーリー画像
01:55動画など新しいコンテンツやアイデアを
01:57生み出すことのできるAIの
02:01です投映しているスライドにある様々な
02:04画像も生AIによって描かれてい
02:08ますこれは基盤モデルと呼ばれる多くの
02:12データに基づいて事前にトレーニングされ
02:15た大規模モデルを用いてい
02:18ます機械学習の進歩により数十億の
02:22パラメーターや変数を含むモデルというの
02:25が台頭しています
02:30テキスト生成を例に挙げると基盤モデルは
02:34次の単語が来る確率が高いものを選択し
02:37テキストを生成してい
02:40ます表示している例では学生が開くものと
02:44して本やラップトップが確率的に上位に
02:49来るこのようにして適切と思われる
02:52テキストを生成してい
02:56ます基盤モデルの特徴的な仕組みとして
03:00構造化されていないデータを含む膨大な量
03:03の事前学習を行って
03:05おりそれらは非常に多くのパラメーターを
03:08持つことで複雑な概念も学習することが
03:12でき
03:13ますまた従来は分野に特化したAIの生成
03:19が必要でしたが1つの基盤モデルで様々な
03:23タスクに対応できるようになりまし
03:26たさらに必要なデータ情報源を指定する
03:31ことで利用者の用途に合わせた
03:33カスタマイズができるようになってい
03:36ます次に代表的な3つの基盤モデルについ
03:40て見ていき
03:42ます1つ目はテキストtoテキスト
03:46ですチャットを活用された方も多いと思い
03:49ますが例えばインプットとして
03:53ウォーキングと心臓の健康面での影響に
03:56関する記事を要約してというテキストを
03:58入力すると
04:00アウトプットとして記事を要約した結果を
04:04出力してくれるモデル
04:06です2つ目はテキストtoエンディングと
04:10呼ばれるもので入力されたテキストを数字
04:13に置き換え類似した検索結果や文章を表現
04:17し
04:18ます例えばインプットとしてハンドソープ
04:23というようなテキストを入力するとハンド
04:26ソープに近い単語共に用いられる単を掲示
04:30してくれ
04:31ますACサイトなどで購入する際に入力に
04:35基づいてレコメンドされる機能もこちらを
04:37用いてい
04:40ます3つ目はマルチモーダルのモデルです
04:45これはインプットとして馬に乗る宇宙飛行
04:49士というようなテキストを入力すると
04:52アウトプットとして馬に乗った宇宙飛行士
04:56の画像が出力されるようなモデルです
05:00ユーザーの自然言語入力に基づいて画像を
05:03生成するステーブルディフュージョンは
05:06これに当たり
05:09ますここまでは生成AIの概要をお話しし
05:13てきまし
05:14た大学研究機関では研究業務に加えて教育
05:21機関としての役割また組織を運営していく
05:25ための経営ジムといった様々なフィールド
05:28がありますが
05:30それぞれの領域においてデータが保有され
05:33ておりこれらを活用した多くのユース
05:37ケースが存在するのではないかと考えてい
05:41ますスライドに表示したものは一例ですが
05:45基盤モデル自体の
05:46開発既存の基盤モデルを用いた研究や学習
05:50効果を加速させる取り組みまた同様に経営
05:55事務においても従来の俗人的な業務も効率
06:00化し省力化できるのではないかといった
06:03活用への期待が高まっていると感じてい
06:07ます大学ヘルスケア領域における取り組み
06:11としまして不事代化大学様の生成合を検証
06:16いただいた事例が挙げられ
06:18ますこちらは大学病院の業務効率化の
06:23取り組みに当社の生成愛を用いて文章の
06:28児童生成を行った事例となり
06:31ます検証においての課題や成果について
06:35事体化大学様にまとめていただいた資料を
06:38公開しており詳細は以下のURLからご
06:43確認いただくことができ
06:46ます生成は役に立ちそうというお話をして
06:49きましたが現場レベルでお伺いする悩みと
06:53しては興味はあるけれど何を選べばいいか
06:57わからない環境をどう準備すればいいか
07:00わからないといったお話を伺い
07:03ます具体的には生成アの進化は非常に早い
07:07という点
07:08です現時点でも多数のモデルがありそれら
07:12のモデルも継続してバージョンアップが
07:14続いてい
07:15ますそのためある時点では高い性能を誇っ
07:19ていたモデルも時がでば別のモデルに
07:23変わる状況があるかもしれませ
07:26んそうした進化の速さに追従するためには
07:29複数のモデルを簡単に利用できる環境の
07:32構築が望ましいと言え
07:35ますその一方でその環境をオンプレミスに
07:40構築することは非常に大変
07:42です皆様のお手元のサーバーで管理する
07:46場合各モデルごとにダウンロードして環境
07:49構築が必要となりますしデプロイやモデル
07:53の学習には計算リソースも必要になり
07:56ますサービスによっては数に応じた柔軟な
08:00スケーリングなど考慮すべきことも
08:03たくさんあり
08:05ますまたプライバシーとセキュリティに
08:09関するご質問も多く伺い
08:11ます生成を活用することで学内のデータが
08:15漏れてしまわないのか国内に存在する
08:19モデルでサービスを行いたいといったご
08:22要望があるお客様もいらっしゃると思い
08:26ます私たちはそうした課題をAWSの生成
08:31AIサービスで解決できればと考えてい
08:36ますAWSの生成アのサービスは3つの
08:40カテゴリーに分類でき
08:42ますまずアプリケーションとして基盤
08:46モデルをお使いいただけるスタックとして
08:49Amazon9を始めとしたラインナップ
08:51があり
08:52ます中間の回は基盤モデルを使って
08:57それぞれにアプリケーションを作っていく
08:59ためのツールであるAmazonベッド
09:01ロック
09:03です最後にGPUを搭載した仮想サーバー
09:08など基盤モデルそのものを作るための
09:11インフラストラクチャーもサービスとして
09:13提供してい
09:15ます研究ではインフラストラクチャーを
09:18利用されたいニーズもあると思いますが
09:21本日ご参加の皆様の多くのエリアでは上2
09:25つのサービスが質となってくると思います
09:27ので本日はこれらのサービスについてご
09:32紹介していきたいと思い
09:35ます最初はAmazon9
09:39ですAmazonQはそれぞれの業務に
09:42応じて問題を解決したりコンテンツを生成
09:46するための生成AIのアシスタント
09:50です他のサービスと連携して適切な情報を
09:55把握することで業務を効率的に進めること
09:58ができます
10:01コドを書いたり追加の開発をしなくても
10:04利用を開始することができ
10:07ます以降のスライドではAmazonQの
10:11機能の中でもAmazonQビジネス
10:15AmazonQinクイックサイトを紹介
10:17したいと思い
10:21ますまずAmazonQビジネスはデータ
10:26ソースとして核内の文章を参照し
10:29その文章に沿って生成でテキストを生成
10:33することができ
10:35ます204年4月時点でデータソースは
10:40英語のみの対応となっています
10:42が40以上のアプリケーションをサポート
10:45していてボックスドロップボックス
10:50スラッグ全デスクなどに対応してい
10:55ます生成AIによる文章が本当に正しいか
10:58どうか確かめられるように引用もも掲示さ
11:02れているのでどの文章をもに回答が生成さ
11:06れたかを後から確認することができ
11:11ます大学のデータ資産と連動させることで
11:15簡単にAIを組み込むことができるのでは
11:17ないかと思い
11:20ます次はAmazonキイクイックサイト
11:25ですAWSには可視化のための
11:29ダッシュボードを簡単に構築する
11:31Amazonクイックサイトという
11:32サービスがあります
11:34がこちらにAmazonQを組み込むこと
11:37でダッシュボードで表示するデータに生成
11:41アの知見を加えることができ
11:44ます例えばダッシュボードに先月の注文数
11:48が増えたのはなぜですかという風に質問
11:51すると注文の増加に影響を与えた原因を
11:54示すダッシュボードを作ることができ
11:57ます一般一般的にダッシュボードを作る
12:01ためにはVIツールを操作するための作法
12:04を覚えないといけませんがAmazon9
12:07と連携させることで簡単な指示だけで
12:10ダッシュボードを作ることができ
12:13ますこちらも2024年4月時点では英語
12:18のみの対応となってい
12:21ます次にAmazonベッドロックについ
12:24てご説明していき
12:26ますAmazonベッドロックは
12:29基盤モデルを活用した生成ア
12:32アプリケーションを簡単に構築できる
12:34AWSサービスであり現在東京リージョン
12:39を含む6つのリージョンで一般提供されて
12:42い
12:44ますお客様はベッドロックが管理する基盤
12:48モデルに対してAPIを返して簡単に
12:52アクセスすることができ他のAWS
12:55サービスと組み合わせてアプリケーション
12:58を構築することができ
13:01ます基盤モデルを動かすためのインフラ
13:04管理はAWSに任せてお客様は
13:08アプリケーションなどのその他の実装に
13:11集中することができ
13:14ます基盤モデルも多数用意されており業務
13:19や用途に応じて最適なものを選択
13:22いただけるようになっていますし他の
13:25AWSサービスと同様にセキュアな利用や
13:29やコンプライアンスも実現可能
13:33ですAmazonベッドロックの大きな
13:36特徴の1つは幅広く基盤モデルを提供し
13:39てるということ
13:41ですAmazonが開発している基盤
13:44モデルだけでなく業界をリードする様々な
13:48AI企業の高性能な基盤モデルに簡単に
13:51アクセスすることができテキスト生成
13:54モデルや画像生成モデル踏み込みモデルと
13:59た種類が提供されてい
14:02ます進化やトレンドの移り変わりが激しい
14:05この生成AIの分野でお客様が迅速に最新
14:09のモデルにアクセスできるように
14:11アップデートを続けており今年に入っても
14:15多くのモデルが追加されてい
14:19ますオレンジ色に記載されたモデルは今年
14:22に入って公開もしくは今後利用開始になる
14:26ことが発表されているモデルであり
14:29サービスが拡充し続けていることをご理解
14:32いただけると思い
14:34ますベッドロックの幅広い基盤モデルが
14:37利用できるメリットの1つとして出力の
14:41品質や応答速度とともに利用コストの
14:45バランスを見ながら最適なモデルを用途に
14:48応じて選択いただくことが可能
14:51ですスライドの例はアトロpiic社の
14:55クー3と呼ばれる日本語にも対応した
14:59テキスト生成やマルチモーダルな用途で
15:02利用できる基盤モデルですが
15:05パフォーマンスや速度に応じて複数の
15:07モデルが提供されておりそれぞれに必要な
15:11コストが異なり
15:14ますすぐに応答させたいユースケースでは
15:17クード3の俳句を用い非常に複雑なモデル
15:21はオーパスを用いるなどバランスが良い
15:25モデルを選択して利用することができる
15:28メリットがあります
15:31ただし皆様のユースケースに最適なモデル
15:35を選択することができる一方でこうした
15:38評価にあたっては従来であれば評価のため
15:42のプログラムを実装しなければならなかっ
15:44たり評価のためにリソースを割かなければ
15:48ならないといった悩みがありまし
15:51たそこでAmazonベッドロックでは
15:55モデルバリエーションインAmazon
15:57ベッドロックという機能を提供してい
16:00ますこちらは指定した複数の基盤モデルを
16:04コーディング不要で簡単に比較評価できる
16:07機能となってい
16:08ます評価の方法としては自動評価か人間に
16:13よる評価の2種類から選択でき自動評価の
16:17場合は特定のタスクを選択し与えられた
16:21データセットから自動で評価を実施し
16:24ますデーターセットや評価指標はAWSが
16:30提供しているものやお客様独自のものを
16:33指定でき
16:34ます人間による評価の場合はお客様独自の
16:39チームかAWSマネージのチームによって
16:42評価を行え
16:44ます評価の結果はレポートとなって
16:48コンソールから確認することが可能
16:51ですまたAmazonベッドロックでは
16:55基盤モデルをカスタマイズする方法を2つ
16:58提供してい
17:00ます1つはファインチューニングといって
17:04ラベル付けしたデータを使ってモデルを
17:06カスタマイズしていく方法
17:09ですこれによって基盤モデルを特定の
17:13タスクに特化させて活用することができ
17:16ますこちらはメダ社が提供しているラーマ
17:202やタタンテキストが対応してい
17:25ます2つ目は継続事前学習と呼ばれるもの
17:30ですこちらは学習させた文章を多く用意し
17:34て基盤モデルに追加のドメイン知識を学習
17:38させ業界特有のモデルとして使っていく
17:41ことができ
17:43ますこの方法は現在対Tテキストのみが
17:47対応してい
17:49ますまたこの機能で利用したデータは元の
17:54モデルのトレーニングには一切利用され
17:57ません
18:00Amazonベッドロックを使用すると
18:03データを確実に管理でき
18:05ます基盤モデルをチューニングする際その
18:09モデルのプライベートコピーを元にした
18:11基盤モデルが構築されますつまりデーター
18:16がモデルプロバイダーと共有されたり
18:19ベースモデルの改善に使用されたりする
18:21ことはありませ
18:23んAWSプライベートリンクを使用すると
18:28vpcをインターネットトラフィックに
18:30さらすことなくvpcからAmazon
18:33ベッドロックへのプライベート接続を確立
18:36し
18:37ます最後にベッドロックはISOSOC
18:44CSAなどの一般的なコンプライアンス
18:47基準の対象でありgdprやhipaaに
18:52準拠してい
18:55ますまた責任あるAIを実現する仕組みと
18:59してガーrails4Amazonベッド
19:02ロックを提供してい
19:04ますこちらは不適切な利用のブロックや
19:08有害コンテンツの排除など学内機関内の
19:13ポリシーに従って入出力の内容を制御し
19:17ガードレールとして設定できる機能となり
19:21ますユーザーからの質問を避けたい話題を
19:24設定し回答を拒否したり侮辱や暴力などの
19:28有害コンテンツをフィルタリングすること
19:30が可能
19:32ですまた入出力内容の個人情報の特定や
19:37削除ができる機能やカスタムワードを
19:40フィルタリングする機能の搭載も
19:42アナウンスされてい
19:44ますこれらの機能は2024年4月時点で
19:49英語のみですがベッドロックの全ての大
19:53規模言語モデルで適用可能となっています
19:59AmazonウェブサービスJAPANで
20:00はAmazonベッドロックの基盤モデル
20:03と他のAWSのサービスを組み合わせて
20:08生成AIのビジネスユースケースを
20:10デモンストレーションできる
20:12ジェネレーティブデザイン
20:29デベロッパー向けの機能をカスタマイズ
20:31することも可能
20:33ですまた利用者の利用履歴をアカウント内
20:37に閉じて記録できる機能や認証やIP
20:41アドレス制限を有効化することで
20:44セキュリティも管理でき
20:47ますではここでgenererAIユ
20:51casesjpを使った生成AIの文書
20:55要約のデモをお見せしたいと思います
20:59生成アへのインプットとして文部科学省の
21:04基礎研究振興部会の議事を行為を約し学内
21:08で内容を共有することを想定してい
21:12ます政成への指示として学内関係者に共有
21:17するために議論を要約することとします
21:20また記載方法を細かく指示し
21:25ますそれではデモを見ていきましょう
21:30こちらがgenererAIユcases
21:33JPのgui画面
21:36です文書生成のユースケースを利用し
21:43ます画面上部に文書生成に用いる基盤
21:47モデルを選択する画面があり今回は
21:52clow3のソネットを指定し
21:56ます入力ボックスには
21:59基礎研究振興部会第12回の議事録を
22:02貼り付けまし
22:04た文書形式の指として質疑応答の対応者を
22:09記載すること大学として留一事項を記載
22:14することまた可能な限り詳細に記載する
22:17ことなどの指示を記載し処理を開始させ
22:23ます越しますと疑似録の内容をまとめて
22:27要約された文章を整合が取得し
22:31ますこちらをそのまま利用するには少し
22:35精査が必要ですが最初の叩き台として利用
22:39するには十分なレベルと言えるのではない
22:42でしょう
22:43かまたユースケースには音声から文字
22:48起こしをして内容を要約することもできる
22:51ため音声ファイルがあれば同様に議事の
22:55要約機能を試すことも可能です
23:02今お見せしたのは文章の要約でしたが視聴
23:07されている方の中には核内研究機関内の
23:11情報を基盤モデルに回答させたいという
23:14ユースケースをお持ちの方がおられるかも
23:16しれませ
23:18ん先ほどのジェネレAIユCASJPでも
23:23同様のユースケースを提供しておりこの
23:26実現方法についてれしていただければと
23:29思い
23:31ます基盤モデルは事前学習してその内容を
23:36元に質問に答えることができますが組織内
23:40だけに存在し学習に使われないデータは
23:45基盤モデルが知り得ない情報であり回答が
23:48できませ
23:50ん回答ができないならまだいいですが
23:54ハルシネーションと呼ばれる最もらしいが
23:57正確ではではない回答を行ってしまうこと
24:00も
24:00ありこれらは基盤モデルを利用した検索の
24:05課題となってい
24:07ますそのため生成愛が苦手とする領域に
24:12関しては他の外部データーやサービスを
24:15組み合わせるアプローチがあり
24:18ますこのユースケースでは学内研究機関内
24:23に閉じたナレッジをどうやって生成AIに
24:26飲み込ませるかがポイントとなり
24:30ますナレージ全体では文書量が膨大となっ
24:34てしまうため全ての文章を生成アに
24:38埋め込ませることはできませ
24:40んこれを解決するアプローチの1つとして
24:45機関内の検索エンジンから関連情報を収集
24:48し取得した関連情報とユーザーからの
24:52リクエストを基盤モデルに入力することで
24:55回答を得
24:56ますこうすることでllmのご回答を抑止
25:01しナレッジベースに基づいた回答を導き
25:05出し
25:06ますこの手法を検索拡張生成ラグと言い
25:14ますこのラグを実現する方法の1つとして
25:19AWSのエンタープライズサーチの
25:22サービスであるAmazonケドラと基盤
25:26モデルを組み合わせる方法があります
25:30通常の生成アの問い合わせではユーザーが
25:34入力した質問を基盤モデルに入力して基盤
25:38モデルの応答をそのままユーザーに
25:40レスポンスとして返し
25:43ます検索サービスとの組み合わせ例では
25:47ユーザーから受け付けた質問は最初に検索
25:50クエリーとして検索サービスに入力し
25:54ます検索サービスではあか保存されている
25:59学内の文書などを検索し関連する文書を
26:03抜粋し
26:05ますその関連する文書の抜粋とユーザーの
26:10質問を基盤モデルの入力とすることにより
26:13学内文書に基づいた回答を生成しユーザー
26:17の質問に対して回答し
26:21ます検索サービスの実現方法はいくつか
26:25あり検索制度やユーザーによる
26:28カスタマイズのウにより採用される
26:31サービスは変わってき
26:35ます最後に生成AIを活用したいという
26:39モチベーションが生まれた方向けに生成
26:42AIをどうやって始めていけばいいかをお
26:45伝えしていき
26:48ますAWSのプロフェッショナルサービス
26:51では生AIをどうやって使っていけばいい
26:55のかアイデアを考えるところから実際に
26:59PCを行いアイデアが有効なのか確かめる
27:03概念実証
27:04支援その後の設計開発
27:08支援運用設計支援まで必要なフェーズから
27:13幅広く支援することができ
27:16ます精AIを利用したいと思っているが
27:20どこから着手すればいいか考えたいという
27:22お客様だったり生成AIで解決した課題は
27:27明確でその実現方法を相談したお客様など
27:31様々な方にご利用いただけ
27:34ますその他にも生成AIを使っていく時に
27:39まずはガイドラインから整備したいという
27:42お客様へガイドラインの策定支援といった
27:45ご支援も可能
27:48ですまたとにかく早く生成AIのサービス
27:53を利用したい生成AIを試したいというお
27:57客様は
27:58すでに展開されているサーズや生成AIを
28:02簡単に導入できるサービスを展開している
28:05パートナー企業のメニューを利用すること
28:07もご検討
28:10くださいこの後クラスメソッド様の生成
28:15AIのサービスのご紹介があるのでこちら
28:18を是非お聞きになって
28:22ください私のセッションは以上となります
28:25ご清聴ありがとうございました
28:31これからのセッションはプラスメソ
28:33株式会社より大学研究期間における生成
28:37AI活用2週間で石和なラグ環境をご提供
28:41ラララグ導入パックのご紹介としましてお
28:44話しさせていただきます改めてクラス
28:47メソッドの熊と申しますよろしくお願い
28:50いたし
28:51ます昨年の2023年3月に生成AIの
28:56サービスが世の中に公開されまして各所
28:59から様々な予測がて出ておりますがAIが
29:03業務に日に日に浸透していってまして働き
29:05方を書いていく存在になってきております
29:08本日お話しする内容としましては大学研究
29:11機関における業務でのAI活用例とその
29:15ソリューションについてご紹介させて
29:17いただければと思い
29:20ます改めて生成AIが得意とされるタスク
29:24の一覧を見てみましょう文字やデータの
29:27取り扱い得意とする言語モデルを中心とし
29:30てその他には画像や音声を生成するモデル
29:33もあり
29:34ます職種別の活用方法を見ると様々な領域
29:39で活用法が編み出されている状況になって
29:41きておりますその中でも特に有効なのが
29:45問い合わせ対応業務に対して生成AIを
29:48活用する例になりまして本日はえそちらに
29:52ついて詳しくお話しさせていただければと
29:54思い
29:57ますなぜ問い合わせ対応業務に有効なのか
30:00というお話をしますが普段からスライドに
30:03書いてあるような人材不足業務の難易度が
30:06上がってきている引き継ぎがうまくいか
30:09ないといった悩みや課題を抱え
30:12てらっしゃる方が多いんじゃないでしょう
30:14かこれらに禁してえ問い合せ業務の負荷が
30:18高くなっているものとえ考えております
30:21こういっった問題は職種に関係がなく組織
30:24全体で起こり起こり得るものになりまして
30:28効率化できると高い効果につがることが
30:31期待でき
30:32ますナチを扱うことと生成AIが得意と
30:36する回答生成は相性が非常に良くてAIを
30:39導入検討する課題として有効なテーマに
30:42なり
30:45ます問い合わせ業務の課題に対して具体的
30:49にどのようにアプローチしていくかと言い
30:51ますとえ大きく2つあります問い合わせが
30:55発生する根本根本的な原因として必要な
30:58情報が見つけられないやそもそも存在し
31:01てるか分からないといったことがあります
31:03のでそういった課題に対して法律的に情報
31:07情報を検索できるような仕組みを用意し
31:11ます次に問い合わせに対する回答作成も
31:15また負荷が高いように作業になりますので
31:19代わりにAIに回答を作ってもらうことで
31:22人間はより重要な業務に集中できるような
31:25状態にし
31:26ます問い合わせする方もえ受ける側も同時
31:30に生産性を上げることになり
31:32ますこの時情報検索と生成AIを
31:36組み合わせたソリューションを使いますが
31:39検索拡張生成通称えラグと言われるものが
31:43ござい
31:47ますラグが登場した背景ですが従来の生成
31:51AIですと社内情報など一般に公開されて
31:55ない情報については回答ができない問題が
31:57ございますがAIに自社の情報を追加する
32:01方法として制度を出しやすいという点で
32:04ラグを採用する企業企業や組織が増えて
32:08いる状況になっており
32:12ますクラスメソッドではこのラグの機能を
32:16持った環境を簡単に構築できるサービスと
32:19してえラララグ導入パックというサービス
32:23を提供させていただいておりますラララグ
32:26導入パックを導入す3つのメリットとし
32:28ましてえっと1つ目がチャットボットに
32:31よる自動回答によりえ人の作業項数を大幅
32:35に減らすことができるようになります2つ
32:38目は車内の様々なドキュメントを横断して
32:42検索して回答生成できるえ仕組みが導入
32:47できます3つ目は生成AIの自然な日本語
32:51文書による回答によって回答品質をえ
32:54上げることが可能になります
32:59ラララグ導入パックのサービスのイメージ
33:02になりますが左側に利用者質問する方が
33:06いらっしゃいます利用者はまずスラックや
33:09チームズといったチャットツールから質問
33:12を投げますで質問を受け付けるとえ
33:15クラウド環境にあるですねAmazon
33:18ベッドロックという生成AIの基盤や
33:21Amazonケドラという情報検索の
33:23サービスが動作しまして質問に対して必要
33:28な情報をですねあらかじめアップロードさ
33:30れたドキュメントから探してきてえ回答を
33:33作成するような仕組みになっており
33:35ますここで皆さんにイメージを持って
33:38もらうためにえ簡単なデモをですねさせて
33:41いただければと思い
33:46ますただいまクラスメソッド車内に使って
33:49いるteamsのえ指定しましたえ車内に
33:52使ってるこれスラックの画面を表示させて
33:55いただいておりますクラスメソッドでは
33:58業務規定に関する問い合わせ対応業務を
34:01現在AIによって実施させていただいて
34:04おりましてえ質問するとですね色々とAI
34:08が回答してくれるようになっております
34:11試しにですね経費申請の方法について質問
34:14を投げてみたいと思い
34:18ますはい質問しますと即自にチャット
34:22ボットから返答が書いてきましてこのよう
34:25にえドキュメントからですねですね必要え
34:28回答を作成して返答してくれるような
34:31仕組みになっており
34:34ますえこの際にですねどのドキュメントを
34:38参照して回答したかが分かるようにえ参照
34:42したドキュメントの注釈を振るようにして
34:43おり
34:45ますこちらに参照今回参照した
34:48ドキュメント0番1番2番のえタイトルが
34:52表示されるようにしております各
34:55ドキュメントはリンクになっておりますの
34:58でえ該当するドキュメントにですね直接
35:01飛ぶこともできるようになっており
35:05ますあとはえ利用者がですね運営者に
35:08フィードバックできるようにこういった
35:10簡単なアンケートもですねえ入れて回答
35:13するようにしており
35:20ます改めてえラララグ導入パックの
35:23サービスの特徴をえ見ていきたいと思い
35:26ます
35:28まずこちらのサービスはですね
35:30テンプレート化されたものをお客様に提供
35:32する形態になっておりますのでえ非常に
35:35堪能期でのえ導入構築が可能になっており
35:39ます続いて質問を
35:41ええ入力するですねツールは使え慣れてる
35:46ですねこういったスラックやチームスと
35:47いったチャットツールからえ入力できる
35:50ようにさせていただいており
35:56ますはい
35:58で回答生成をするえ言語モデルについては
36:01ですね様々な言語モデルをえ指定してえ
36:05連携できるようにしてありますその時その
36:08時ですね最新のモデルと連携して使える
36:11ようにしてあり
36:13ます生成AAがえ回答を作成する際に
36:17読み込むドキュメントについてはですね
36:20AWS上の石和な環境にえ保管管理をし
36:23ますので安全にえ利用することが可能に
36:26なっております
36:29ドキュメントのアップロードには専用の
36:31アップロードアップロードするための画面
36:33を別とえご提供しておりますのでえ専門的
36:37な知識はなくても簡単に運用できるように
36:40なっており
36:42ますで回答に対するフィードバックが
36:45できるような機能もが入っておりますので
36:48運営者はフィードバックのえ結果を分析し
36:51てですねえ改善をのサイクルを回すことが
36:55可能になっております
37:01えクラスメソッドではえこのチャット
37:04ボットを自社でも導入して運用しており
37:06ましてその導入国家をえ外部にですね公開
37:10させていただいており
37:11ます1ヶ月ほどえ効果検証を行った結果
37:15ですね約500件近い問い合わせを
37:18チャットボットの方で受付をしましてその
37:21うち7割に関してはえ人の手を返さずにえ
37:25生成AIの回答のみでえ完結するという形
37:29でえ非常に高いあの業務業務効果を出す
37:32ことにえ繋がっており
37:35ます残りの3割に関してもえ人のですね
37:38補助を入れることでえ質問に対して回答
37:42できるようになっておりましてはいえこの
37:45際ですねあの回答制度をより上げるための
37:48工夫としましてえ必要なドキュメント追加
37:51で導入するであったりだとかえっと質問
37:55する側のですね利用者のえっと足を上げる
37:58ための教育を実施するなどしてえできる
38:01限りですねこのAIの回答で
38:04え完結するような形にえ日々ですね改善を
38:08していってるようなところでござい
38:14ますラララグ導入パックのですねえ導入
38:18形態としては大きく2通りありまして
38:20えっと1つ目がテンプレートをそのままの
38:23形で導入するえテンプレート導入パックが
38:25ございます
38:28こちらはえ非常に堪能期での導入が可能に
38:31なっておりましてあのすぐに検証したいと
38:35かですねまずはえP使用してみたいといっ
38:37たえ用途に対して非常に最適なえ導入方法
38:41になっており
38:42ますでもう1つがえカスタマイズパックと
38:45いうえものがございましてこちら
38:48テンプレートをベースとしたえ追加解説を
38:50行うことでお客様ここのですね要件に対応
38:53するようなものを導入することができる
38:55ようになってなっております
38:58こちらはカスタマイズの内容次第により
39:00ますけどもおよそ3ヶ月から半年程度です
39:03ねえの期間でえ導入できるような目安に
39:06なっており
39:09ますで導入させていただいた後のサポート
39:12についてなんですけどもえ回答制度のです
39:15ねえ回答制度を上げるためのえ色々
39:18チューニングのポイントっていうのがあり
39:20ますのでえそのその部分をクラスメソッド
39:23からえ色々コンサルティングさせて
39:25いただきながらですねええ改善サポートを
39:29実施してまいりますで具体的にはえ情報
39:33検索の部分のえポ改善だったりだとかあと
39:36は生成AIに指示を出すプロンプトの内容
39:39の改善あとは生成AIに読み込ませるえ
39:43ドキュメントのですねえこちらの形式だっ
39:46たりだとかえその前処理といったところを
39:50ですねえ下車の方からアドバイスをさせて
39:52いただいております
39:57え続いてシステム構成図になりますえと
40:00先ほどデモで見ていただいた通りまずは
40:03チャットツールから質問を入力する形に
40:05なりますのでえこういったスラック
40:07teamsからえ利用を開始するような
40:09流れになりますその裏側にはですねAWS
40:13のアプリAWS上で動いてる
40:15アプリケーションがおりましてこの
40:17アプリケーションが質問を受け付けますと
40:19まずですね情報検索をするために
40:21Amazonケドラというサービスに対し
40:23て質問内容を送ります
40:27質問を受け取ったケドラはですねその質問
40:30に関連する関連性の高いドキュメントをえ
40:33このS3というストレージに入ってる
40:36ドキュメントから検索をしていきますえ
40:40この時検索結果として大体5件からですね
40:4310件ほどのえドキュメントをえ抽出して
40:46くるんですけどもその抽出した
40:48ドキュメントを次に訂正AIAmazon
40:51ベッドロックの方にえ渡しましてそちらで
40:54質問に対して必要な必要な情報を抽出して
40:57回答をえ作成するような流れになり
41:00ます定正AIによってですね作られた回答
41:04にえ必その他にえ追加するま付加情報を
41:08つけてですねえ利用者に回答するという
41:10ような流れになっており
41:15ますテンプレート導入パックのえ流れに
41:18なりますけどもまず事前準備としてお客様
41:22の方では生成AIに読み込ませたい
41:24ドキュメントのデータのご準備ええ続いて
41:28えこの環境をですね動かすためのAWS
41:30アカウントのえ取得準備えあとはチーム
41:34スラック上のですねえチャットツール上の
41:36設定がございますのでそちらの作業がえ
41:39発生いたし
41:40ますで準備が整いますと弊社の方でえ関係
41:44を構築していきますのでえはいえそれと
41:48並行したお客様の方ではえ準備して
41:51いただいたデータをクラウド環境に
41:52アプロードしていただき
41:54ますえ利用開始しますとえ弊社の方でえ
41:59運用やサポートえ適宜実施させていただき
42:02ますえっとデータの更新はですね適宜え
42:06できますのでま最新の情報だったりだとか
42:08変更があったドキュメントを適宜ですね
42:10アップロードして運用していくような流れ
42:12になり
42:17ますでこちらのえラララグ導入パックのえ
42:22導入費用になりますでまずえお客様ごとに
42:25ですね個別に環境構築していくような形に
42:28なりますのでえ初期構築費用としてまず
42:31テンプレート導入パックですとえ税抜きで
42:34211万円の費用をいたいて対応しており
42:37ますカスタマイズパックについては
42:40カスタマイズの内容によって費用がえ
42:42異なってまりますのでこちらベッドお
42:44見積もりとさせていただいており
42:46ますで次にランニング費用ですが構築した
42:51環境についてえクラスメソッドでえクラス
42:54メソッドに運用保守を依頼する場合は運用
42:57保守費用としてえ月額10万円のえ費用を
43:01いだいておりますでAWS料金のですね
43:06請求代行サービスとしてえ弊社の方で
43:09クラスメソットメンバーズというサービス
43:10をえベと提供させていただいてるんです
43:13けどもそちらと合わせてご契約いただくお
43:16客様については運用保守費用は半額の
43:185万円でえご提供させていただいており
43:22ますでその他にかかる費用としましては
43:25AWSのインフラ利用量あとはllm大え
43:30大規模言語モデルの利用量が重量課金で
43:33実際に使った分がですね実でえ発生して
43:36まいり
43:37ます預金はえ以上になり
43:42ますでクラスメソッドではこのラララグ
43:46導入パックのご提供始めとしてですねその
43:49他にもえお客様の車内に使うAI環境の
43:52構築サービスだったりだとかあとはAIを
43:55活用する上でのえ技術コンサルティングや
43:58え住宅開発開発支援といったところをえ
44:01幅広くやらさせていただいておりますまた
44:04導入後のですね先生へのえ車内活用を促進
44:08するための様々なえ教育支援というところ
44:11でセミナー等のえサービスも実施をさせて
44:14い提供させていただいており
44:21ますで最後になりますけどもえっと本日え
44:25弊社のセッションをえ聞いていただいた皆
44:28様に対してご案内になりますえっと今回え
44:32ご案内したラララグ導入パックこちらの
44:35導入に際してえ必要になるえ前後の業務
44:38課題のえ抽出であたりだとか導入後の評価
44:42というところでえ実際どういった効果が
44:45あったかっていうとこのレポートですねえ
44:48こういったえっと環境導入と合わせた前後
44:50のですねサポートっていうのを一式にし
44:52ましてえ生成AI導入コンサルパックとし
44:56てえ回特別にご提供させていただければと
44:59思っておりますはいえ通常ですねこちらの
45:03あの作業っというところ含めて大体通常3
45:0730000万円相当の支援になるんです
45:09けどもえ本日えセミナーに参加されたお客
45:12様限定ですね特別あの180万円でえご
45:15提供させていただきますのでえ詳しく詳細
45:18知りたい方に方に関しましてはえ是非です
45:21ねお問いただければと思い
45:24ますえ以上もましてえチスメソッドの
45:28セッションを終了させていただければと
45:30思いますえ最後までごご清聴いただきまし
45:32てありがとうございました
Browse More Related Video
生成AIアプリが作れる「Dify」の入門＆ビジネス活用～ビジネスパーソン必見！GPTsを超える業務特化アプリが簡単につくれて配布もできちゃう…！
【必見】ファインチューニング入門～コスト98％削減も！ビジネスマンは知っておきたいファインチューニングの基本＆活用事例＆活用パターン
生成AI企業導入5つのステップ～SHIFT AI木内さんに学ぶ、AI活用の成功企業の導入の秘訣
【総集編】copilotの教科書【使い方、活用方法を解説！】
【スタンフォード式子育て】最新の脳科学・心理学200以上の研究論文に裏打ちされた子育てメソッド／最新研究から分かった 音・映像教材の効果／「しつけvsのびのび」子育ての科学的答え
excel 1
5.0 / 5 (0 votes)
