大学・研究機関で 生成 AI の活用にお悩みの全ての方々へ、業務の負荷軽減・効率化に向けたご提案
Summary
TLDRこのセッションでは、大学研究機関におけるAWS生成AIサービスの活用方法を紹介します。Amazon Web Services Japanの佐々が自己紹介し、生成AIの基本概念、代表的な基盤モデル、そして具体的な利用例を説明します。大学研究機関向けに最適なソリューションとして、Amazon BedrockやAmazon Qの機能とメリットが詳述され、生成AIの導入手順とその効果についても触れています。最後に、ラララグ導入パックの具体的な構成とその導入方法について説明があり、セッションは終了します。
Takeaways
- 😀 セッションの目的は、大学研究機関におけるAWSの生成AIサービスの活用方法を紹介することです。
- 👥 自己紹介では、話者はAmazon WEBサービスJAPAN合同会社のソリューションアーキテクトで、主に大学研究機関向けの技術支援を行っていると述べています。
- 📈 AWSの生成AIサービスは、会話、ストーリー、画像、動画などの新しいコンテンツやアイデアを生み出すAIであり、多くの分野で活用が進んでいます。
- 🔍 基盤モデルは事前学習された大規模モデルを用いて、テキスト生成などを行うための機械学習の進歩を紹介しました。
- 📚 代表的な基盤モデルとして、テキストtoテキスト、テキストtoエンディング、マルチモーダルのモデルが挙げられ、それぞれ異なる機能を有しています。
- 🏥 大学病院での業務効率化の取り組みとして、AWSの生成AIを用いた文章の生成が行われている事例が紹介されました。
- 💡 生成AIは研究業務や教育機関としての役割、経営ジムなど様々なフィールドで活用される可能性があると話されています。
- 🚀 AWSの生成AIサービスは、アプリケーションとして基盤モデルを提供するAmazon 9、ツールとして基盤モデルを使ったアプリケーション作成のためのAmazon Bedrock、インフラとしてGPU搭載仮想サーバーなどを提供していると説明されています。
- 🛠️ Amazon Bedrockは、基盤モデルを利用して生成アプリケーションを簡単に構築できるAWSサービスで、多様な基盤モデルを提供しています。
- 🔒 プライバシーとセキュリティに関する質問にも触れており、AWSの生成AIサービスはコンプライアンスにも配慮していると強調されています。
Q & A
セッションの目的は何ですか?
-セッションの目的は、大学研究機関に所属されている皆様を対象にAWSの生成AIサービスを活用する方法とその始め方について説明することです。
佐々木さんはどのような部署に所属していますか?
-佐々木さんはAmazon WEBサービスJAPAN合同会社ソリューションアーキテクトであり、主に公共部門のお客様を担当する部門に所属しています。
生成AIとはどのようなAIですか?
-生成AIとは会話、ストーリー、画像、動画など新しいコンテンツやアイデアを生み出すことができるAIです。
基盤モデルとは何を指しますか?
-基盤モデルとは多くのデータに基づいて事前にトレーニングされた大規模モデルを指し、機械学習の進歩により数十億のパラメーターや変数を含むモデルです。
テキスト生成において基盤モデルはどのように動作しますか?
-テキスト生成において基盤モデルは次の単語が来る確率が高いものを選択し、テキストを生成していきます。
AWSの生成AIサービスはどのように分類されますか?
-AWSの生成AIサービスはアプリケーションとして基盤モデルをお使いいただけるスタック、ツールとしてのAmazon Bedrock、インフラストラクチャーとしてのGPUを搭載した仮想サーバーなど、3つのカテゴリーに分類されます。
Amazon QuickSiteとは何ですか?
-Amazon QuickSiteはAWSのサービスで、可視化のためのダッシュボードを簡単に構築することができるサービスです。
Amazon Bedrockはどのようなサービスですか?
-Amazon Bedrockは基盤モデルを活用した生成アプリケーションを簡単に構築できるAWSサービスです。
生成AIを導入する際の悩みとして挙げられたものは何ですか?
-生成AIを導入する際の悩みとして、どのモデルを選べば良いかわからない、環境をどう準備すれば良いかわからないといった問題が挙げられます。
クラスメソッドのラララグ導入パックとは何ですか?
-クラスメソッドのラララグ導入パックは、大学研究機関における業務でのAI活用例とその解決策を提供するサービスです。チャットボットによる自動回答、ドキュメントの横断検索、自然な日本語での回答生成が特徴です。
ラララグ導入パックのメリットは何ですか?
-ラララグ導入パックのメリットとして、チャットボットによる自動回答で作業量を減らす、ドキュメントを横断して検索して回答生成できる仕組みを導入することができる、自然な日本語での回答で回答品質を上げるといった点が挙げられます。
ラララグ導入パックの導入形態にはどのようなものがありますか?
-ラララグ導入パックの導入形態には、テンプレートをそのまま導入するテンプレート導入パックと、テンプレートをベースにカスタマイズするカスタマイズパックの2通りがあります。
ラララグ導入パックの導入費用はどのくらいですか?
-ラララグ導入パックのテンプレート導入パックの費用は税抜きで211万円です。カスタマイズパックについては、カスタマイズの内容によって異なります。
クラスメソッドが提供するサービスには何がありますか?
-クラスメソッドが提供するサービスには、AI環境の構築サービス、技術コンサルティング、AIを活用する上での教育支援、セミナーなどのサービスが挙げられます。
Outlines
📚 大学研究機関でのAWS生成AIサービスの概要
このセッションでは、AWSの生成AIサービスを大学研究機関でどのように活用できるかを紹介します。自己紹介として、Amazon Web Services Japanのソリューションアーキテクト、佐々が登場し、主に公共部門の技術支援を担当しています。生成AIは会話、ストーリー、画像、動画など新しいコンテンツやアイデアを生み出す能力があり、基盤モデルに基づいています。具体例として、テキスト生成や画像生成の代表的な3つの基盤モデルが紹介されました。
🧑💻 大学研究機関における生成AIのユースケース
生成AIの概要と大学研究機関での活用方法について説明します。研究業務、教育機関としての役割、経営事務におけるデータ活用のユースケースが紹介されました。不事代化大学の事例では、大学病院の業務効率化のために文章自動生成が行われました。生成AIの進化が早いため、複数のモデルを簡単に利用できる環境の構築が望まれています。プライバシーとセキュリティに関する質問も多く、これらの課題にAWSの生成AIサービスで対応しています。
🔧 AWSの生成AIサービスのカテゴリと具体的なツール
AWSの生成AIサービスは3つのカテゴリに分類されます。まず、Amazon9などのアプリケーションとして基盤モデルを使用できるスタック、次に、Amazonベッドロックという基盤モデルを使ってアプリケーションを作るためのツール、そしてGPU搭載の仮想サーバーなどインフラストラクチャーです。具体的なツールとして、Amazon9ビジネスとAmazon9クイックサイトが紹介され、データソースと連動して効率的に業務を進めることができます。
🏗️ Amazonベッドロックの詳細と利点
Amazonベッドロックは基盤モデルを利用した生成AIアプリケーションを簡単に構築できるAWSサービスで、複数の高性能な基盤モデルにアクセスできます。ファインチューニングや継続事前学習を利用してモデルをカスタマイズでき、プライベートリンクを使用してセキュアな接続が可能です。幅広い基盤モデルにアクセスできることで、品質や応答速度、コストのバランスを取ることができます。
📝 Generative AIユースケースJPのデモ
Generative AIユースケースJPを使った文書要約のデモを紹介します。基盤モデルclow3のソネットを使用して文部科学省の議事録を要約し、簡単な指示で要約された文章を生成します。この方法は音声からの文字起こしにも利用でき、組織内の情報を基盤モデルに取り込む方法について説明します。
🔍 検索拡張生成ラグの活用
検索拡張生成ラグを利用して学内文書に基づいた回答を生成する方法を紹介します。Amazonケドラと基盤モデルを組み合わせ、ユーザーの質問に対して関連文書を検索し、回答を生成します。情報検索と生成AIを組み合わせることで、学内のナレッジを活用し、迅速かつ正確な回答を提供する仕組みを説明します。
🤖 問い合わせ対応業務での生成AIの活用例
問い合わせ対応業務における生成AIの有効性を説明します。AIが人材不足や業務の難易度上昇などの課題に対応し、自動回答により業務効率を向上させます。検索拡張生成ラグの機能を活用し、情報検索と回答生成を組み合わせたソリューションを提供します。具体例として、クラスメソッド社内での生成AIによる問い合わせ対応のデモが紹介されます。
🚀 ラララグ導入パックの特徴と導入メリット
ラララグ導入パックの特徴と導入メリットを紹介します。テンプレート化された形態で迅速な導入が可能で、使い慣れたチャットツールから質問を入力できます。AWS上の環境にドキュメントを保管し、セキュアに利用することが可能です。回答に対するフィードバック機能もあり、運営者はフィードバックを分析して改善サイクルを回すことができます。
🌐 ラララグ導入パックのシステム構成
ラララグ導入パックのシステム構成を説明します。チャットツールから質問を入力し、Amazonケドラで関連ドキュメントを検索、Amazonベッドロックで回答を生成します。テンプレート導入パックでは、事前準備としてドキュメントの準備やAWSアカウントの設定が必要です。構築後は運用サポートを提供し、データの更新も適宜行えます。
💡 生成AI導入コンサルパックの案内
生成AI導入コンサルパックの案内です。ラララグ導入パックと合わせて、前後の業務課題の抽出や導入後の評価を行います。特別価格での提供があり、生成AIの導入を支援します。クラスメソッドでは、AI環境の構築サービスや技術コンサルティング、教育支援も実施しており、幅広いサポートを提供します。
Mindmap
Keywords
💡生成AI
💡AWS
💡基盤モデル
💡Amazon Comprehend
💡Amazon Lex
💡マルチモーダルモデル
💡ファインチューニング
💡プライバシーとセキュリティ
💡Amazon SageMaker
💡検索拡張生成
Highlights
AWSの生成AIサービスを大学研究機関での活用について紹介
Amazon WEBサービスJAPAN合同会社ソリューションアーキテクトの佐々が講演
2024年4月時点でのサービス内容及び価格についての説明
生成AIの活用背景と基盤モデルのトレーニング方法について解説
テキスト生成を例に基盤モデルの仕組みを紹介
代表的な3つの基盤モデル:テキストtoテキスト、テキストtoエンディング、マルチモーダルモデルについて解説
大学病院の業務効率化に生成AIを活用した事例の紹介
AWSの生成AIサービスを研究機関の多岐にわたるフィールドで活用する可能性について語り
生成AIの進化が早いこととその追従の重要性について触れる
AWSの生成AIサービスの3つのカテゴリー:Amazon 9、Amazon Bedrock、インフラストラクチャーサービスの紹介
Amazon 9ビジネスとAmazon QuickSiteの機能紹介
Amazon Bedrockの機能とその基盤モデルの豊富さについて解説
Amazon Bedrockで提供されるモデルバリエーションと評価方法の紹介
ファインチューニングと継続事前学習を通じて基盤モデルのカスタマイズ方法について解説
AWSプライベートリンクとガーディアン4Amazon Bedrockによるセキュリティとプライバシーの確保について紹介
デモンストレーションとして生成AIによる文書要約のデモを実施
学内情報の基盤モデルへの取り込み方と検索拡張生成ラグの活用について解説
問い合わせ対応業務への生成AIの適用とその効果について語り
クラスメソッドのラララグ導入パックの紹介とその3つのメリットについて解説
ラララグ導入パックのデモとサービスの特徴について紹介
ラララグ導入パックの導入形態とサポート体制について解説
ラララグ導入パックの導入費用とランニングコストについて紹介
クラスメソッドの他サービスや導入後の教育支援について触れる
Transcripts
それでは大学研究期間でお伺いする悩みと
活用できるサービスのご紹介という
セッションを始め
ますこのセッションでは大学研究機関に
おいてAWSの生成合サービスを用いて
どのような活用ができるかをご紹介して
いき
ます最初に簡単に自己紹介させていただき
ます私はAmazonWEBサービス
JAPAN合同会社のソリューション
アーキテクトの佐々
です主に公共部門のお客様を担当する部門
に所属しておりましてその中でも大学研究
機関のお客様を中心に技術支援をさせて
いただいておりますどうぞよろしくお願い
いたし
ます本資料は2024年4月時点での
サービス内容及び価格についてご説明して
います最新の情報はAWS公式
ウェブサイトにてご確認
ください本セッションでは大学研究機関に
所属されている皆様を対象として我々がお
伺いする課題やユースケースについて考え
AWSの生成AIサービスで何ができるか
どうすれば始めることができるかについて
お伝えしていきたいと思い
ますそれではまず生成AIとは何か活用さ
れている背景について考えていき
ましょう生成AIは会話ストーリー画像
動画など新しいコンテンツやアイデアを
生み出すことのできるAIの
です投映しているスライドにある様々な
画像も生AIによって描かれてい
ますこれは基盤モデルと呼ばれる多くの
データに基づいて事前にトレーニングされ
た大規模モデルを用いてい
ます機械学習の進歩により数十億の
パラメーターや変数を含むモデルというの
が台頭しています
テキスト生成を例に挙げると基盤モデルは
次の単語が来る確率が高いものを選択し
テキストを生成してい
ます表示している例では学生が開くものと
して本やラップトップが確率的に上位に
来るこのようにして適切と思われる
テキストを生成してい
ます基盤モデルの特徴的な仕組みとして
構造化されていないデータを含む膨大な量
の事前学習を行って
おりそれらは非常に多くのパラメーターを
持つことで複雑な概念も学習することが
でき
ますまた従来は分野に特化したAIの生成
が必要でしたが1つの基盤モデルで様々な
タスクに対応できるようになりまし
たさらに必要なデータ情報源を指定する
ことで利用者の用途に合わせた
カスタマイズができるようになってい
ます次に代表的な3つの基盤モデルについ
て見ていき
ます1つ目はテキストtoテキスト
ですチャットを活用された方も多いと思い
ますが例えばインプットとして
ウォーキングと心臓の健康面での影響に
関する記事を要約してというテキストを
入力すると
アウトプットとして記事を要約した結果を
出力してくれるモデル
です2つ目はテキストtoエンディングと
呼ばれるもので入力されたテキストを数字
に置き換え類似した検索結果や文章を表現
し
ます例えばインプットとしてハンドソープ
というようなテキストを入力するとハンド
ソープに近い単語共に用いられる単を掲示
してくれ
ますACサイトなどで購入する際に入力に
基づいてレコメンドされる機能もこちらを
用いてい
ます3つ目はマルチモーダルのモデルです
これはインプットとして馬に乗る宇宙飛行
士というようなテキストを入力すると
アウトプットとして馬に乗った宇宙飛行士
の画像が出力されるようなモデルです
ユーザーの自然言語入力に基づいて画像を
生成するステーブルディフュージョンは
これに当たり
ますここまでは生成AIの概要をお話しし
てきまし
た大学研究機関では研究業務に加えて教育
機関としての役割また組織を運営していく
ための経営ジムといった様々なフィールド
がありますが
それぞれの領域においてデータが保有され
ておりこれらを活用した多くのユース
ケースが存在するのではないかと考えてい
ますスライドに表示したものは一例ですが
基盤モデル自体の
開発既存の基盤モデルを用いた研究や学習
効果を加速させる取り組みまた同様に経営
事務においても従来の俗人的な業務も効率
化し省力化できるのではないかといった
活用への期待が高まっていると感じてい
ます大学ヘルスケア領域における取り組み
としまして不事代化大学様の生成合を検証
いただいた事例が挙げられ
ますこちらは大学病院の業務効率化の
取り組みに当社の生成愛を用いて文章の
児童生成を行った事例となり
ます検証においての課題や成果について
事体化大学様にまとめていただいた資料を
公開しており詳細は以下のURLからご
確認いただくことができ
ます生成は役に立ちそうというお話をして
きましたが現場レベルでお伺いする悩みと
しては興味はあるけれど何を選べばいいか
わからない環境をどう準備すればいいか
わからないといったお話を伺い
ます具体的には生成アの進化は非常に早い
という点
です現時点でも多数のモデルがありそれら
のモデルも継続してバージョンアップが
続いてい
ますそのためある時点では高い性能を誇っ
ていたモデルも時がでば別のモデルに
変わる状況があるかもしれませ
んそうした進化の速さに追従するためには
複数のモデルを簡単に利用できる環境の
構築が望ましいと言え
ますその一方でその環境をオンプレミスに
構築することは非常に大変
です皆様のお手元のサーバーで管理する
場合各モデルごとにダウンロードして環境
構築が必要となりますしデプロイやモデル
の学習には計算リソースも必要になり
ますサービスによっては数に応じた柔軟な
スケーリングなど考慮すべきことも
たくさんあり
ますまたプライバシーとセキュリティに
関するご質問も多く伺い
ます生成を活用することで学内のデータが
漏れてしまわないのか国内に存在する
モデルでサービスを行いたいといったご
要望があるお客様もいらっしゃると思い
ます私たちはそうした課題をAWSの生成
AIサービスで解決できればと考えてい
ますAWSの生成アのサービスは3つの
カテゴリーに分類でき
ますまずアプリケーションとして基盤
モデルをお使いいただけるスタックとして
Amazon9を始めとしたラインナップ
があり
ます中間の回は基盤モデルを使って
それぞれにアプリケーションを作っていく
ためのツールであるAmazonベッド
ロック
です最後にGPUを搭載した仮想サーバー
など基盤モデルそのものを作るための
インフラストラクチャーもサービスとして
提供してい
ます研究ではインフラストラクチャーを
利用されたいニーズもあると思いますが
本日ご参加の皆様の多くのエリアでは上2
つのサービスが質となってくると思います
ので本日はこれらのサービスについてご
紹介していきたいと思い
ます最初はAmazon9
ですAmazonQはそれぞれの業務に
応じて問題を解決したりコンテンツを生成
するための生成AIのアシスタント
です他のサービスと連携して適切な情報を
把握することで業務を効率的に進めること
ができます
コドを書いたり追加の開発をしなくても
利用を開始することができ
ます以降のスライドではAmazonQの
機能の中でもAmazonQビジネス
AmazonQinクイックサイトを紹介
したいと思い
ますまずAmazonQビジネスはデータ
ソースとして核内の文章を参照し
その文章に沿って生成でテキストを生成
することができ
ます204年4月時点でデータソースは
英語のみの対応となっています
が40以上のアプリケーションをサポート
していてボックスドロップボックス
スラッグ全デスクなどに対応してい
ます生成AIによる文章が本当に正しいか
どうか確かめられるように引用もも掲示さ
れているのでどの文章をもに回答が生成さ
れたかを後から確認することができ
ます大学のデータ資産と連動させることで
簡単にAIを組み込むことができるのでは
ないかと思い
ます次はAmazonキイクイックサイト
ですAWSには可視化のための
ダッシュボードを簡単に構築する
Amazonクイックサイトという
サービスがあります
がこちらにAmazonQを組み込むこと
でダッシュボードで表示するデータに生成
アの知見を加えることができ
ます例えばダッシュボードに先月の注文数
が増えたのはなぜですかという風に質問
すると注文の増加に影響を与えた原因を
示すダッシュボードを作ることができ
ます一般一般的にダッシュボードを作る
ためにはVIツールを操作するための作法
を覚えないといけませんがAmazon9
と連携させることで簡単な指示だけで
ダッシュボードを作ることができ
ますこちらも2024年4月時点では英語
のみの対応となってい
ます次にAmazonベッドロックについ
てご説明していき
ますAmazonベッドロックは
基盤モデルを活用した生成ア
アプリケーションを簡単に構築できる
AWSサービスであり現在東京リージョン
を含む6つのリージョンで一般提供されて
い
ますお客様はベッドロックが管理する基盤
モデルに対してAPIを返して簡単に
アクセスすることができ他のAWS
サービスと組み合わせてアプリケーション
を構築することができ
ます基盤モデルを動かすためのインフラ
管理はAWSに任せてお客様は
アプリケーションなどのその他の実装に
集中することができ
ます基盤モデルも多数用意されており業務
や用途に応じて最適なものを選択
いただけるようになっていますし他の
AWSサービスと同様にセキュアな利用や
やコンプライアンスも実現可能
ですAmazonベッドロックの大きな
特徴の1つは幅広く基盤モデルを提供し
てるということ
ですAmazonが開発している基盤
モデルだけでなく業界をリードする様々な
AI企業の高性能な基盤モデルに簡単に
アクセスすることができテキスト生成
モデルや画像生成モデル踏み込みモデルと
た種類が提供されてい
ます進化やトレンドの移り変わりが激しい
この生成AIの分野でお客様が迅速に最新
のモデルにアクセスできるように
アップデートを続けており今年に入っても
多くのモデルが追加されてい
ますオレンジ色に記載されたモデルは今年
に入って公開もしくは今後利用開始になる
ことが発表されているモデルであり
サービスが拡充し続けていることをご理解
いただけると思い
ますベッドロックの幅広い基盤モデルが
利用できるメリットの1つとして出力の
品質や応答速度とともに利用コストの
バランスを見ながら最適なモデルを用途に
応じて選択いただくことが可能
ですスライドの例はアトロpiic社の
クー3と呼ばれる日本語にも対応した
テキスト生成やマルチモーダルな用途で
利用できる基盤モデルですが
パフォーマンスや速度に応じて複数の
モデルが提供されておりそれぞれに必要な
コストが異なり
ますすぐに応答させたいユースケースでは
クード3の俳句を用い非常に複雑なモデル
はオーパスを用いるなどバランスが良い
モデルを選択して利用することができる
メリットがあります
ただし皆様のユースケースに最適なモデル
を選択することができる一方でこうした
評価にあたっては従来であれば評価のため
のプログラムを実装しなければならなかっ
たり評価のためにリソースを割かなければ
ならないといった悩みがありまし
たそこでAmazonベッドロックでは
モデルバリエーションインAmazon
ベッドロックという機能を提供してい
ますこちらは指定した複数の基盤モデルを
コーディング不要で簡単に比較評価できる
機能となってい
ます評価の方法としては自動評価か人間に
よる評価の2種類から選択でき自動評価の
場合は特定のタスクを選択し与えられた
データセットから自動で評価を実施し
ますデーターセットや評価指標はAWSが
提供しているものやお客様独自のものを
指定でき
ます人間による評価の場合はお客様独自の
チームかAWSマネージのチームによって
評価を行え
ます評価の結果はレポートとなって
コンソールから確認することが可能
ですまたAmazonベッドロックでは
基盤モデルをカスタマイズする方法を2つ
提供してい
ます1つはファインチューニングといって
ラベル付けしたデータを使ってモデルを
カスタマイズしていく方法
ですこれによって基盤モデルを特定の
タスクに特化させて活用することができ
ますこちらはメダ社が提供しているラーマ
2やタタンテキストが対応してい
ます2つ目は継続事前学習と呼ばれるもの
ですこちらは学習させた文章を多く用意し
て基盤モデルに追加のドメイン知識を学習
させ業界特有のモデルとして使っていく
ことができ
ますこの方法は現在対Tテキストのみが
対応してい
ますまたこの機能で利用したデータは元の
モデルのトレーニングには一切利用され
ません
Amazonベッドロックを使用すると
データを確実に管理でき
ます基盤モデルをチューニングする際その
モデルのプライベートコピーを元にした
基盤モデルが構築されますつまりデーター
がモデルプロバイダーと共有されたり
ベースモデルの改善に使用されたりする
ことはありませ
んAWSプライベートリンクを使用すると
vpcをインターネットトラフィックに
さらすことなくvpcからAmazon
ベッドロックへのプライベート接続を確立
し
ます最後にベッドロックはISOSOC
CSAなどの一般的なコンプライアンス
基準の対象でありgdprやhipaaに
準拠してい
ますまた責任あるAIを実現する仕組みと
してガーrails4Amazonベッド
ロックを提供してい
ますこちらは不適切な利用のブロックや
有害コンテンツの排除など学内機関内の
ポリシーに従って入出力の内容を制御し
ガードレールとして設定できる機能となり
ますユーザーからの質問を避けたい話題を
設定し回答を拒否したり侮辱や暴力などの
有害コンテンツをフィルタリングすること
が可能
ですまた入出力内容の個人情報の特定や
削除ができる機能やカスタムワードを
フィルタリングする機能の搭載も
アナウンスされてい
ますこれらの機能は2024年4月時点で
英語のみですがベッドロックの全ての大
規模言語モデルで適用可能となっています
AmazonウェブサービスJAPANで
はAmazonベッドロックの基盤モデル
と他のAWSのサービスを組み合わせて
生成AIのビジネスユースケースを
デモンストレーションできる
ジェネレーティブデザイン
デベロッパー向けの機能をカスタマイズ
することも可能
ですまた利用者の利用履歴をアカウント内
に閉じて記録できる機能や認証やIP
アドレス制限を有効化することで
セキュリティも管理でき
ますではここでgenererAIユ
casesjpを使った生成AIの文書
要約のデモをお見せしたいと思います
生成アへのインプットとして文部科学省の
基礎研究振興部会の議事を行為を約し学内
で内容を共有することを想定してい
ます政成への指示として学内関係者に共有
するために議論を要約することとします
また記載方法を細かく指示し
ますそれではデモを見ていきましょう
こちらがgenererAIユcases
JPのgui画面
です文書生成のユースケースを利用し
ます画面上部に文書生成に用いる基盤
モデルを選択する画面があり今回は
clow3のソネットを指定し
ます入力ボックスには
基礎研究振興部会第12回の議事録を
貼り付けまし
た文書形式の指として質疑応答の対応者を
記載すること大学として留一事項を記載
することまた可能な限り詳細に記載する
ことなどの指示を記載し処理を開始させ
ます越しますと疑似録の内容をまとめて
要約された文章を整合が取得し
ますこちらをそのまま利用するには少し
精査が必要ですが最初の叩き台として利用
するには十分なレベルと言えるのではない
でしょう
かまたユースケースには音声から文字
起こしをして内容を要約することもできる
ため音声ファイルがあれば同様に議事の
要約機能を試すことも可能です
今お見せしたのは文章の要約でしたが視聴
されている方の中には核内研究機関内の
情報を基盤モデルに回答させたいという
ユースケースをお持ちの方がおられるかも
しれませ
ん先ほどのジェネレAIユCASJPでも
同様のユースケースを提供しておりこの
実現方法についてれしていただければと
思い
ます基盤モデルは事前学習してその内容を
元に質問に答えることができますが組織内
だけに存在し学習に使われないデータは
基盤モデルが知り得ない情報であり回答が
できませ
ん回答ができないならまだいいですが
ハルシネーションと呼ばれる最もらしいが
正確ではではない回答を行ってしまうこと
も
ありこれらは基盤モデルを利用した検索の
課題となってい
ますそのため生成愛が苦手とする領域に
関しては他の外部データーやサービスを
組み合わせるアプローチがあり
ますこのユースケースでは学内研究機関内
に閉じたナレッジをどうやって生成AIに
飲み込ませるかがポイントとなり
ますナレージ全体では文書量が膨大となっ
てしまうため全ての文章を生成アに
埋め込ませることはできませ
んこれを解決するアプローチの1つとして
機関内の検索エンジンから関連情報を収集
し取得した関連情報とユーザーからの
リクエストを基盤モデルに入力することで
回答を得
ますこうすることでllmのご回答を抑止
しナレッジベースに基づいた回答を導き
出し
ますこの手法を検索拡張生成ラグと言い
ますこのラグを実現する方法の1つとして
AWSのエンタープライズサーチの
サービスであるAmazonケドラと基盤
モデルを組み合わせる方法があります
通常の生成アの問い合わせではユーザーが
入力した質問を基盤モデルに入力して基盤
モデルの応答をそのままユーザーに
レスポンスとして返し
ます検索サービスとの組み合わせ例では
ユーザーから受け付けた質問は最初に検索
クエリーとして検索サービスに入力し
ます検索サービスではあか保存されている
学内の文書などを検索し関連する文書を
抜粋し
ますその関連する文書の抜粋とユーザーの
質問を基盤モデルの入力とすることにより
学内文書に基づいた回答を生成しユーザー
の質問に対して回答し
ます検索サービスの実現方法はいくつか
あり検索制度やユーザーによる
カスタマイズのウにより採用される
サービスは変わってき
ます最後に生成AIを活用したいという
モチベーションが生まれた方向けに生成
AIをどうやって始めていけばいいかをお
伝えしていき
ますAWSのプロフェッショナルサービス
では生AIをどうやって使っていけばいい
のかアイデアを考えるところから実際に
PCを行いアイデアが有効なのか確かめる
概念実証
支援その後の設計開発
支援運用設計支援まで必要なフェーズから
幅広く支援することができ
ます精AIを利用したいと思っているが
どこから着手すればいいか考えたいという
お客様だったり生成AIで解決した課題は
明確でその実現方法を相談したお客様など
様々な方にご利用いただけ
ますその他にも生成AIを使っていく時に
まずはガイドラインから整備したいという
お客様へガイドラインの策定支援といった
ご支援も可能
ですまたとにかく早く生成AIのサービス
を利用したい生成AIを試したいというお
客様は
すでに展開されているサーズや生成AIを
簡単に導入できるサービスを展開している
パートナー企業のメニューを利用すること
もご検討
くださいこの後クラスメソッド様の生成
AIのサービスのご紹介があるのでこちら
を是非お聞きになって
ください私のセッションは以上となります
ご清聴ありがとうございました
これからのセッションはプラスメソ
株式会社より大学研究期間における生成
AI活用2週間で石和なラグ環境をご提供
ラララグ導入パックのご紹介としましてお
話しさせていただきます改めてクラス
メソッドの熊と申しますよろしくお願い
いたし
ます昨年の2023年3月に生成AIの
サービスが世の中に公開されまして各所
から様々な予測がて出ておりますがAIが
業務に日に日に浸透していってまして働き
方を書いていく存在になってきております
本日お話しする内容としましては大学研究
機関における業務でのAI活用例とその
ソリューションについてご紹介させて
いただければと思い
ます改めて生成AIが得意とされるタスク
の一覧を見てみましょう文字やデータの
取り扱い得意とする言語モデルを中心とし
てその他には画像や音声を生成するモデル
もあり
ます職種別の活用方法を見ると様々な領域
で活用法が編み出されている状況になって
きておりますその中でも特に有効なのが
問い合わせ対応業務に対して生成AIを
活用する例になりまして本日はえそちらに
ついて詳しくお話しさせていただければと
思い
ますなぜ問い合わせ対応業務に有効なのか
というお話をしますが普段からスライドに
書いてあるような人材不足業務の難易度が
上がってきている引き継ぎがうまくいか
ないといった悩みや課題を抱え
てらっしゃる方が多いんじゃないでしょう
かこれらに禁してえ問い合せ業務の負荷が
高くなっているものとえ考えております
こういっった問題は職種に関係がなく組織
全体で起こり起こり得るものになりまして
効率化できると高い効果につがることが
期待でき
ますナチを扱うことと生成AIが得意と
する回答生成は相性が非常に良くてAIを
導入検討する課題として有効なテーマに
なり
ます問い合わせ業務の課題に対して具体的
にどのようにアプローチしていくかと言い
ますとえ大きく2つあります問い合わせが
発生する根本根本的な原因として必要な
情報が見つけられないやそもそも存在し
てるか分からないといったことがあります
のでそういった課題に対して法律的に情報
情報を検索できるような仕組みを用意し
ます次に問い合わせに対する回答作成も
また負荷が高いように作業になりますので
代わりにAIに回答を作ってもらうことで
人間はより重要な業務に集中できるような
状態にし
ます問い合わせする方もえ受ける側も同時
に生産性を上げることになり
ますこの時情報検索と生成AIを
組み合わせたソリューションを使いますが
検索拡張生成通称えラグと言われるものが
ござい
ますラグが登場した背景ですが従来の生成
AIですと社内情報など一般に公開されて
ない情報については回答ができない問題が
ございますがAIに自社の情報を追加する
方法として制度を出しやすいという点で
ラグを採用する企業企業や組織が増えて
いる状況になっており
ますクラスメソッドではこのラグの機能を
持った環境を簡単に構築できるサービスと
してえラララグ導入パックというサービス
を提供させていただいておりますラララグ
導入パックを導入す3つのメリットとし
ましてえっと1つ目がチャットボットに
よる自動回答によりえ人の作業項数を大幅
に減らすことができるようになります2つ
目は車内の様々なドキュメントを横断して
検索して回答生成できるえ仕組みが導入
できます3つ目は生成AIの自然な日本語
文書による回答によって回答品質をえ
上げることが可能になります
ラララグ導入パックのサービスのイメージ
になりますが左側に利用者質問する方が
いらっしゃいます利用者はまずスラックや
チームズといったチャットツールから質問
を投げますで質問を受け付けるとえ
クラウド環境にあるですねAmazon
ベッドロックという生成AIの基盤や
Amazonケドラという情報検索の
サービスが動作しまして質問に対して必要
な情報をですねあらかじめアップロードさ
れたドキュメントから探してきてえ回答を
作成するような仕組みになっており
ますここで皆さんにイメージを持って
もらうためにえ簡単なデモをですねさせて
いただければと思い
ますただいまクラスメソッド車内に使って
いるteamsのえ指定しましたえ車内に
使ってるこれスラックの画面を表示させて
いただいておりますクラスメソッドでは
業務規定に関する問い合わせ対応業務を
現在AIによって実施させていただいて
おりましてえ質問するとですね色々とAI
が回答してくれるようになっております
試しにですね経費申請の方法について質問
を投げてみたいと思い
ますはい質問しますと即自にチャット
ボットから返答が書いてきましてこのよう
にえドキュメントからですねですね必要え
回答を作成して返答してくれるような
仕組みになっており
ますえこの際にですねどのドキュメントを
参照して回答したかが分かるようにえ参照
したドキュメントの注釈を振るようにして
おり
ますこちらに参照今回参照した
ドキュメント0番1番2番のえタイトルが
表示されるようにしております各
ドキュメントはリンクになっておりますの
でえ該当するドキュメントにですね直接
飛ぶこともできるようになっており
ますあとはえ利用者がですね運営者に
フィードバックできるようにこういった
簡単なアンケートもですねえ入れて回答
するようにしており
ます改めてえラララグ導入パックの
サービスの特徴をえ見ていきたいと思い
ます
まずこちらのサービスはですね
テンプレート化されたものをお客様に提供
する形態になっておりますのでえ非常に
堪能期でのえ導入構築が可能になっており
ます続いて質問を
ええ入力するですねツールは使え慣れてる
ですねこういったスラックやチームスと
いったチャットツールからえ入力できる
ようにさせていただいており
ますはい
で回答生成をするえ言語モデルについては
ですね様々な言語モデルをえ指定してえ
連携できるようにしてありますその時その
時ですね最新のモデルと連携して使える
ようにしてあり
ます生成AAがえ回答を作成する際に
読み込むドキュメントについてはですね
AWS上の石和な環境にえ保管管理をし
ますので安全にえ利用することが可能に
なっております
ドキュメントのアップロードには専用の
アップロードアップロードするための画面
を別とえご提供しておりますのでえ専門的
な知識はなくても簡単に運用できるように
なっており
ますで回答に対するフィードバックが
できるような機能もが入っておりますので
運営者はフィードバックのえ結果を分析し
てですねえ改善をのサイクルを回すことが
可能になっております
えクラスメソッドではえこのチャット
ボットを自社でも導入して運用しており
ましてその導入国家をえ外部にですね公開
させていただいており
ます1ヶ月ほどえ効果検証を行った結果
ですね約500件近い問い合わせを
チャットボットの方で受付をしましてその
うち7割に関してはえ人の手を返さずにえ
生成AIの回答のみでえ完結するという形
でえ非常に高いあの業務業務効果を出す
ことにえ繋がっており
ます残りの3割に関してもえ人のですね
補助を入れることでえ質問に対して回答
できるようになっておりましてはいえこの
際ですねあの回答制度をより上げるための
工夫としましてえ必要なドキュメント追加
で導入するであったりだとかえっと質問
する側のですね利用者のえっと足を上げる
ための教育を実施するなどしてえできる
限りですねこのAIの回答で
え完結するような形にえ日々ですね改善を
していってるようなところでござい
ますラララグ導入パックのですねえ導入
形態としては大きく2通りありまして
えっと1つ目がテンプレートをそのままの
形で導入するえテンプレート導入パックが
ございます
こちらはえ非常に堪能期での導入が可能に
なっておりましてあのすぐに検証したいと
かですねまずはえP使用してみたいといっ
たえ用途に対して非常に最適なえ導入方法
になっており
ますでもう1つがえカスタマイズパックと
いうえものがございましてこちら
テンプレートをベースとしたえ追加解説を
行うことでお客様ここのですね要件に対応
するようなものを導入することができる
ようになってなっております
こちらはカスタマイズの内容次第により
ますけどもおよそ3ヶ月から半年程度です
ねえの期間でえ導入できるような目安に
なっており
ますで導入させていただいた後のサポート
についてなんですけどもえ回答制度のです
ねえ回答制度を上げるためのえ色々
チューニングのポイントっていうのがあり
ますのでえそのその部分をクラスメソッド
からえ色々コンサルティングさせて
いただきながらですねええ改善サポートを
実施してまいりますで具体的にはえ情報
検索の部分のえポ改善だったりだとかあと
は生成AIに指示を出すプロンプトの内容
の改善あとは生成AIに読み込ませるえ
ドキュメントのですねえこちらの形式だっ
たりだとかえその前処理といったところを
ですねえ下車の方からアドバイスをさせて
いただいております
え続いてシステム構成図になりますえと
先ほどデモで見ていただいた通りまずは
チャットツールから質問を入力する形に
なりますのでえこういったスラック
teamsからえ利用を開始するような
流れになりますその裏側にはですねAWS
のアプリAWS上で動いてる
アプリケーションがおりましてこの
アプリケーションが質問を受け付けますと
まずですね情報検索をするために
Amazonケドラというサービスに対し
て質問内容を送ります
質問を受け取ったケドラはですねその質問
に関連する関連性の高いドキュメントをえ
このS3というストレージに入ってる
ドキュメントから検索をしていきますえ
この時検索結果として大体5件からですね
10件ほどのえドキュメントをえ抽出して
くるんですけどもその抽出した
ドキュメントを次に訂正AIAmazon
ベッドロックの方にえ渡しましてそちらで
質問に対して必要な必要な情報を抽出して
回答をえ作成するような流れになり
ます定正AIによってですね作られた回答
にえ必その他にえ追加するま付加情報を
つけてですねえ利用者に回答するという
ような流れになっており
ますテンプレート導入パックのえ流れに
なりますけどもまず事前準備としてお客様
の方では生成AIに読み込ませたい
ドキュメントのデータのご準備ええ続いて
えこの環境をですね動かすためのAWS
アカウントのえ取得準備えあとはチーム
スラック上のですねえチャットツール上の
設定がございますのでそちらの作業がえ
発生いたし
ますで準備が整いますと弊社の方でえ関係
を構築していきますのでえはいえそれと
並行したお客様の方ではえ準備して
いただいたデータをクラウド環境に
アプロードしていただき
ますえ利用開始しますとえ弊社の方でえ
運用やサポートえ適宜実施させていただき
ますえっとデータの更新はですね適宜え
できますのでま最新の情報だったりだとか
変更があったドキュメントを適宜ですね
アップロードして運用していくような流れ
になり
ますでこちらのえラララグ導入パックのえ
導入費用になりますでまずえお客様ごとに
ですね個別に環境構築していくような形に
なりますのでえ初期構築費用としてまず
テンプレート導入パックですとえ税抜きで
211万円の費用をいたいて対応しており
ますカスタマイズパックについては
カスタマイズの内容によって費用がえ
異なってまりますのでこちらベッドお
見積もりとさせていただいており
ますで次にランニング費用ですが構築した
環境についてえクラスメソッドでえクラス
メソッドに運用保守を依頼する場合は運用
保守費用としてえ月額10万円のえ費用を
いだいておりますでAWS料金のですね
請求代行サービスとしてえ弊社の方で
クラスメソットメンバーズというサービス
をえベと提供させていただいてるんです
けどもそちらと合わせてご契約いただくお
客様については運用保守費用は半額の
5万円でえご提供させていただいており
ますでその他にかかる費用としましては
AWSのインフラ利用量あとはllm大え
大規模言語モデルの利用量が重量課金で
実際に使った分がですね実でえ発生して
まいり
ます預金はえ以上になり
ますでクラスメソッドではこのラララグ
導入パックのご提供始めとしてですねその
他にもえお客様の車内に使うAI環境の
構築サービスだったりだとかあとはAIを
活用する上でのえ技術コンサルティングや
え住宅開発開発支援といったところをえ
幅広くやらさせていただいておりますまた
導入後のですね先生へのえ車内活用を促進
するための様々なえ教育支援というところ
でセミナー等のえサービスも実施をさせて
い提供させていただいており
ますで最後になりますけどもえっと本日え
弊社のセッションをえ聞いていただいた皆
様に対してご案内になりますえっと今回え
ご案内したラララグ導入パックこちらの
導入に際してえ必要になるえ前後の業務
課題のえ抽出であたりだとか導入後の評価
というところでえ実際どういった効果が
あったかっていうとこのレポートですねえ
こういったえっと環境導入と合わせた前後
のですねサポートっていうのを一式にし
ましてえ生成AI導入コンサルパックとし
てえ回特別にご提供させていただければと
思っておりますはいえ通常ですねこちらの
あの作業っというところ含めて大体通常3
30000万円相当の支援になるんです
けどもえ本日えセミナーに参加されたお客
様限定ですね特別あの180万円でえご
提供させていただきますのでえ詳しく詳細
知りたい方に方に関しましてはえ是非です
ねお問いただければと思い
ますえ以上もましてえチスメソッドの
セッションを終了させていただければと
思いますえ最後までごご清聴いただきまし
てありがとうございました
Ver Más Videos Relacionados
生成AIアプリが作れる「Dify」の入門&ビジネス活用~ビジネスパーソン必見!GPTsを超える業務特化アプリが簡単につくれて配布もできちゃう…!
【必見】ファインチューニング入門~コスト98%削減も!ビジネスマンは知っておきたいファインチューニングの基本&活用事例&活用パターン
生成AI企業導入5つのステップ~SHIFT AI木内さんに学ぶ、AI活用の成功企業の導入の秘訣
【総集編】copilotの教科書【使い方、活用方法を解説!】
【スタンフォード式子育て】最新の脳科学・心理学200以上の研究論文に裏打ちされた子育てメソッド/最新研究から分かった 音・映像教材の効果/「しつけvsのびのび」子育ての科学的答え
excel 1
5.0 / 5 (0 votes)