一般社団法人 次世代社会システム研究開発機構

［出版日］

2024年12月11日

［ページ数］

A4判／約500ページ
（※　バインダー製本とPDF版では編集上の違いによりページ数が若干異なります。）


［発行＜調査・編集＞］

監修・発行：　一般社団法人 次世代社会システム研究開発機構


［レポート内容］

■概要■

今後、企業向けLLM、エンタープライズLLMアプリは、数十億ドル規模の市場になる可能性があり、エンタープライズ対応のソリューションを提供することでLLMの採用を加速させることが予想されている。

LLM は本質的に汎用的なものである。企業向けLLMの可能性を最大限に発揮するためには、LLMを企業の知識/埋め込みで微調整し、コンテクストに特化したLLMを開発することで達成される。

そのため、昨今では、通常のパイプラインよりも複雑で、続的な改善フィードバックループをスケーラブルな方法で提供するアプローチ、複数の既存のAIアプリをオーケストレーション/合成することによって新しいエンタープライズAIアプリを開発するアプローチ、ユーザーの入力を適応させ、LLM APIに適切なコンテクストとガイダンスを提供し、正しいレスポンスを得る可能性を最大化するアプローチ、最適な応答を引き出し、プロンプトを導き出すためのプロンプトエンジニアリングのアプローチ等々のさまざまなアプローチが導入されている。

また、企業でLLMを活用する場合、学習データだけでなく、入力データ、出力データ、その他の生成データに関する所有権の問題を交渉することが非常に重要となっている。

また、エンタープライズアプリプロバイダーが、ユーザーとの対話の結果として受信／生成されたデータをどのように使用するかを理解／評価することも重要となっている。

このような背景のもと、本白書は、企業向けLLMの可能性を最大限に発揮するための条件、エンタープライズ対応のソリューションのあり方、エンタープライズLLMの今後の展開を中心テーマに置いて、最新の動向を踏まえながら包括的に解説したものである。


■内容編成（目次）■

序

第1章　大規模言語モデル（LLM）の産業界・企業への導入

1-1　概説
1-2　業界全体を変革するLLM／生成AI
1-3　エンタープライズLLMの理論的有用性
1-4　エンタープライズLLMの留意事項
1-5　エンタープライズLLMの微調整
1-6　LLMオーケストレーション
1-7　LLM APIの調整


第2章　エンタープライズ LLM導入における基盤モデルと自社開発のバランス

2-1　ビジネスへの実用的な応用を考えた場合のLLMの課題点
2-2　LLMの微調整とエンタープライズ LLMOps
　　［1］　概説
　　［2］　MLOps
　　［3］　LLMの導入における基盤モデルと自社開発のバランス
　　［4］　LLMモデル開発のアプローチ別特性
　　［5］　LLMOpsのワークフロー
2-3　企業データのLLM微調整とプライベートGPT
　　［1］概説
　　［2］QLoRA
　　［3］LoRA
　　［4］量子化
　　［5］HuggingFaceによる微調整のサポート
　　［6］Alpaca金融データセットによる推論


第3章　企業・産業におけるLLM活用フレームワーク

3-1　概説
3-2　AIガバナンスのプロフェッショナル化とエンタープライズLLMの位置づけ
3-3　大規模言語モデル(LLM)と企業データとの関連付け
3-4　製造業における大規模言語モデル
3-5　LLMによる企業のビジネスプロセス管理支援
3-6　LLMによるデジタル・ビジネス・マネジメント支援
3-7　企業の意思決定支援ツールとしてのLLM活用
3-8　意思決定分析とデータサイエンス
3-9　マーケティング、電子商取引におけるLLM／生成AIの利用
3-10　小売業界 カスタマー・エクスペリエンスの革新とLLM／生成AI
3-11　輸送とロジスティクス・オペレーションの最適化とLLM／生成AI
3-12　教育分野におけるLLM／生成AIの利用
3-13　ソーシャルメディア・マーケティングとLLM
3-14　セクター別に特化したLLM開発の留意事項
　　［1］　概説
　　［2］　金融データで訓練された大規模言語モデル　「BloombergGPT」
3-15　事例
　　［1］　三菱電機
　　［2］　パナソニックホールディングス
　　［3］　みずほ銀行
　　［4］　日立製作所
3-16　企業独自LLMの開発例
　　［1］　リコー　「LLMをノーコードでカスタマイズできるツール」


第4章　LLMオーケストレーションフレームワーク

4-1　概説
4-2　LLMオーケストレーションフレームワークと検索拡張世代ベースのチャットボット構築
4-3　RAGシステムを設計する際に陥りがちな失敗ポイント
4-4　能動的検索拡張生成（FLARE）
4-5　LLMを搭載したチャットボットで企業データの鮮度を確保するための条件
4-6　チャットボットのコスト経済性
4-7　チャットボットのテスト
4-8　企業コンテンツのアクセス制御
4-9　企業のガードレール
4-10　ケーススタディ
4-11　関連研究
　　［1］　NVIDIA　「検索拡張世代ベースのチャットボット構築」


第5章　企業全体に統合されたLLMの開発、テスト、展開

5-1　概説
5-2　プラットフォーム全体で実現するLLM
5-3　大規模なテスト
5-4　GitLab Duoの事例


第6章　LLMによる企業情報・データの品質管理／データ検証・妥当性確認

6-1　概説
　　［1］　データ管理とLLM
　　［2］　LLMによるデータ管理への影響
6-2　AIを活用したデータ管理における企業における実践的アプローチ
6-3　LLMのデータ管理における企業における実践的アプローチ
6-4　LLMデータ管理のベストプラクティス
6-5　マイクロサービスとLLMによるマスターデータ管理
6-6　データ管理のベストプラクティス
6-7　マイクロサービスと生成AIによるマスターデータ管理


第7章　企業モデリングLLM／企業エンジニアリングLLM

7-1　概説
7-2　LLMによる情報システム工学の刷新


第8章　エージェント型大規模言語モデル

8-1　エージェント型LLMがDXにもたらす新たな価値
8-2　実世界への応用が開始されたエージェント型LLM
8-3　責任あるAIに新たなソリューションをもたらすエージェント型LLM
8-4　分散型エコシステムにおけるプライベートLLMエージェント
8-5　LLMエージェントの発展シナリオ
8-6　LLMエージェントのインフラ、プラットフォーム
　　［1］　LLMエージェントのインフラ
　　［2］　LLMエージェントのプラットフォーム
　　［3］　LLMのインファレンス（推論）フェーズに特化した分散型インフラの構築
8-7　LLMエージェントの機能用途別特性
　　［1］　シングルエージェントとマルチエージェントシステム（MAS）
　　［2］　反応型・反射型エージェント
　　［3］　目標ベースのエージェント
　　［4］　効用ベースのエージェント
　　［5］　プロアクティブエージェント
　　［6］　学習・適応型エージェント：
　　［7］　非学習型エージェント
8-8　研究チーム、参入企業動向
8-9　主なLLMエージェント
　　［1］　ChemCrow
　　［2］　ToolLLM
　　［3］　OS-Copilot
8-10　主要プレーヤーの動向
　　［1］　グーグル　＜Vertex AI Agent Builder＞
　　［2］　エヌビディア　＜GenAIエージェント＞


第9章　LLMエージェントのカテゴリーと産業別活用

9-1　概説
9-2　カスタマーサービス
9-3　オペレーションと生産性
9-4　マーケティングとセールス
9-5　教育
9-6　サイバーセキュリティ
9-7　法務
9-8　営業
9-9　人事部門
9-10　製造業
9-11　金融
9-12　ヘルスケア
9-13　保険業界
9-14　小売・Eコマース
9-15　各種ホスピタリティ


第10章　LLMに基づくAIエージェントとCRMシステムの統合

10-1　概説
10-2　CRMタスクを実行するLLMエージェント
10-3　事例
　　［1］　セールスフォース　「CRMArenaLLMエージェント」


第11章　LLMベースのコーディング／LLMエージェントベースのソフトウェア開発

11-1　概説
　　［1］　概要
　　［2］　コードのためのLLM
　　［3］　LLMベースのコーディングタスクのベンチマーク
　　［4］　エージェントベースのソフトウェア開発
11-2　関連研究
　　［1］　AGENTLESS :LLMベースのソフトウェア・エンジニアリング・エージェントを解明する


第12章　LLM駆動型会話型レコメンダーシステム(CRS)

12-1　概説
12-2　LLM主導型CRSの戦略的可能性
12-3　LLM駆動型CRSのフレームワーク
12-4　LLM駆動型CRSに対する顧客の評価と経済的な実行可能性
12-5　関連研究
　　［1］　スイス連邦工科大学チューリッヒ校　「イベントチャット大規模なイベントチャットの実装とユーザー中心の評価」


第13章　LLMによる企業のオペレーショナルリスク管理

13-1　概説
13-2　LLM／生成AIの活用によるORMの強化
13-3　LLM／生成AIをORMに統合することの課題とリスク
13-4　LLMによるオペレーショナル・リスク管理の模索状況
　　［1］　ブルームバーグGPT
　　［2］　モルガン・スタンレーのGPT-4統合
　　［3］　エヌビディアとドイツ銀行の金融トランスフォーマー
　　［4］　Du Xiaomanのインテリジェント・クレジット・スコアリング・プラットフォーム
　　［5］　中国農業銀行のChatABC
　　［6］　中国工商銀行のAI統合
　　［7］　その他金融界の事例


第14章　LLMによるコンプライアンス・マネジメント支援

14-1　規制遵守のための法的生成AI
14-2　規制ニュースフィードのための生成AI
　　［1］　ホライゾン・スキャニング
　　［2］　プロンプトエンジニアリング
　　［3］　ユーザーインターフェース
14-3　法律による義務
14-4　LLMベースのエキスパートシステム
14-5　生成AIによる問題の軽減
14-6　結論と今後の課題


第15章　LLMによるリスク・エクスポージャ管理支援

15-1　概説
15-2　方法論と実装
15-3　データ処理
　　［1］　通話記録
　　［2］　資本市場変数
　　［3］　経済変数
15-4　記述統計処理
　　［1］　記述統計と産業別平均値
　　［2］　時系列変動
　　［3］　対面妥当性
　　［4］　分散分解
15-5　資本市場におけるリスクと対処
　　［1］　政治的リスク
　　［2］　気候リスク
　　［3］　AI関連リスク
　　［4］　GPT のトレーニング期間外の分析
　　［5］　ロバスト性の検証
15-6　リスク・エクスポージャーと企業の意思決定
　　［1］　投資決定
　　［2］　リスク・エクスポージャーを軽減するための企業の対応
　　［3］　更なるサンプル外分析
　　［4］　ロバスト性の検証
15-7　経時的なリスクの相対的重要性
15-8　株式市場のプライシング
15-9　関連研究
　　［1］　トランスクリプトからインサイトへ： LLM／生成AIによる企業リスクの発見


第16章　LLMによる基幹系運用トランスフォーメーション

16-1　LLMとメインフレームOS、COBOLレガシーシステム設計
16-2　基幹系システム・コード用の大規模言語モデル
16-3　LLMによる大きな言語モデルのコード化
16-4　ドメイン固有のタスクのためのLLM
16-5　大規模にCOBOLのLLMを育成する上での障壁
16-6　メインフレームシステムのモダナイゼーションを目指した大規模言語モデル「XMainframe」
16-7　生成AIによるCOBOLからJavaへの高速変換


第17章　LLMによる基幹系運用トランスフォーメーションの各種ケーススタディ

17-1　生成AIによる古いコードから最新のJavaへの自動変換
17-2　ケーススタディ
　　［1］　KDDI、アルティスリンク、ELYZA
　　［2］　日立製作所
　　［3］　リコー
　　［4］　NEC（日本電気株式会社）
　　［5］　NTT
　　［6］　デロイトトーマツコンサルティング
　　［7］　情報・システム研究機構、国立情報学研究所


第18章　LLMとエンタープライズ検索

18-1　概説
　　［1］　記憶モデル
　　［2］　レイト・インタラクション・リランキングのための圧縮
18-2　関連研究
　　［1］　MEMORY-VQ: インターネット・スケール・メモリーのための圧縮
　　［2］　ユーザー中心のエージェントの検索プロセスへの組み込みによるRAGフレームワークの拡張
　　［3］　エージェントベースシステムとパーソナライズされたRAGアーキテクチャーとの統
　　［4］　PersonaRAG: ユーザー中心エージェントによる検索支援システムの強化


第19章　エンタープライズLLMとRAG：自社データ活用［1］
19-1　概説

19-2　LLMにおけるRAGの統合
19-3　RAGのタイプ別・アプローチ別特性
　　［1］　ナイーブRAG（Naive RAG）
　　［2］　高度なRAG（Advanced RAG）
　　［3］　モジュラー型RAG（Modular RAG）
　　［4］　RAG対微調整
19-4　RAGの構造・改良経過
　　［1］　検索の粒度
　　［2］　クエリーの最適化
　　［3］　埋め込み
　　［4］　アダプター


第20章　エンタープライズLLMとRAG：自社データ活用［2］

20-1　RAGの調整
　　［1］　コンテキスト・キュレーション
　　［2］　LLM微調整
20-2　RAGにおける増強プロセス
　　［1］　復検索
　　［2］　再帰的検索
　　［3］　適応的検索
20-3　課題と評価
20-4　RAGの当面のテーマ／課題
　　［1］　RAG対ロング・コンテクスト
　　［2］　RAGの堅牢性
　　［3］　ハイブリッド・アプローチ
　　［4］　RAGのスケーリング法則
　　［5］　プロダクション・レディRAG
　　［6］　マルチモーダルRAG
20-5　関連研究
　　［1］　大規模言語モデルのための検索補強型生成：サーベイ


第21章　LLMにおける学習と推論の限界とRAGによる限界の克服

21-1　概説
21-2　関連研究
　　［1］　同済大学上海知能自律システム研究所他研究チーム　「大規模言語モデルのための検索補強型生成：サーベイ」


第22章　既存のRAGアプローチの組み合わせによるRAG最適化

22-1　概説
　　［1］　クエリーと検索の変換
　　［2］　レトリーバー強化戦略
　　［3］　レトリーバーとジェネレーターの微調整
22-2　関連研究
　　［1］　復旦大学他研究チーム　「検索支援型ジェネレーションのベストプラクティスを探る」


第23章　検索拡張生成（RAG）と検索拡張理解（RAU）の両方を含む包括的なアプローチ

23-1　概説
23-2　関連研究
　　［1］　北京大学他研究チーム　「RAGとRAU：自然言語処理における検索補強言語モデルに関するサーベイ」


第24章　RAGに関する最新の手法／最近の研究動向

24-1　RAGシステムにおける最近の開発
24-2　クエリーと検索の変換
24-3　レトリーバー強化戦略
24-4　レトリーバーとジェネレーターの微調整
24-5　多くの先進的なアプローチを付加すした上級RAG
24-6　関連研究
　　［1］　音声・言語情報処理研究センター他研究チーム　「修正検索 拡張世代」
　　［2］　復旦大学他研究チーム　「検索支援型ジェネレーションのベストプラクティスを探る」


第25章　テーブル拡張生成（TAG）によるLLMとデータベースの統合

25-1　概説
25-2　Text2SQL LMを用いたText2SQL
　　［1］　RAG
　　［2］　密な表検索（DTR）モデル
　　［3］　半構造化データに対するNLクエリ
　　［4］　エージェント型データアシスタント
25-3　タグ・モデル
　　［1］　クエリー合成
　　［2］　クエリーの実行
　　［3］　回答生成
25-4　タグのデザインスペース
　　［1］　クエリの種類
　　［2］　データモデル
25-5　関連研究
　　［1］　スタンフォード大学他研究チーム　「Text2SQLだけでは不十分：TAGでAIとデータベースを統合する」


第26章　業務用途の時系列解析のためのエージェント型RAGフレームワーク

26-1　概説
26-2　関連研究
　　［1］　IITダルワド他研究チーム　「時系列解析のためのエージェント検索-拡張生成」


第27章　AIアシスタント／テキスト生成／チャットボット関連のLLM

27-1　オープンソースチャットボット
　　［1］　概説
　　［2］　LLaMA-13Bをベースにしたオープンソースチャットボット　「Vicuna」
27-2　GPT-Turbo-3.5アシスタントスタイル生成の言語モデル　「GPT4All」
　　［1］　概説
　　［2］　Meta　「GPT-Turbo-3.5アシスタントスタイル生成の言語モデル：GPT4All」
27-3　自動テキスト配信、チャットボット、言語翻訳、コンテンツ制作の開発・作成モデルの訓練および微調整　「xTuring」
　　［1］　概説
　　［2］　ストキャスティック　自動テキスト配信、チャットボット、言語翻訳、コンテンツ制作の開発・作成モデルの訓練および微調整：　「xTuring
27-4　ChatGLM（中国人ユーザー向けに特別に設計されたチャットロボット）


第28章　責任あるAIアシスタントの開発と運用

28-1　概説
28-2　高度AIアシスタントの倫理
28-3　高度なAIアシスタントの全体構造


第29章　LLMによるユーザビリティとアクセシビリティ促進

29-1　ヒューマンコンピュータインタラクションとソーシャルコンピューティング
29-2　効果的なインタラクションの設計


第30章　スマート産業と大規模言語モデルの活用

30-1　概説
30-2　スマートファクトリーとLLMの導入・活用
30-3　インダストリー4.0 とLLM／生成AIの統合
30-4　インダストリー5.0によるエンタープライズ・オートメーションとLLM
30-5　産業のスマート化、自動化とLLM
　　［1］　ヘルスケア業界
　　［2］　金融業界
　　［3］　カスタマーサービス業界
　　［4］　教育セクター
　　［5］　製造業
　　［6］　エンターテインメント産業
　　［7］　輸送とロジスティクス
30-6　インダストリー4.0、インダストリー5.0における生成AI／LLMの可能性


第31章　LLMプラットフォーム／LLMによるAIソリューション

31-1　Google　生成AIプラットフォーム　「Vertex AI」
31-2　事実の関連付けを効率的に検索・編集するためのLLMソリューション
　　［1］　概説
　　［2］　ROME（Rank-One Model Editing）
　　［3］　ChatGPTをクローンするオープンソースのAIソリューション　「ColossalChat」


第32章　エンタープライズLLMの主なプレーヤーと最新動向

32-1　Microsoft
　　［1］　マイクロソフト　「GPT-RAG」
　　［2］　マイクロソフト　「Azure ChatGPT（企業向けにカスタマイズされたChatGPTのプライベート版（）
32-2　NVIDIA／NVIDIA A(
　　［1］　NVIDIA AI　「FACTS：エンタープライズRAGベースチャットボットのための包括的なフレームワーク」
　　［2］　NVIDIA　「AI Enterprise Suite」
　　［3］　NVIDIA 　「NVIDIA Base Command Platform」
32-3　Anthropic
　　［1］　Anthropic　「Claude Enterprise」
　　［2］　Anthropic　「Google CloudのVertex AIプラットフォーム上でClaude ファミリーの提供」
　　［3］　Anthropic　「Claude 2.1」
32-4　IBM
　　［1］　IBM　「Watsonx Code Assistant」
　　［2］　IBM　「Granite 3.0 2Bおよび8B AIモデル」
32-5　Cohere
　　［1］　Cohere　「エンタープライズAIを進化させる：生成モデル、多言語処理、開発者ツール」
　　［2］　Cohere　「Coral（生産性向上を目指す企業のためのナレッジ・アシスタント）」
　　［3］　Cohere AI　「Cohere Toolkit」
32-6　Tabnine
　　［1］　タブナイン　「Tabnine Chat（エンタープライズ・グレードのコード中心チャット・アプリケーション）」
32-7　Hugging Face
　　［1］　ハギング・フェイス　「SafeCoder（企業向けに構築されたコードアシスタントソリューション）」