一般社団法人 次世代社会システム研究開発機構

［出版日］

2023年10月16日

［ページ数］

A4判／約1,340ページ
（※　バインダー製本とPDF版では編集上の違いによりページ数が若干異なります。）


［発行＜調査・編集＞］

監修・発行：　一般社団法人 次世代社会システム研究開発機構


［レポート内容］

■概要■

本白書は、機械学習（Machine learning：ML）／ディープラーニング（Deep Learning：DL）の全容・最新動向に加え、生成系AIや大規模言語モデル（LLM）における機械学習やディープラーニングのメカニズムのモデル選択、アーキテクチャ、アルゴリズム、適用、実装、研究、ファインチューニング等によるモデルのカスタマイズ、実用化などを網羅的に、かつ最新の動向を取り上げながら、詳細に解説している。

機械学習／ディープラーニングは、多様な分野を包括するAI（人工知能）に含まれる一分野である。人間の学習能力と同様の機能をシステム的に実行するための技術や手法のことであり、AIの分野では主要な研究課題の一つとされている。

機械学習のなかでも、ニューラルネットワーク、k近傍識別器、ベイズ分類、SVM（サポートベクターマシン）、といった手法でみられるように、識別器を活用しながら、クラス分類という識別問題、認識問題に対し、多様・多元的な視点・立場にたった研究が大きな成果をあげている。

LLMとは、AIアルゴリズムの一種であり、AIにおける言語モデルの概念を進化させたものでもある。学習と推論に使用するデータを劇的に拡張することで、AIモデルの能力が飛躍的に向上させることができる。また、ディープラーニング（深層学習）技術と大規模なデータセットを用いて、新しいコンテンツの理解、要約、生成、予測を行う。生成AIもLLMと密接不可分の関係にあり、LLMはテキストベースのコンテンツを生成するために特別に設計された生成AIの一種である。

LLMは、複数のコンポーネントを含む複雑なアプローチをとっている。基礎となるレイヤーでは、LLMは、通常ペタバイト級の大容量データ（コーパスと呼ばれることもある）で学習する。学習には複数の段階があり、通常は教師なし学習アプローチから始める。LLMの次のステップは、自己教師あり学習による訓練とファインチューニングである。ここでデータのラベリングが行われ、モデルが異なる概念をより正確に識別できるようになる。

次に、LLMはトランスフォーマ・ニューラル・ネットワーク・プロセスを経て、ディープラーニングを行う。トランスフォーマー・モデル・アーキテクチャーにより、LLMは自己アテンション・メカニズムを使用して、単語と概念の間の関係とつながりを理解し、認識することができる。

一度LLMが訓練されると、AIが実用的な目的で使用できるベースが確立する。LLMにプロンプトをクエリすることで、AIモデルの推論は、質問への回答、新しく生成されたテキスト、要約されたテキスト、センチメント分析レポートなどのレスポンスを生成することができる。

本白書は、カテゴリー別にこれらの開発・実装動向、市場動向、アルゴリズム高度化など先進的な研究開発動向、業界別活用動向、技術的・手法的課題、機械学習のエコシステム／プラットフォーム形成を巡る動き、生成系AIや大規模言語モデル（LLM）における機械学習やディープラーニングのメカニズムの研究動向／モデル選択／アーキテクチャ／アルゴリズム／適用／実装／ファインチューニング等によるモデルのカスタマイズ、実用化について取り上げ、解説している。

また、次世代チップ／量子コンピュータ／スマートファクトリー／デジタルマーケティング／ブロックチェーン／コネクテッドカー／自動運転などの関連領域の動向を体系的・包括的に取り上げて解説している。

また、最新のツール／ソフトウェア／アプリケーションの開発・サービス動向、今後の進展予測まで、関係する領域を体系的・包括的に取り上げた調査報告書（白書）として編纂されている。

以下、本レポートで扱っている主なテーマをリストで記載する。

　●　教師あり学習

　●　自己教師あり対照学習

　●　自己教師なし学習

　●　強化学習（RL）

　●　人間のフィードバックによる強化学習（RLHF）

　●　PPO（Proximal Policy Optimization）アルゴリズム／報酬モデルに対するポリシー最適化

　●　Direct Preference Optimization (DPO)／強化学習を使わずに嗜好から言語モデルを学習させる学習パラダイム

　●　模倣学習（徒弟学習／実演からの学習）

　●　メタ学習

　●　メモリ拡張型ニューラルネットワーク（MANN）

　●　転移学習（トランスファー・ラーニング）

　●　ファインチューニング（微調整）

　●　多言語言語モデルの基本

　●　低ランク適応（Low-rank adaption：LoRA）

　●　量子化

　●　生成モデル／深層生成モデル（DGM）

　●　ユニバーサル言語モデルファインチューニング（ULMFiT)

　●　事前学習（Pre-training）

　●　説明ベースの学習（EBL）

　●　ゼロショット学習

　●　ゼロショットCoT

　●　ワンショット学習（コンピュータビジョン）

　●　ドメイン適応

　●　マルチタスク学習（MTL）／知識の移転

　●　マルチタスク最適化

　●　基礎モデル（ベースモデル／ファンデーションモデル）

　●　生成的事前訓練トランスフォーマー／生成的事前訓練トランスフォーマー（GPT）

　●　トランスフォーマー

　●　生成的敵対ネットワーク（GAN）

　●　拡散モデル（Diffusion Model）

　●　Stable Diffusion（安定した拡散）

　●　思考の連鎖：CoT（Chain of Thought）

　●　思考の木：ToT（Tree of Thoughts）

　●　視覚のマルチレベル理論

　●　手続き的生成

　●　生成トポグラフィーマップ

　●　自己組織化マップ

　●　ニューラルネットワーク

　●　変分オートエンコーダ（VAE）

　●　ロボット学習

　●　進化ロボット工学

　●　発達ロボティクス（DevRob）

　●　認知ロボット工学

※　なお、「機械学習／ディープラーニング（DL）」というテーマは、複眼的、立体的な視点で解明し、アプローチすることで、より精確で深みのある理解が得られるものである。当団体でもそうしたコンセプトで本白書を編纂している。

そのため、以下の白書（ほぼ当団体よりほぼ同時期に発刊）がそれぞれ独立して編纂されながらも、４巻セットとしてシリーズ編成されている。まとめて全４巻を購入された場合、特別に半額の価格設定で提供している。

■　生成AI白書 2023年版

　　（A4判／約3,200ページ）

https://www.x-sophia.com/?pid=177427870

■　大規模言語モデル（LLM）白書 2023年版

　　（A4判／約1,400ページ）

https://www.x-sophia.com/?pid=177427957

■　次世代NLP（自然言語処理）と大規模言語モデル（LLM）白書 2023年版

　　（A4判／約1,180ページ）

https://www.x-sophia.com/?pid=177428071

※※　各白書とも、英語版について近刊を予定している。


■内容編成（目次）■

序

序

第1章　機械学習／ディープラーニング　概説

1-1　機械学習　概説

1-2　機械学習／ディープラーニングの大きな転回点となった2018年

1-3　機械学習／ディープラーニングをビジネスで活用する上での前提理解

1-4　ディープラーニング（多段ニューラルネットによる機械学習）概説

1-5　教師あり学習と教師なし学習

1-6　機械学習と先進認識（識別・回帰）技術

1-7　機械学習を用いた技術性能の評価指標

1-8　ビッグデータ解析と機械学習

1-9　機械学習のエコシステム／プラットフォーム形成を巡る動き

1-10　機械学習プラットフォーム構築を巡る動向俯瞰

1-11　ディープラーニングの研究開発領域とビジネス化動向俯瞰

1-12　次世代ディープラーニングの現状と可能性

1-13　ディープラーニングのビジネス利用と課題点

1-14　主な参入ベンダー：事業特性・最新動向
　　［1］　概況・近況
　　［2］　参入企業　概況


第2章　機械学習／ディープラーニング−地域別・機関別動向

2-1　米国
　　［1］　DARPA　「UPSIDE program」
　　［2］　DARPA　「SyNAPSE program」
　　［3］　IARPA　「MICrONS program」

2-2　欧州

2-3　中国
　　［1］　清華大学／紫光集団

2-4　日本政府
　　［1］　人工知能技術戦略会議
　　［2］　「世界最先端IT国家創造宣言・官民データ活用推進基本計画」

2-5　総務省
　　［1］　情報通信研究機構（NICT）
　　［2］　総務省 情報通信政策研究所
　　［3］　「AIネットワーク社会推進フォーラム」（国際シンポジウム）

2-6　文部科学省
　　［1］　革新知能統合研究センター

2-7　内閣府
　　［1］　内閣府革新的研究開発推進プログラム（ImPACT）
　　［2］　全脳アーキテクチャ・イニシアティブ

2-8　内閣府特命担当大臣（科学技術政策）
　　［1］　人工知能と人間社会に関する懇談会
　　［2］　世界最先端ＩＴ国家創造宣言・官民データ活用推進基本計画

2-9　産業技術総合研究所
　　［1］　人工知能研究センター
　　［2］　ABCI（AI Bridging Cloud Infrastructure）

2-10　産業競争力懇談会

2-11　知的財産戦略本部 検証・評価・企画委員会　「情報財検討委員会」

2-12　人工知能学会

2-13　IT総合戦略本部　「AI、IoT時代におけるデータ活用ワーキンググループ」


第3章　機械学習／ディープラーニングの基本モデルとその発展

3-1　ニューラルネットワーク（NN）とコネクショニズム
　　［1］ 畳み込みニューラルネットワーク
　　［2］ 再帰型ニューラルネットワーク

3-2　ディープニューラルネットワークのモデル

3-3　ベイズ確率（推定）／単純ベイズ分類器

3-4　サポートベクターマシン（support vector machine, SVM）

3-5　決定木（decision tree）

3-6　ブースティング（Boosting）

3-7　ランダムフォレスト（random forest, randomized trees）

3-8　k近傍法（k-nearest neighbor algorithm）

3-9　EMアルゴリズム（EM法）

3-10　遺伝的プログラミング

3-11　機械学習アルゴリズム高度化と“学習するハードウェア”の取り組み

3-12　機械学習アルゴリズム開発と関連技術の実装


第4章　機械学習／ディープラーニングの注目領域（アテンション・エリア）

4-1　ディープラーニングの研究開発領域とビジネス化　概説

4-2　新技術への関心と取り組み状況

4-3　次世代ディープラーニングの現状と可能性

4-4　ディープラーニングのビジネス利用と課題点

4-5　業界別注目領域
　　［1］　製造業界
　　［2］　金融業界
　　［3］　医療業界
　　［4］　サービス業界
　　［5］　メディア業界
　　［6］　教育／学習ゲーム業界
　　［7］　マーケティング業界

4-6　研究領域別注目領域
　　［1］　学習率（learning rate）の精度・速度向上
　　［2］　機械学習の大規模化と深層学習の高速化
　　［3］　探索（Explore）機能のスマート化
　　［4］　場面全体の状況を認識するAI
　　［5］　画像認識とAR（拡張現実）の結合
　　［6］　敵対的ネットワーク（GANs）を利用した自動〔無監督〕学習
　　［7］　研究者とスタートアップをつなぐ機械学習アルゴリズムのマーケットプレイス
　　［8］　自動化された機械学習
　　［9］　機械学習を駆使した「インテリジェント検索／ナレッジ活用」
　　［10］　自動人工知能（AutoAI）・自動機械学習（AutoML）／機械学習モデルの全ライフサイクルの自動化
　　［11］　連合学習（Federated Learning）／プライバシーと機械学習モデル精度の両立


第5章　機械学習／ディープラーニングの課題

5-1　業界別適用課題

5-2　技術的課題

5-3　手法的課題


第6章　画像認識・生体認証と機械学習／ディープラーニング

6-1　顔認識システム（Facial Recognition System）

6-2　進展著しいディープラーニング画像認識プラットフォーム
　　［1］　ディープラーニング画像認識プラットフォームとソフトウェア
　　［2］　深層学習を使った先進画像診断技術
　　［3］　来店客の画像解析・行列予測

　　［4］　画像・音声認識とディープラーニングによる競技分析向け実証実験
6-3　コンピュータビジョン／ロボットビジョンと産業用ロボット
　　［1］　概説
　　［2］　コンピュータビジョンと機械学習

6-4　MVTec Software（独）　産業向けマシン・ビジョン・ライブラリー「HALCON」


第7章　機械学習／ディープラーニングと次世代チップ

7-1　機械学習の高速化専用チップ

7-2　活発化するAI半導体開発競争

7-3　FPGAと同等の機能を、高速・低電力で実現する半導体の開発

7-4　ニューラルネットのファイル形式の違いを吸収する規格「NNEF（Neural Network Exchange Format）」

7-5　「関係性」を理解する専用チップ開発

7-6　脳の神経回路を模倣する非ノイマン型次世代半導体

7-7　GPU並列処理技術とディープラーニングの結合

7-8　AIクラウド／機械学習／ディープラーニング向けサービスへのGPU適用

7-9　インテル　チップ単体で自律学習可能なAIチップ「Loihi」

7-10　インテル　ディープニューラルネットワークを単独処理可能な専用チップ「Myriad X」

7-11　機械学習／次世代データセンターを支えるコンピュータ・アーキテクチャ

7-12　第5世代SoC

7-13　スタートアップ動向


第8章　自然言語処理の発展と機械学習／ディープラーニング

8-1　自然言語処理（NLP）の活用分野とその市場展望
　　［1］　人工知能（AI）研究の発展と自然言語処理（NLP）
　　［2］　世界の企業向け NLP ソリューション市場の展望

8-2　「自然言語」、「テキスト」、「音声」というビッグデータがもたらすビジネスチャンス

8-3　各業界における NLP の活用状況
　　［1］　各業界における NLP を用いたテキスト分析の活用
　　［2］　各業界における音声認識／スピーチ分析の活用
　　［3］　金融
　　［4］　各種メディア
　　［5］　流通、運送、小売
　　［6］　その他

8-4　自然言語理解と機械学習
　　［1］　概説
　　［2］　意思決定支援・質問応答システム／自然言語生成
　　［3］　自然言語処理技術を用いた人工知能応用事例
　　［4］　自然言語処理を行う対話ロボット／コミュニケーション・ロボット
　　［5］　自然言語処理を行う対話ロボット／コミュニケーション・ロボット事例

8-5　クラスタリングと機械学習

8-6　機械学習と機械翻訳

8-7　機械学習とデータマイニング

8-8　データマイニング向けソフトウェア


第9章　生成系AI・LLM（大規模学習モデル）と機械学習・ディープラーニング［1］

9-1　教師あり学習
　　［1］　概要
　　［2］ 主な事例
　　［3］　データの所有権
　　［4］　人間の指示によりよく沿うように提案された新しいLLMアルゴリズム　「HIR」
　　［5］　Meta　「自己教師あり学習モデルを使った4000言語の話し言葉を理解する多言語LLM：MMS」

9-2　自己教師あり対照学習
　　［1］　概要
　　［2］　時系列を用いた対照学習
　　［3］　自己教師対照学習で初めて現実化した時間-周波数整合性（TF-C）

9-3　自己教師なし学習
　　［1］　概要
　　［2］　教師なし学習の主なネットワーク
　　［3］　教師なし学習の確率的手法
　　［4］　教師なし学習の主なアプローチ

9-4　強化学習（RL）
　　［1］　概要
　　［2］　アルゴリズム
　　［3］　アプローチ別特性
　　［4］　強化学習とプロンプト最適化アプローチ
　　［5］　強化学習（RLHF）トレーニングで訓練されたLLMにおけるシンプルなプロンプティングアプローチ
　　［6］　強化学習(RL)を用いた新しいプロンプト最適化アプローチ　「RLPrompt」
　　［7］　強化学習アルゴリズムによる結果の正確度合いのスコア化
　　［8］　人間の指示によりよく沿うように提案された新しいLLMアルゴリズム　「HIR」
　　［9］　UCバークレー校研究グループ　「あらゆる形態のフィードバックから学習することを可能にするChain of Hindsight（CoH）技術」

9-5　人間のフィードバックによる強化学習（RLHF）
　　［1］　概要
　　［2］　制約・課題
　　［3］　大規模言語モデルとRLHFの関係
　　［4］　OpenAI　「RLHFを用いて学習させたChatGPTの開発」
　　［5］　RLHFを可能にするエンタープライズ LLMOps
　　［6］　論文

9-6　PPO（Proximal Policy Optimization）アルゴリズム／報酬モデルに対するポリシー最適化
　　［1］　概要
　　［2］　具体的な流れ
　　［3］　論文

9-7　Direct Preference Optimization (DPO)／強化学習を使わずに嗜好から言語モデルを学習させる学習パラダイム
　　［1］　概要
　　［2］　従来のアプローチとの違い

9-8　模倣学習（徒弟学習／実演からの学習）
　　［1］　概要
　　［2］　言語フィードバックからの模倣学習
　　［3］　Meta AI　「GenAug」（模倣学習等による意味データ拡張フレームワーク）

9-10　メタ学習
　　［1］　概要
　　［2］　アプローチ

9-11　メモリ拡張型ニューラルネットワーク（MANN）
　　［1］　概要
　　［2］　アプローチ例

9-12　転移学習（トランスファー・ラーニング）
　　［1］　概要
　　［2］　生成系AIにおける転移学習実装の動向
　　［3］　トランスファー学習の5つのタイプ
　　［4］　転移学習の仕組み
　　［5］　転移学習の応用
　　［6］　基礎モデルと転移学習
　　［7］　生成系AIにおける転移学習の可能性
　　［8］　転移学習が生成系AIのパフォーマンスに与える影響
　　［9］　ソフトウェア

9-13　ファインチューニング（微調整）
　　［1］　概要
　　［2］　アプリケーション
　　［3］　ファインチューニングされた言語モデル
　　［4］　事前学習とファインチューニング
　　［5］　前処理／トレーニングとファインチューニング
　　［6］　特定のタスクに適合するためのLLMのファインチューニング
　　［7］　LLMモデル開発のアプローチ別特性
　　［8］　プロンプトエンジニアリングにおけるファインチューニング（微調整）
　　［9］　LLMエンベッディングとファインチューニング

9-14　多言語言語モデルの基本
　　［1］　概要
　　［2］　将来への展望

9-15　低ランク適応（Low-rank adaption：LoRA）
　　［1］　概要
　　［2］　LoRSの実装

9-16　量子化
　　［1］　概要
　　［2］　量子化の実装

9-17　生成モデル／深層生成モデル（DGM）
　　［1］　概要
　　［2］　生成モデルの種類
　　［3］　動画の深層生成モデル
　　［4］　動画の新しい生成モデルによるSOTAスコアの向上とGPUメモリ使用量の削減

9-18　ユニバーサル言語モデルファインチューニング（ULMFiT)
　　［1］　概要
　　［2］　ULMFiTの主要なステップ
　　［3］　論文
　　［4］　PIRを実現する方法


第10章　生成系AI・LLM（大規模学習モデル）と機械学習・ディープラーニング［2］

10-1　事前学習（Pre-training）
　　［1］　概要
　　［2］　時系列に対する事前学習
　　［3］　大規模な事前学習済み基礎モデル
　　［4］　文脈内学習と最適設計されたプロンプト構造と組み合わせによる事前学習
　　［5］　事前に訓練された言語モデルLMからドメイン固有の知識を取得「SwitchPrompt」
　　［6］　KAIST／LG Researchの研究グループ　「事前学習済みモデルに特にチューニングされた文脈内学習で学習するICIL」
　　［7］　新たな学習データを必要とせず、わずか数個の例から新しいタスクを学習できるモデル
　　［8］　自然言語処理モデルの事前学習とT5（Text-To-Text Transfer Transformer）
　　［9］　検索補強型視覚言語事前トレーニング
　　［10］　IBM　単純な表現から分子の構造を推測する事前学習済みの人工知能AIモデル　「MoLFormer-XL」

10-2　説明ベースの学習（EBL）
　　［1］　概要
　　［2］　アプリケーション

10-3　ゼロショット学習
　　［1］　概要
　　［2］　応用分野
　　［3］　自然言語処理とゼロショットの学習環境
　　［4］　LLMのゼロショット性能を改善するための軽量かつ多用途なアプローチ
　　［5］　チューリッヒ大学研究グループ　「MTurkアノテーションを上回る性能を見せたゼロショットChatGPT分類」
　　［6］　思考連鎖推論により言語モデルのゼロショット学習と数ショット学習を強化する命令データセット
　　［7］　Microsoft　ゼロショットのジョブ入力で自動的にプロンプトを調整するレトリーバ「UPRISE」

10-4　ゼロショットCoT
　　［1］　概要
　　［2］　Google／東京大学／北京大学／マイクロソフト　「LLMで困難な多段階問題を解決するためのプロンプティング技法／ゼロショットCoT他」
　　［3］　デンマーク工科大学／コペンハーゲン大学病院　「ゼロショットCoTフレームワークとLLMが医学的な質問について推論する能力の探求」

10-5　ワンショット学習（コンピュータビジョン）
　　［1］　概要
　　［2］　動機
　　［3］　　ゼロショット学習とワンショット学習による疎活性化言語モデル「GLaM」

10-6　ドメイン適応
　　［1］　概要
　　［2］　ドメイン適応の基本タイプ
　　［3］　4つのアルゴリズム原理
　　［4］　ソフトウェア

10-7　マルチタスク学習（MTL）／知識の移転
　　［1］　概要
　　［2］　方法
　　［3］　適用・応用
　　［4］　マルチタスク学習アルゴリズム
　　［5］　トランスフォーマーの適応性とマルチタスク学習
　　［6］　RMTL（マルチタスク学習における誤差）／文脈内学習における一般化と暗黙のモデル選択

10-8　マルチタスク最適化
　　［1］　概要
　　［2］　方法
　　［3］　応用

10-9　基礎モデル（ベースモデル／ファンデーションモデル）
　　［1］　概要
　　［2］　応用・実装例
　　［3］　リスク

10-10　生成的事前訓練トランスフォーマー／生成的事前訓練トランスフォーマー（GPT）
　　［1］　概要
　　［2］　タスク固有モデル
　　［3］　マルチモーダリティ
　　［4］　プラグインやアドオンによるドメイン固有性の達成
　　［5］　特定の分野やドメインに向けたアプリケーション

10-11　トランスフォーマー（機械学習モデル）
　　［1］　概要
　　［2］　アーキテクチャ
　　［3］　　　［5］　トランスフォーマー・モデル アーキテクチャ
　　［4］　学習を安定させる方法
　　［5］　トレーニング
　　［6］　実装
　　［7］　多段階の推論を必要とする構成的課題を解くためのトランスフォーマーの研究
　　［8］　生成トランスフォーマーによるテキストから画像への生成・編集モデル
　　［9］　トランスフォーマーモデルのアテンションメカニズムを可視化するオープンソースツール「BertViz」
　　［10］　スタンフォード大学　「状態空間モデル（SSM）とトランスフォーマー言語モデルの注意メカニズム間のギャップ解決」
　　［11］　トランスフォーマーのための多人数計算（MPC）でプライベート推論を可能にするモデル


第11章　生成系AI・LLM（大規模学習モデル）と機械学習・ディープラーニング［3］

11-1　生成的敵対ネットワーク（GAN）
　　［1］　概要
　　［2］　評価
　　［3］　応用
　　［4］　生成的敵対ネットワーク（GAN）を用いた3D生成モデル
　　［5］　INRsを適用した、新たな動画生成GAN（敵対的生成ネットワーク）

11-2　拡散モデル（Diffusion Model）
　　［1］　概要
　　［2］　サービス
　　［3］　拡散モデルを組み合わせた合成画像生成

11-3　Stable Diffusion（安定した拡散）
　　［1］　概要
　　［2］　開発・ライセンス
　　［3］　テクノロジー
　　［4］　アーキテクチャ
　　［5］　データセット
　　［6］　学習手順
　　［7］　拡散モデルで生成したコンテンツの利用
　　［8］　課題
　　［9］　機能
　　［10］　ControlNet（ニューラルネットワークアーキテクチャ）
　　［11］　使用法
　　［12］　Stability AI　「標準的なPCで実行可能な画像生成系AI：Stabile Diffusion XL 0.9」
　　［13］　Adobe Research　モデルを完全に再トレーニングすることなく複数の新しい概念を学習する方法」
　　［14］　NVIDIA　「効率的で表現力豊かなテキストからビデオへの変換モデル」
　　［15］　Microsoft／UT Austin研究グループ　新しいモデルアーキテクチャ　「Prompt Diffusion」

11-4　思考の連鎖：CoT（Chain of Thought）
　　［1］　概要
　　［2］　Google／東京大学／北京大学／マイクロソフト　「LLMで困難な多段階問題を解決するためのプロンプティング技法／ゼロショットCoT他」

11-5　思考の木：ToT（Tree of Thoughts）
　　［1］　ToTの戦略・実装
　　［2］　ToTにおける主な検索アルゴリズムと特性

11-6　視覚のマルチレベル理論
　　［1］　概要
　　［2］　光色素の伝達
　　［3］　人工的な視覚知覚
　　［4］　LLMとvisual perception modelsを組み合わせ、場面に存在するオブジェクトに従って実行可能なプランを生成する行動生成エージェント

11-7　手続き的生成
　　［1］　概要
　　［2］　アプリケーション
　　［3］　使用法

11-8　生成トポグラフィーマップ
　　［1］　概要
　　［2］　メリット
　　［3］　アルゴリズム
　　［4］　用途

11-9　自己組織化マップ
　　［1］　概要
　　［2］　アルゴリズム
　　［3］　SOMの学習プロセス
　　［4］　解釈
　　［5］　アプローチ
　　［6］　成長する自己組織化マップ（GSOM）／生成的トポグラフィック・マップ（GTM）／時間適応自己組織化マップ（TASOM）

11-10　ニューラルネットワーク
　　［1］　概要
　　［2］　モデルの種類
　　［3］　LLMとニューラルネットワーク
　　［4］　応用
　　［5］　拡散モデルを制御するニューラルネットワークアーキテクチャ　「ControlNet」

11-11　変分オートエンコーダ（VAE）
　　［1］　概要
　　［2］　アーキテクチャ・動作

11-12　ロボット学習
　　［1］　概要
　　［2］　プロジェクト
　　［3］　PaLM-E（ロボット操作などのタスクで強い推論能力を発揮するエンボディド・マルチモーダル言語モデル）

11-13　進化ロボット工学
　　［1］　概要
　　［2］　実験

11-14　発達ロボティクス（DevRob）
　　［1］　概要
　　［2］　研究動向
　　［3］　メカニズムと制約
　　［4］　課題
　　［5］　関連団体

11-15　認知ロボット工学
　　［1］　概要
　　［2］　学習技術


第12章　量子アニーリング／量子コンピュータと機械学習／ディープラーニング

12-1　人工知能の発展に不可欠な量子コンピュータ技術

12-2　量子人工知能の現状と展開予測

12-3　スパコンより高速性能を発揮する量子ニューラルネットワーク計算機


第13章　次世代ロボットと機械学習／ディープラーニング

13-1　次世代ロボットと人工知能／機械学習

13-2　機械学習を搭載したロボット技術の進展

13-3　次世代産業ロボットの開発を牽引する分散機械・リアルタイム解析モデル
　　［1］　ビッグデータと機械学習の結合
　　［2］　IoTによるロボットのリアルタイム解析ソリューション

13-4　ファナック／シスコシステムズ　「産業用ロボットの知能化」

13-5　次世代ドローンと機械学習

13-6　機械学習で自律飛行するドローン

13-7　次世代ドローンと機械学習による地図作成システム

13-8　産業用ドローンの自律航行・航行中の動作処理高度化


第14章　教師（ティーチング）不要ロボット

14-1　機械学習とロボット・システム

14-2　ディープラーニングとロボット・システム

14-3　ティーチング作業の制約を克服する取り組み

14-4　カメラで部材を認識・位置補正するティーチングレスシステム

14-5　ファナック／PFN　「強化学習を用いた複数ロボット同士の協調」

14-6　ファジィニューロ学習･推論エンジンを搭載した産業用ロボット

14-7　ティーチングフリーを実現した小型５軸多関節ロボット

14-8　自律的判断対応型バラ積みピッキングロボット

14-9　教師レスのAI荷卸しロボット

14-10　動作軌道自動生成ロボット

14-11　安全柵設置が不要な協働ロボット

14-12　ディープラーニングと予測学習を使っマルチモーダルAIロボットアーム


第15章　スマートマニファクチャリング／スマートファクトリーと機械学習／ディープラーニング

15-1　サイバーフィジカルシステム（CPS）と機械学習／ディープラーニング

15-2　スマートファクトリーと事前学習済み機械学習モデル

15-3　インダストリー4.0とAI

15-4　インダストリー4.0の課題とAIによる解決
　　［1］　概説
　　［2］　次世代産業用ロボットに欠かせない人工知能
　　［3］　IoT対応・人工知能搭載型携帯電話

15-5　インダストリーIoTと音声認識、視線の分析技術

15-6　機械学習／ディープラーニング援用によるIoT志向のスマートファクトリー

15-7　既存のバウンダリーを無効化するIoT／スマートマニファクチャリング

15-8　富士通研究所　「IoT／エッジコンピューティングとAI／機械学習の実証実験」

15-9　Microsoft 「Azure Machine Learnin」に基づいたエキスパートシステム

15-10　事例紹介
　　［1］　オークマ　機械学習機能を搭載した「OSP-AI」


第16章　医療診断支援／次世代医療技術と機械学習

16-1　人工知能を使った症状のメカニズム解明

16-2　次世代医療技術での活用が有望視される人工知能

16-3　ビッグデータ解析と予防医療

16-4　機械学習／ディープラーニングがもたらす医療画像認識技術の顕著な発展

16-5　ディープラーニングによる電子カルテ診療データ解析技術

16-6　電子カルテデータをもとに機械学習を使った予後の予測

16-7　機械学習を用いたICU向け先進電子カルテシステム

16-8　地域間医療格差是正と多職種間の連携

16-9　IoT／生体センシング／機械学習を活用したヘルスケア・ソリューション

16-10　メンタルヘルスの定量化を実現する人工知能
　　［1］　メンタルヘルスの定量化共同プロジェクトの始動
　　［2］　機械学習を活用したメンタルヘルスのシステム化
　　［3］　ストレスチェック支援クラウド


第17章　ディープラーニングがもたらす医療画像認識技術の顕著な発展

17-1　概説
　　［1］　概況・近況
　　［2］　医療画像診断の技術革新を促す人工知能
　　［3］　ディープラーニングがもたらす医療画像認識技術の顕著な発展
　　［4］　深層学習を使った先進画像診断技術

17-2　8K画像／8K（硬性）内視鏡の開発と人工知能による診断支援
　　［1］　概況・近況
　　［2］　病理診断への活用
　　［3］　診断支援への活用
　　［4］　内視鏡（硬性鏡）への活用
　　［5］　総務省　「8K技術の応用による医療のインテリジェント化に関する検討会」


第18章　フィンテック／ブロックチェーンとAI／機械学習［1］

18-1　フィンテック普及のカギを握るオープンイノベーション促進

18-2　AI／ディープラーニングを使った金融プラットフォーム

18-3　AIによる為替・株式売買の判断支援

18-4　AIによる金融資産分析／商機発掘

18-5　AIによるリアルタイムビッディング（RTB）

18-6　AIによる自動対話サービス

18-7　AIによる銀行店舗接客支援

18-8　投資運用戦略における機械学習技術活用
　　［1］　ビットコインを使った全自動取引アルゴリズム
　　［2］　トレーディングにおけるディープニューラルネットワーク適用
　　［3］　センチメント分析による株式銘柄のスコアリング

18-9　AI／脳科学を使った顧客の投資行動パターン分析／行動態様分析による審査
　　［1］　SMBCコンシューマーファイナンス）　「統計的経験則に基づくリスク評価・審査モデル」
　　［2］　ZestFinance　「返済意思」を重視した審査モデル


第19章　フィンテック／ブロックチェーンとAI／機械学習［2］

19-1　「アカウントアグリゲーション」のモデル／手法

19-2　ロボアドバイザー

19-3　投資サポート

19-4　機械学習活用による金融商品販売のチェック業務効率化

19-5　不動産業のブロックチェーン適用

19-6　リアルテックで展開が予想される主な分野

19-7　フィンテック活用／フィンテック投資動向
　　［1］　概況・近況
　　［2］　IBM
　　［3］　Lendr　「人工知能を利用した住宅ローンのリヴァースオークション・プラットフォーム」
　　［4］　Crowdsurfer　「ソーシャライズファイナンス／シェアエコノミー向けプラットフォーム」
　　［5］　大和証券グループ／デジタルガレージ
　　［6］　千葉銀行
　　［7］　新日鉄住金ソリューションズ
　　［8］　メタップス


第20章　次世代自動車と機械学習／ディープラーニング

20-1　自動運転、人工知能、モビリティーサービスのシナジー

20-2　機械学習で連携が進む自動車業界

20-3　次世代自動車と機械学習／ディープラーニング　研究開発動向

20-4　AI／機械学習による次世代車載システムの開発

20-5　第5世代SoC採用に向けた動き

20-6　車載LAN「CAN」におけるハッキング信号の機械学習


第21章　コネクテッドカーと機械学習／ディープラーニング

21-1　概説

21-2　OTA（Over The Air）と機械学習

21-3　自動運転向けIoTクラウドサービス

21-4　クラウド型リアルタイム走行データ収集・蓄積プラットフォーム

21-5　クラウド型運転情報レコメンドサービス

21-6　AIクラウドとコネクテッドカー：主要プラットフォーム
　　［1］　Bosch　「Bosch Automotive Cloud Suit」
　　［2］　Microsoft 　「Microsoft Azure」
　　［3］　Google　「Android」
　　［4］　BMW　「BMW Connected」

21-7　ディープラーニングを活用した車載／端末解析

21-8　研究開発／参入メーカー動向
　　［1］　NVIDIA
　　［2］　デンソー／東芝
　　［3］　トプスシステムズ
　　他

第22章　自動運転と機械学習／ディープラーニング

22-1　概説
　　［1］　概況
　　［2］　世界中に広がる自動運転車の開発と公道での運行開始
　　［3］　人工知能搭載自動車がもたらすモビリティ・イノベーション
　　［4］　ロボット／センサーとの統合と自動運転システムの高度化

22-2　Waymo（グーグル）の取り組み

22-3　Google Carにおけるロボット制御サイクル

22-4　フォードの取り組み

22-5　トヨタ　「MOBILITY TEAMMATE CONCEPT」


第23章　ADAS／自動運転向け機械学習プラットフォーム

23-1　“Cloud-to-Car”の潮流

23-2　位置・地図情報ベンダー動向
　　［1］　概況・近況
　　［2］　Mobileye　「REM」
　　［3］　HERE　「HD Live MAP」
　　［4］　TomTom
　　［5］　NVIDIA
　　［6］　Intel　「Intel GO」／Mobileye買収
　　［7］　Google　「Google Map」
　　［8］　Uber Technologies
　　［9］　ZF／Bosch／Volvo Cars
　　［10］　AImotive
　　［11］　ダイナミックマップ基盤企画（DMP）
　　［12］　パイオニア

23-3　自動運転ベンダー／主要プラットフォーム動向
　　［1］　NVIDIA　「DRIVE PX」／「DRIVE PX2」
　　［2］　ティアフォー／NVIDIA／AutonomouStuff　「Autoware」
　　［3］　バーテックス　「CarSim」
　　［4］　ESI Grou／日本イーエスアイ


第24章　コネクテッドホームと機械学習／ディープラーニング

24-1　概説

24-2　活発化する産学連携体制によるAI／コネクテッドホーム開発の取り組み

24-3　機械学習によるコネクテッドホームの拡張

24-4　AIによるユーザー嗜好の学習・レコメンド機能搭載家電

24-5　事例紹介
　　［1］　Amazon 「Amazon Echo／Amazon Homekit」
　　［2］　Google　「Google Asistant」
　　［3］　Google　「Google Home」
　　［4］　Microsoft　「Office 365」／「Dynamics 365」


第25章　VR／AR／MRと機械学習／ディープラーニング

25-1　拡張現実（仮想現実）と機械学習
　　［1］　概況・近況
　　［2］　経過

25-2　シミュレーテッドリアリティと機械学習／ディープラーニング

25-3　コンピュータビジョン／ロボットビジョンと機械学習

25-4　ニューラルインターフェース（思考／脳の活動）を検知する次世代ゲーム

25-5　生体情報のモニタリング／バイタルサイン技術とVR／AR技術の統合

25-6　VRを用いた多地点協働型手術支援システム

25-7　参入企業動向
　　［1］　DeepMind Technologies
　　［2］　Blippar
　　［3］　Ceva
　　［4］　wrnch


第26章　デジタルマーケティングと機械学習／ディープラーニング

26-1　マーケティング自動化サービスの台頭

26-2　次世代のマーケティングプラットフォーム

26-3　データと機械学習を利用したABM向けのマーケティング分析ツール

26-4　Facebook広告の運用負荷を軽減する「Kenshoo Social」

26-5　レコメンドサービスとビッグデータ活用


第27章　コグニティブコンピューティングと機械学習／ディープラーニング

27-1　IBM Watsonに見る人工知能の進化と人間の未来

27-2　クラウド経由で提供するWatson関連サービス


第28章　RPAと機械学習／ディープラーニング

28-1　概説

28-2　機械学習とRPA

28-3　自然言語処理とRPA

28-4　異常仕訳を自動的に識別する機械学習アルゴリズム

28-5　RPAへのコグニティブ（認知）機能追加


第29章　建設・土木ITと機械学習／ディープラーニング

29-1　ディープラーニングによる地面掘削作業の自動化

29-2　GPUによる建機の自律動作


第30章　スマートシティと機械学習／ディープラーニング

30-1　スマートシティのホリスティックアプローチを促進するAI／機械学習

30-2　スマートシティのサイエンティック・アプローチと機械学習／ディープラーニング
　　［1］　2000-watt society
　　［2］　蟻コロニー最適化

30-3　都市ガバナンスとAI／機械学習

30-4　ビッグデータ／AI／機械学習を活用した新たなスマートシティ・サービス創造

30-5　事例紹介
　　［1］　米国政府　「ビッグデータイニシアティブ」
　　［2］　マサチューセッツ州　「ビッグデータイニシアティブ」
　　［3］　シンガポール政府機関 「Singapore Safe City Test Bed」
　　［4］　欧州委員会　「ビッグデータ・プライベート・フォーラム」への資金提供
　　［5］　ドイツ／産官学一体プロジェクト　「Industry（インダストリー）4.0」
　　［6］　Siemens（シーメンス）　「ネクスト47」
　　［7］　ビッグデータ専用アプリケーション活用によるスマートシティサービス


第31章　フォグ／エッジ・コンピューティングとAI

31-1　“フォグ”とAIによる次世代コネクテッドインダストリー

31-2　クラウドからエッジへシフトを遂げるディープニューラルネットワークのモデル

31-3　マイクロデータセンター実現に向けた動向

31-4　低電力でAI／機械学習を実現するエッジコンピューティング

31-5　ビッグデータ向けネットワーク基盤コンソーシアム創設


第32章　IoTプラットフォームとディープラーニングフレームワークの連携・統合［1］

32-1　アマゾン・ウェブ・サービス（AWS）「Lambda」／「AWS IoT」
　　［1］　概況・近況
　　［2］　IoTサービス「AWS IoT」

32-2　IBM　「IBM Watson」／「Cloud Foudry」
　　［1］　概況・近況
　　［2］　IoTデバイスとWatsonの結合
　　［3］　Cloud Foundry

32-3　ボッシュ（Robert Bosch）　「Bosch IoT Cloud）」／「TraQ」（Track Quality）」
　　［1］　概況・近況
　　［2］　IoT情報基盤「Bosch IoT Cloud）」
　　［3］　センサーソリューション「TraQ」（Track Quality）
　　［4］　モバイル生産アシスタントの「APAS」シリーズ
　　［5］　工具をスマート化するソリューション　「Process Quality Manager」
　　［6］　IoTベース自動運転技術の開発

32-4　ゼネラル・エレクトリック（GE）　「Predix」

32-5　シーメンス（Siemens AG）　「Digital Enterprise」／「MindSphere」
　　［1］　概況・近況
　　［2］　Digital Enterprise／The Digital Enterprise Software Suite
　　［3］　TIA（Totally Integrated Automation）
　　［4］　MindSphere
　　［5］　Holistic Security Concept

32-6　マイクロソフト 「Azure Machine Learning」

32-7　KUKA　「KUKA Connect」
　　［1］　概況・近況
　　［2］　「KUKA Connect」


第33章　IoTプラットフォームとディープラーニングフレームワークの連携・統合［2］

33-1　ファナックなど4社　「FANUC Intelligent Edge Link and Drive system」

33-2　ファナック　「FIELD system」

33-3　日立製作所　IoTサービス基盤「Lumada（ルマーダ）」
　　［1］　概況・近況
　　［2］　「Lumada（ルマーダ）」
　　［3］　Preferred Network
　　［4］　「M2Mトラフィックソリューション」

33-4　富士通　「Zinrai」
　　［1］　「Zinrai」

33-5　日本電気　「NEC Industrial IoT」／「CONNEXIVE」
　　［1］　概況・近況
　　［2］　「NEC Industrial IoT」
　　［3］　「CONNEXIVE」

33-6　ソフトバンク　「ARMエコシステム」
　　［1］　概況・近況
　　［2］　ARMによるインダストリーIoTエコシステム形成の取り組み

33-7　ルネサス エレクトロニクス　「R-IN（Renesas’s platform for INdustry」

33-8　三菱電機　「e-F@ctory／e-F@ctoryAlliance」
　　［1］　概況・近況
　　［2］　「e-F@ctoryAlliance」
　　［3］　ニューラルネットワーク設計支援プラットフォーム

33-9　安川電機　「ソリューションファクトリー」
　　［1］　概況・近況
　　［2］　「ソリューションファクトリー」

33-10　安川情報システム　「MMCloud」

33-11　ヤマザキマザック　「iSmart Factory」
　　［1］　概況・近況
　　［2］　「iSmart Factory」

33-12　オークマ　「OSP-AI」
　　［1］　「OSP-AI」


第34章　機械学習／ディープラーニング開発向けツール

34-1　人工知能関連各種開発言語／APIツール
　　［1］　Artificial Intelligence Markup Language
　　［2］　Google TensorFlow
　　［3］　Amazon Deep Scalable Sparse Tensor Network Engine（DSSTNE：デスティニー）
　　［4］　Microsoft Cognitive Services
　　［5］　Microsoft Computational Network Toolkit(CNTK)


第35章　ディープラーニング向けツール／ソフトウェア／アプリ

35-1　機械学習アルゴリズムを備えたソフトウェアスイート
　　［1］　SAS
　　［2］　RapidMiner
　　［3］　LIONsolver
　　［4］　KNIME
　　［5］　Weka
　　［6］　Oracle Data Mining (ODM)
　　［7］　Apache Mahout


第36章　機械学習／ディープラーニング向けクラウド・サービス

36-1　クラウド・サービスと機械学習／ディープラーニングの同期的進化

36-2　AIクラウド／学習済みクラウドAIの国際的な進展

36-3　機械学習分析向けクラウドサービス／機械学習エンジンAPIサービス

36-4　機械学習エンジンを搭載した クラウド型プラットフォーム

36-5　クラウド型リアルタイムデータ収集・蓄積プラットフォーム

36-6　クラウド型ビッグデータ解析／レコメンドサービス

36-7　機械学習を活用したサイバー攻撃対策プラットフォーム

36-8　機械学習エンジンを搭載したクラウド型コンテンツマーケティングプラットフォーム

36-9　クラウド型機械学習サービス導入にあたっての検討事項

36-10　製品・サービス紹介
　　［1］　オークマ　工作機械の自律的異常予見診断技術「OSP-AI」
　　［2］　オープンストリーム　クラウド型運転情報レコメンドサービス「LogStream」


第37章　機械学習／ディープラーニング・フレームワーク［1］

37-1　概説

37-2　TensorFlow

37-3　Caffe

37-4　Caffe2

37-5　Caffe2関連

37-6　Chainer

37-7　ChainerMN

37-8　Theano

37-9　Touch7

37-10　PyTorch

37-11　Chainer

37-12　MXNet


第38章　機械学習／ディープラーニング・フレームワーク［2］

38-1　The Microsoft Cognitive Toolkit (CNTK)

38-2　Qualcomm　ディープラーニングフレームワーク「NPE」

38-3　Deep Insight　「KAIBER」

38-4　Keras

38-5　Amazon Deep Scalable Sparse Tensor Network Engine（DSSTNE）

38-6　Lasagne

38-7　neon

38-8　NNabla（Neural Network Library）

38-9　NVIDIA TensorRT

38-10　DeCAF（A Deep Convolutional Activation Feature for Generic Visual Recognition）

38-11　Deeplearning4j

38-12　DataRobot

38-13　exaBase


第39章　リアルタイムAI向けディープラーニング・プラットフォーム

39-1　Microsoft　「Project Brainwave」

39-2　Preferred Infrastructure（PFI）　「SedueforBigData」

39-3　SAS Institute Japan　「リアルタイム解析ソリューション」

39-4　ディープラーニング技術を実装したリアルタイム解析AI


第40章　機械学習／ディープラーニング・標準形式

40-1　ONNX（Open Neural Network Exchange）

40-2　NNEF （Neural Network Exchange Format）

40-3　CoreML


第41章　機械学習／ディープラーニングの開発言語

41-1　機械学習タスクの特性

41-2　開発言語の評価
　　［1］　Python
　　［2］　MATLAB（Octave）
　　［3］　Julia
　　［4］　R
　　［5］　その他言語


第42章　関連団体とその動向

42-1　日本ディープラーニング協会（JDLA）

42-2　22-2　AIビジネス推進コンソーシアム

42-3　FiNC Wellness AI Lab（FiNC Wellness 人工知能研究所）


第42章　注目企業（海外）とその動向

42-1　概況

42-2　Amazon Web Services

42-3　Databricks

42-4　Dataiku

42-5　Veritone

42-6　DataRobot

42-7　Unity

42-8　SoundHound

42-9　Veda Data Solutions

42-10　FLYR Labs

42-11　Imbue（Generally Intelligent）

42-12　Plainsight

42-13　Interactions

42-14　OctoML

42-15　Tonic.ai

42-16　Duolingo

42-17　KAYAK

42-18　Urbint

42-19　Afresh

42-20　HouseCanary

42-21　Quora

42-22　Convoso

42-23　TackleAI

42-24　Hyperscience

42-25　CloudZero

42-26　Strong Analytics

42-27　MathWorks

42-28　TrueMK（TrueAccord）

42-29　MORSE

42-30　Aurora Flight Sciences

42-31　Attivio

42-32　Gamalon

42-33　Tethr

42-34　OCTI

42-35　Fama Technologies

42-36　Luminoso Technologies

42-37　QBurst