AdventCalendar4日目 機械学習とかの用語

# 機械学習とかの用語について AdventCalendar2016も4日目、kinsanです ここ数年、機械学習とか深層学習が流行っています 機械学習の用語とか、深層学習との違いがわからなくて困った覚えが昔にあるので 再確認の意味を込めて用語の確認をしたいと思います 研究は強化学習よりなのでそっちの用語多めです - 機械学習 (Machine Learning) 人間が自然に行っている学習能力と同様の機能を、 コンピュータで実現しようとする技術・手法 伊右衛門のペットボトルを見てお茶だと認識できるのも学習の結果ですね - 深層学習 (Deep Learning) 多層構造のニューラルネットワークを用いた機械学習 多層のニューラルネットワークを用いて人間のような学習能力を得ようとします Googleの翻訳とか、AlphaGoもこれ - ニューラルネットワーク (Neural Network) 人間の脳の回路であるニューロンを模したネットワーク構造 ニューロンを近似した関数で示しそれをネットワークにしたもの - パーセプトロン (Perceptron) 人工ニューロンやニューラルネットワークの一種 - CNN (Convolutional Neural Network) 畳み込みニューラルネットワークとか呼ばれたりもする 画像処理に特に強いネットワークの一種 - RNN (Recurrent Neural Network) Recurrent=再帰的ということで、再帰的なニューラルネットワーク 過去の出力を入力のひとつとすることで時系列的な学習ができる 自然言語処理や音声などの連続性に意味があるものに強い - LSTM (Long Short-Term Memory) LSTMはRNNの一種で、長期的な依存関係を学習できる 内容は検索するとわかるけどとてもわかりにくい - 強化学習 (Reinforcement Learning) ある環境内におけるエージェントが、現在の状態を観測し、 取るべき行動を決定する問題を扱う機械学習の一種 例えば囲碁をするAIなら盤面の画像を入力にし、次の一手を決めるとか - 深層強化学習 (Deep Reinforcement Learning) 強化学習と深層学習を組み合わせたもの - DQN (Deep Q-Network) 強化学習の一種であるQ-LearningとDeep Neural Networkを組み合わせたもの 従来の強化学習よりもいい結果が期待できる - DRQN (Deep Recurrent Q-Network) DQNにLSTMを組み合わせたもので、時系列の学習が可能 状態が不安定なときでもある程度精度があがる - DDQN (Deep Double Q-Network) DQNのQ学習の評価の問題を改善したもの DQNよりいい結果が期待できる - chainer PFN(Preferred Networks)という日本のベンチャーが作った、 pythonのDeep Learningフレームワーク - TensorFlow Googleが作ったDeep Learningフレームワークで、C++とpythonに対応している たぶん世界で一番メジャーなDeep Learningフレームワーク - 自然言語処理 (NLP,Natural Language Processing) 人間が日常的に使っている自然言語をコンピュータに処理させる一連の技術 - MNIST (Mixed National Institute of Standards and Technology database) 手書き数字のデータセットで、様々なDeep Learningフレームワークの入門に使われている 例えば自分が研究しているDQNは深層強化学習であり、 深層強化学習は深層学習と強化学習を組み合わせたもの そしてDQNは強化学習の一種であるQ-LearningとDeep Neural Networkを組み合わせたもの 深層学習と強化学習は機械学習の一種である こんな感じなんですかね、間違ってたら申し訳ないです これをみてそれぞれの関係とか、深層学習=Deep Learningであるとか知れたらいいですね