7学期講義/数理手法IV(統計的機械学習入門)

新着情報


科目区分

計数数理:限定選択C
計数システム:限定選択C

教員

中川 裕志

場所

工61号講義室

教科書・参考書

(1)パターン認識と機械学習 上・下 C.M. Bishop著 シュプリンガージャパン
(2)統計科学のフロンティア11,12. 岩波書店

成績評価


過去問


シケプリ


シラバス

計算機が生まれて以来、人間のように学習する機械学習ソフトウェアを作ることは夢であった。いろいろな試みがなされたが、実用に耐えうる機械学習システムは最近まで実現しなかった。しかし、計算機の速度、メモリ容量に飛躍的な進歩と、統計学の理論的進展によってデータマイニングなどの実用的な応用に耐えられる統計的機械学習が実現した。この授業では、まず統計学の基礎からスタートして、教師あり学習として基本的な線形回帰、識別とその発展形態であるサポートベクターマシン(SVM)について学ぶ。次に、教師なし学習であるクラスタリング、EMアルゴリズムなどについて学び、学習における有力な推論手法であるマルコフチェイン・モンテカルロ法を概観する。最後に、機械学習手法の評価方法を説明し、時間が許せばデータマイニングなどの応用を紹介する。

0.機械学習の歴史
歴史以前
人工知能の時代
実用化の時代
1.導入
情報の変換過程のモデル化
ベイズ統計の意義
識別モデルと生成モデル
次元の呪い
損失関数, bias, variance, noise
データの性質
2.数学のおさらい
線形代数学で役立つ公式
確率分布
情報理論の諸概念
3.線形回帰と識別
線形回帰
正規方程式
正規化項の導入
線形識別
パーセプトロン
4.カーネル法
線形識別の一般化
カーネルの構築法
最大マージン分類器
ソフトマージンの分類器
SVMによる回帰モデル
SVM実装上の工夫
5.クラスタリング
距離の定義
階層型クラスタリング
K-means
6.モデル推定
潜在変数のあるモデル
EMアルゴリズム
変分ベイズ法
7.マルコフチェイン・モンテカルロ法
次元の呪いからの脱却
Metroplis-Hastings Algorithm
Gibbs Sampling
8.スムージング
未観測のデータの扱い
バックオフスムージング
Good-Turingの推定
9.評価方法
順位なし結果の評価(再現率、精度、適合率、F値)
順位付き結果の評価
10.データマイニング

関連サイト


講義まとめ


  • 最終更新:2010-02-13 09:19:15

このWIKIを編集するにはパスワード入力が必要です

認証パスワード