機械学習パ▪▪プラ▪▪ン

通常,機械学習アルゴリズムを実行する際には,前処理,特徴抽出,モデル適合,検証など一連のステージのタスクが含まれます。例えば,テキスト文書を分類する場合,テキストのセグメンテーションやクリーニング,特徴量の抽出,交差検証での分類モデルのトレーニングなどがあります。各ステージに利用できるライブラリは多数ありますが,特に大規模なデータセットを使用する場合,それぞれのライブラリを全体につなげる作業は容易ではありません。また,ほとんどの機械学習ライブラリは,分散計算用には設計されていないか,パイプラインの作成やチューニングをネイティブにサポートしていません。機械学習パ▪▪プラ▪▪ンとは，"spark。ml"パッケ，ジ下にあるMLlibのための高レベルAPIです。パイプラインには,一連のステージがあり,基本的なパイプラインのステージタイプは,トランスフォーマーとエスティメーターの2つです。トランスフォ，マ，は，デ，タセットを入力として受け取り，出力として拡張デ，タセットを生成します。例えば,トークナイザは,テキストのデータセットをトークン化した単語のデータセットに変換するトランスフォーマーです。エスティメーターは,入力データセットを変換するトランスフォーマーであるモデルを生成するために,最初に入力データセットに適合させる必要があります。例えば,ロジスティック回帰は,ラベルと特徴量でデータセットをトレーニングし,ロジスティック回帰モデルを生成するエスティメーターです。