Index ソフト・ハード LightGBM | 機能・要件 |
LightGBM GOSS EFB 構成・方式 タスク 導入 Sample |
LightGBM (Light Gradient Boosting Machine) ・勾配ブースティング決定木(GBDT) を扱えるフレームワーク ・Leaf-wise 分岐させるべき葉だけを分岐・葉の分岐点を探す際にヒストグラム (参考)を採用 葉の生成時間を短くする。 ヒストグラムの分割点の求め方を最適解ではなく次善解に変更し高速化・決定木構築アルゴリズムは Histogram-based のみ 精度向上などのため勾配ブースティング決定木に GOSS と EFB を取り入れ。・ランキング学習 のアルゴリズムを実装 クエリに対するレコードの集合からペアを作成、関連順序のラベルから学習 LambdaRank・参考 GOSS (Gradient-based One-Side Sampling) ・勾配の大きなデータはそのまま、小さいデータはランダムサンプリングする。 EFB (Exclusive Feature Bundling) ・無視できる特徴量を無視出来ない問題の改善策 |
All Rights Reserved. Copyright (C) ITCL |