ss1031 / phmc2019dataanalysischallenge Goto Github PK

エンジンに個体差あるという仮設，個体差を見たいのではなくて故障の傾向を見たいので標準化することで個体差をキャンセルしたい．

今，訓練データから複数スプリットしてデータ作成しているけど未来のデータで訓練していることになっているからリークしている．
一回だけスプリットしてデータセットを作成 > 訓練 > 予測の流れにしないとだめだわ
上記の流れを複数セット実施してAveragingする流れを作る

https://github.com/RRighart/Gatu/blob/master/Gatu-script.ipynb

同じこと何回も書いているからリファクタリングしたいよね

What

feature toolsにRUL予測があるのでそれを読む
ULR: https://github.com/Featuretools/predict-remaining-useful-life

Why

今のところ1番参考になりそう

FlightNoが最後の方のデータに関して特徴量を作ってしまうとリークが起きて過学習になってしまう仮設がある．それを解決するために各エンジンの最後の方のデータを使わないでデータセットを構築するのを試してみる．

固くなにFold8でやっているけど4とか5とかしてみたら変わるかもね

https://stackoverflow.com/questions/39839112/the-easiest-way-for-getting-feature-names-after-running-selectkbest-in-scikit-le

レジームに分けて特徴量作った奴に全体のデータで特徴量作ったやつ混ぜたほうが良いのでは？

What

レジームごとに特徴量を作成してくっつける．全特徴量は"特徴量数" * "レジーム数"になる．

Why

レジームごとに分割したほうがより特徴が出るのではないかという仮設

横軸: FlightNo, 縦軸: 各パラメータ，
パラメータごとに同じグラフにすべてのエンジンのデータをプロットする（テストも含め）

レジームに分けたらレジーム内で全部同じ値になる特徴量がある．本質的にRegimeラベルとやっていること変わらないから削除する．

https://tsfresh.readthedocs.io/en/latest/text/feature_filtering.html

今はテストデータで起きているスプリットのタイミングだけ全データをスプリットしているが，
実行速度上げるためにスプリットの数減らして良いのでは？

寿命は線形な関係でない．指数的に調子が悪くなることが普通，なので最適化の目的値としてMAEはふさわしくない．RMSEの方が良いのではという仮設．

Ridgeで選択した方が今回の非線形な寿命推定とい問題に適しているのではないか？という仮設

https://github.com/Featuretools/predict-remaining-useful-life/blob/master/Advanced%20Featuretools%20RUL.ipynb

Do Everything

LassoもRidgeも同時にやって特徴量を選んだらいいじゃないかという仮設

Engine-RegimeごとにDiffを取ったカラムを追加してあげればよいのでは？

CVで13とか出てたけどバグ取ったら再現しなくなった．つらすぎるのでチェックアウトして見てみたい．

What

エンジン寿命が長い順にcv_id[1-8]を繰り返し振る．cv_idを使ってStratifiedKFoldでcvを作る．

Why

残存エンジン寿命の分布がcvごとに同じくらいになったほうが学習が安定するのではないか？という仮設