忘れても大丈夫！すぐに使えるLightGBMの種類と使い方

# データの読込み
df=pd.read_csv('train.csv')

# データを説明変数と目的変数に分離
X_train=df.drop('Survived',axis=1)
y_train=df['Survived']

# LightGBMに入力する形に指定
train_data = lgb.Dataset(
                data = X_train,    # 説明変数を指定。ローカルファイルのパスでもOK
                label = y_train,   # 予測ターゲットを指定
                feature_name = df.columns  # 特徴量名を指定
                )

df=pd.read_csv('train.csv')

X = df.drop('Survived',axis=1)
y = df['Survived']

# データを学習用(説明変数/目的変数)、評価用(説明変数/目的変数)に分離
X_train, X_validation, y_train, y_validation = train_test_split(X, y, test_size =0.3, random_state =0)
# 学習データの指定
train_data = lgb.Dataset(
                data = X_train, # 説明変数を指定。ローカルファイルのパスでもOK
                label = y_train, # 予測ターゲットを指定
                feature_name = df.columns # 特徴量名を指定
                )

# 評価データの指定
valid_data = lgb.Dataset(
                data = X_validation, # 説明変数を指定。ローカルファイルのパスでもOK
                label = y_validation, # 予測ターゲットを指定
                feature_name = df.columns # 特徴量名を指定
                )

params = { 
          'task': 'train',
          'objective': 'binary', # これは重要。指定しないとデフォルトではregression(回帰)となる 
          'boosting': 'gbdt', # 'gbdt'はGradient Boosting Decision TreeによるBoosting 
          'metric': 'binary_logloss', 
          'num_leaves': 64, 
          'min_data_in_leaf': 20, 
          'max_depth': 7, 
          'verbose': 0, 
          }

model = lgb.train(
                params = params, # 以下詳細参照
                train_set = train_data, # 先ほど作成したデータセット
                num_boost_round = 100, # Boostingの繰り返し回数
                early_stopping_rounds = 20, # valid_setsで評価用データセットを指定しないといけない
                valid_sets = [validation_data] # 評価用データセットをリストで指定
)

model = lgb.cv(
          params=params,
          train_set=train_data,
          num_boost_round=100,
          early_stopping_rounds=20,
          nfold=5
          )

y_pred = model.predict(X_validation, num_iteration=bst.best_iteration)

# データの読込み
df=pd.read_csv('train.csv').drop(['Name', 'Sex', 'Ticket', 'Cabin', 'Embarked'],axis=1)
# 説明変数と目的変数に分ける
X = df.drop('Survived',axis=1)
y = df['Survived'] # データを学習用(説明変数/目的変数)、評価用(説明変数/目的変数)に分離

# データを学習用と評価用に分ける
X_train, X_validation, y_train, y_validation = train_test_split(X, y, test_size =0.3, random_state =0) # 学習データの指定

# モデルの定義。パラメータ指定はTraining APIの辞書型ではなく、変数として指定していく。
# パラメータの中身はTrainig APIと同じ感じにしてみた。
model = lgb.LGBMClassifier(
          objective='binary',
          boosting= 'gbdt', # 'gbdt'はGradient Boosting Decision TreeによるBoosting 
          metric= 'binary_logloss', 
          num_leaves= 64, 
          min_data_in_leaf= 20, 
          max_depth= 7, 
          verbose= 0, 
        )

# モデルの学習
model.fit(X_train,y_train)

# 予測 二値で出力する場合
pred_bi = model.predict(X_validation)

# 予測 二値の確率値確率値を出力する場合
pred_pr = model.predict_proba(X_validation)

model.precit(x_validation)

model.predict_proba(X_validation)

model.predict_proba(X_validation)[:,1]

import lightgbm as lgb
import numpy as np
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.metrics import roc_auc_score

df=pd.read_csv('train.csv').drop(['Name', 'Sex', 'Ticket', 'Cabin', 'Embarked'],axis=1)
X = df.drop('Survived',axis=1)
y = df['Survived'] # データを学習用(説明変数/目的変数)、評価用(説明変数/目的変数)に分離

X_train, X_validation, y_train, y_validation = train_test_split(X, y, test_size =0.3, random_state =0) # 学習データの指定


###Training API###
params = {
          'task': 'train',
          'boosting_type': 'gbdt',
          'objective': 'binary',
          'metric': 'binary_logloss',
          'num_leaves': 64,
          'min_data_in_leaf': 20,
          'max_depth': 7,
          'verbose': 0,
          }

model_tr = lgb.train(
          params=params,
          train_set=train_data,
          num_boost_round=100,
          early_stopping_rounds=20,
          valid_sets=[valid_data]
          )

######

###Scikit-learn API###

model_sc = lgb.LGBMClassifier(
          objective='binary',
          boosting= 'gbdt', # 'gbdt'はGradient Boosting Decision TreeによるBoosting
          metric= 'binary_logloss',
          num_leaves= 64,
          min_data_in_leaf= 20,
          max_depth= 7,
          verbose= 0,
          )
model_sc.fit(X_train,y_train,eval_set=[(X_validation, y_validation)],early_stopping_rounds=20)

######

# AUCをそれぞれ評価してみる
print('Training API:',roc_auc_score(y_validation, model_tr.predict(X_validation)))
print('Scikit learn API:',roc_auc_score(y_validation, model_sc.predict_proba(X_validation)[:,1]))