회귀트리

[회귀] 데이콘 Basic 풍속 예측 AI 경진대회 (2) - 모델링 1~4(회귀 트리, 선형 회귀, AutoGluon)

2023.08.02

모델링 1 회귀 트리, XGBRegressor와 LGBMRegressor를 혼합한 모델 두 트리의 최적 하이퍼 파라미터 튜닝 In [ ]: X_train_1 = X_train.copy() y_train_1 = y_train.copy() In [ ]: xgb_reg = XGBRegressor(n_estimators=1000, learning_rate=0.05, colsample_bytree=0.5, subsample=0.8) lgbm_reg = LGBMRegressor(n_estimators=1000, learning_rate=0.05, num_leaves=4, subsample=0.6, colsample_bytree=0.4, reg_lambda=10, n_jobs=-1) xgb_reg.fit(X_trai..

Data Science/파이썬 머신러닝 완벽 가이드

[sklearn] (35) 회귀 트리 RandomForestRegressor, DecisionTreeRegressor...

2023.06.27

회귀 트리 지금까지 알아 본 선형 회귀는 회귀 계수의 관계를 모두 선형으로 가정하는 방식이다 비선형 회귀 역시 비선형 회귀 함수를 통해 결과값을 예측한다 머신러닝 기반의 회귀는 회귀 계수를 기반으로 하는 최적 회귀 함수를 도출하는 것이 주 목표다 이번에는 트리를 기반으로 하는 회귀 방식을 알아보자 트리 기반의 회귀 회귀를 위한 트리를 생성하고 이를 기반으로 회귀 예측을 한다 분류 트리와 크게 다르지 않지만, 리프 노드에서 예측 결정값을 만드는 과정에서 차이가 있다 → 분류 트리가 특정 레이블을 결정하는 것과 달리 회귀 트리는 리프 노드가 속한 데이터값의 평균값을 구해 회귀 예측 값을 계산한다 결정 트리, 랜덤 포레스트, GBM, LightGBM, XGBoost 등과 같은 트리 기반 알고리즘은 분류뿐만 아..

[회귀] 데이콘 Basic 풍속 예측 AI 경진대회 (2) - 모델링 1~4(회귀 트리, 선형 회귀, AutoGluon)

[sklearn] (35) 회귀 트리 RandomForestRegressor, DecisionTreeRegressor...

티스토리툴바