OFMY (Ony for me and you)

- numeric 데이터 -> Boxplot for col in numerical_features : plt.figure(figsize=(12, 8)) plt.boxplot(train[col], sym='r*') plt.title(col) plt.show()

모든 feature의 타입, 결측치, 고유값들을 정리해서 데이터프레임을 재가공 시키는 코드 # show dataframe for each features that we have dataFeatures = [] dataType = [] null = [] nullPCT = [] unique = [] minValue = [] maxValue = [] uniqueSample = [] for item in list(train): dataFeatures.append(item) #데이터 타입 for item in dataFeatures: dataType.append(train[item].dtype.name) #결측치 개수 for item in dataFeatures: null.append(len(train[train..

그래디언트 부스팅 회귀 트리란? 여러개의 결정 트리를 묶어 강력한 모델을 만드는 앙상블 방법 - 회귀, 분류에 모두 사용 가능 - 이전의 트리의 오차를 보완하는 방식으로 순차적으로 트리 구성 - 무작위성이 없음 -> 사전 가지치기 사용 - 메모리를 적게 사용하고 예측도 빨라 간단한 모델 (약한 학습기) 중요한 매개변수 [하이퍼 파라미터] learning rate(학습률) : 이전 트리의 오차를 얼마나 강하게 보정할 것이지를 제어 학습률이 크면 트리는 강하게 보정 -> 복잡한 모델을 만듬 n_estimators: 앙상블에 트리 개수를 결정 값이 크면 모델의 복잡도가 커져 훈련세트에서의 실수를 바로 잡을 기회가 더 많아짐 from sklearn.ensemble import GradientBoostingCla..

가장 널리 알려진 두 개의 선형 분류 알고리즘은 linear_model.LogisticRegression에 구현된 로지스틱 회귀 & svm.LinearSVC에 구현된 선형 서포트 벡터 머신 두 모델 기본적으로 L2 규제(Ridge 모델) 사용 규제의 강도를 결정하는 매개변수 C C값이 높아지면 규제가 감소 높은 C 값을 지정하면 훈련세트에 간으한 최대로 맞추려 하고, 낮은 C 값을 지정하면 모델은 계수 벡터(w)에 가까워짐 C의 값이 낮아지면 데이터 포인트 중 다수에 맞추는 것 / 높아지면 개개의 데이터 포인트를 정확히 분류할 것 from sklearn.datasets import load_breast_cancer cancer = load_breast_cancer() X_train, y_train, X_..