公网ip 做网站,兴盛优选购物平台下载,网站友情链接建设,住房及城乡建设部网站九大员随机森林 1、集成学习方法
通过构造多个模型组合来解决单一的问题。它的原理是生成多个分类器/模型#xff0c;各自独立的学习和做出预测。这些预测最后会结合成组合预测#xff0c;因此优于任何一个单分类得到的预测。
2、什么是随机森林#xff1f;
随机森林是一个包含…随机森林 1、集成学习方法
通过构造多个模型组合来解决单一的问题。它的原理是生成多个分类器/模型各自独立的学习和做出预测。这些预测最后会结合成组合预测因此优于任何一个单分类得到的预测。
2、什么是随机森林
随机森林是一个包含多个决策树的分类器并且其输出的类别是由个别树输出的类别的众数而定。 随机设训练集有N个样本M个特征 1训练集随机 (采用bootstrap即采用随机有放回抽样方法)从训练集里随机有放回的抽取N个样本 2特征随机生成(从M个特征中随机抽取m个特征 M m) 森林指由多棵决策树构成
3、API调用
在sklearn中提供了随机森林的API如下
sklearn.ensemble.RandomForestClassifier(n_estimator 10, criteriongini, max_depthNone, bootstrap True,random_state None max_featuresauto)n_estimator:预估器个数即决策树数量
criterion:分割特征的测量方法默认为基尼系数
max_depth:最大深度即分类层数
bootstrap:默认为True,是否在构建树的时候有放回抽样
max_features:每个决策树的最大特征数量,如果设置为auto则msqrt(M)M表示样本数量4、随机森林实例–预测泰坦尼克号生存乘客生存率
参数介绍pclass表示客舱等级(间接反映乘客阶级),survived表示是否存活后面依次表示姓名年龄乘客登船港口家庭住址房间号船票1号码boat表示是否登上救生艇登上了则显示对应救生艇编号空值表示没有登上sex为性别
import pandas as pd
data pd.read_csv(rE:\Python_learning\py基础\machine_learning\titanic\titanic.csv)
# 筛选关键因素# 选取特征列
features data[[pclass,age,boat,sex]]
target data[survived]
# 先查看有无缺失值
pd.isnull(features).any() # 发现年龄、是否乘坐救生舱有空值# 填补空缺值
features.fillna({age:features[age].mean()},inplaceTrue)
# 转换为字典
features features.to_dict(orientrecords)
# 使用字典特征抽取转化成one-hot编码
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split
x_train,x_test,y_train,y_test train_test_split(features,target)
transfer DictVectorizer(sparseFalse)
x_train transfer.fit_transform(x_train)
x_test transfer.transform(x_test)
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import GridSearchCV
estimator RandomForestClassifier()
para_dict{n_estimators:[120,200,300,500,800,1200], max_depth:[5,8,15,25,30]}
estimator GridSearchCV(estimator, param_gridpara_dict, cv4)
estimator.fit(x_train,y_train)
y_predict estimator.predict(x_test)
print(f模型准确率为:{estimator.score(x_test, y_test)})
print(最佳参数为, estimator.best_params_)
print(最佳准确率为:\n, estimator.best_score_)
print(最佳估计器为:\n, estimator.best_estimator_)
print(交叉验证结果:\n, estimator.cv_results_)
