如何网站客户案例,旅游社网站建设规划书,怎样优化网站app,手机商城网站免费建站一、线性回归分析
1、lm()函数
lm()函数是用于拟合线性模型#xff08;Linear Models#xff09;的主要函数。线性模型是一种统计方法#xff0c;用于描述一个或多个自变量#xff08;预测变量、解释变量#xff09;与因变量#xff08;响应变量#xff09;之间的关系…一、线性回归分析
1、lm()函数
lm()函数是用于拟合线性模型Linear Models的主要函数。线性模型是一种统计方法用于描述一个或多个自变量预测变量、解释变量与因变量响应变量之间的关系。它可以处理简单的线性回归、多元线性回归以及带有分类预测变量的回归通过创建虚拟变量或指示变量。 基本格式 lm(formula, data, subset, weights, ...) formula描述因变量与自变量间关系的符号表达式。data包含公式中所有变量的数据框data frame或列表list。若未明确指定R 将在全局环境中搜索变量。subset子集逻辑向量或表达式用于从数据中筛选用于模型拟合的观测值。默认为NULL即使用全部数据。weights权重可选参数用于为各观测值分配权重。默认为 NULL即所有观测值权重相等。...其他参数lm函数还接受其他多个参数这些参数通常与模型的拟合与优化相关。例如na.action参数可用于定义缺失值NA的处理方式method参数可用于指定拟合方法尽管对于普通线性模型此参数通常设为默认值 qr 即可。 2、简单线性回归
用R语言内置的cars数据集做演示此数据集记录了汽车的速度speed和停车距离dist一共50条记录。
head(cars, n5)
# 简单线性模型拟合
fit - lm(dist ~ speed, datacars)
# 拟合结果的详细信息
summary(fit) # 模型参数
coeffcients(fit)
# 回归系数置信区间
confint(fit)
# 模型预测值
fitted(fit)
# 模型的残差
residuals(fit) 从上面结果可知拟合得到的模型参数的截距项为-17.5791回归系数是3.9324调整的多重R2Adjusted R-squared为0.6438说明该模型能解释停车距离为64.38%的变异。方差分析结果也显示整个模型是显著的p1.49e-12 0.05。因为简单线性回归只有一个自变量所以模型的F检验和回归系数的t检验的结果是相同的。
plot(cars)
lines(xcars$speed, yfitted(fit), colred) 3、多重线性回归
多重线性回归包含多个自变量。
下面使用R语言内置的数据集mtcars进行演示此数据集包含了32种汽车的11种基本性能数据。通过汽车排量disp总功率hp后桥速比drat和车重wt四个变量来预测汽车油耗指数mpgmpg越大油耗越低。
head(mtcars, n5)
fit - lm(mpg ~ disp hp drat wt, datamtcars)
summary(fit) 从以上结果可知汽车排量和后桥速比与汽车油耗指数正相关而汽车总功率和车重于汽车油耗指数负相关。在多重线性回归中回归系数表示当1个自变量每增加1个单位且其它自变量不变时因变量所增加或减少的数量例如车重的回归系数为-3.479668表示当排量、总功率和后桥速比不变时车重每增加1个单位汽车油耗指数将下降约3.48个单位。方差分析结果表明整个回归模型是显著的F34.82p2.704e-100.01。在截距项和回归系数显著性检验中截距项(Intercept)、总功率(hp)和车重(wt)的回归系数显著Pr0.05 ,排量disp和后桥速比drat的回归系数不显著。整个模型能解释油耗指数81.36%的变异。
4、plot()函数
R语言中有一个实用的基础函数plot()可以生成四种回归模型诊断图残差图、正态QQ图、尺度-位置图和残差-杠杆图。
fit - lm(mpg ~ disphpdratwt, datamtcars)
# 将四种形态组合成一张图
par(mfrowc(2,2))
plot(fit) 5、多重共线性 如果自变量之间为多重共线性即自变量之间有较强的相关性将使回归系数的估计产生非常严重的误差以至于估计出来的回归系数没有任何意义。如果要判断回归模型是否存在严重的多重共线性可以使用方差膨胀因子。
library(car)
fit - lm(mpg ~ disphpdratwt, datamtcars)
vif - vif(fit)
vif
# 查看哪些变量膨胀因子大于10
vif 10
# 查看哪些变量膨胀因子的开方大于2
sqrt(vif) 2 从上面结果可知如果以方差膨胀因子是否大于10来作为判断准则那么该回归模型中不存在严重的多重共线性如果以方差膨胀因子的开方大于2为判断准则那么该回归模型中存在disp和wt两个变量时存在严重的多重共线性。
二、判别分析
判别分析就是利用若干个特征来表征事物通过对这些特征的定量分析最终将事物判定为某一已知总体。
常见的判别分析有如下三种。
1、距离判别
7134距离判别Distance-based Discriminant Analysis对空间中的某个点进行类属判别最容易想到的是使用该点与各已知总体的距离远近来进行判别。
以下是如何在R中实现基于距离的分类的基本步骤
1.1 准备数据
确保你的数据集已经加载并准备好。数据集应该包含特征变量用于计算距离和目标变量类别标签。
1.2 计算类别中心
对于每个类别计算其所有样本的均值或其他代表点这将作为该类别的中心。
1.3 计算距离
对于新的未知样本计算它到每个类别中心的距离。可以使用欧氏距离、马氏距离等。
1.4 分类
将样本分类到距离最小的类别中。
1.5 评估模型
使用测试集评估模型的性能通常通过混淆矩阵、准确率等指标。
1.6 示例
使用R语言中内置的iris数据集进行演示此数据集包含了3类鸢尾花setosa、versicolor和virginica的4个特征从150条记录。使用欧氏距离进行基于距离的分类
# 先查看数据信息
head(iris)
str(iris)
library(iris)
describe(iris) # 从iris数据集中随机抽取3种鸢尾花的数据各一条作为测试集剩余的作为训练集
# 设定随机种子
set.seed(1234)
# 随机抽取测试集
data - cbind(rownames rownames(iris),iris) # 将行名添加为数据框的一列
library(dplyr)
test_data - data %% group_by(Species) %% sample_n(1)
# 剩余数据作为训练集
train_data - filter(data, !(rownames %in% test_data$rownames))
test_data - test_data[,-1] %% ungroup()
test_data
train_data - train_data[,-1] %% ungroup()
head(train_data,n10) # 查看数据集
head(iris, n5)
# 加载数据集
data(iris)# 拆分数据集为训练集和测试集
set.seed(12345)
index - sample(1:nrow(iris), 0.7 * nrow(iris))
train_data - iris[index, -5] # 训练集去掉最后的类别标签用于计算中心
train_labels - iris[index, 5]test_data - iris[-index, -5] # 测试集
test_labels - iris[-index, 5]# 计算类别中心
centers - aggregate(train_data, bylist(Speciestrain_labels), FUNmean)# 定义一个函数来计算欧氏距离
euclidean_distance - function(x, y) {sqrt(sum((x - y)^2))
}# 对测试集中的每个样本进行分类
predictions - apply(test_data, 1, function(row) {distances - sapply(split(centers[, -1], centers$Species), function(center) {euclidean_distance(row, center)})# 返回距离最小的类别names(which.min(distances))
})# 评估模型性能
conf_matrix - table(Predictedpredictions, Actualtest_labels)
accuracy - sum(diag(conf_matrix)) / sum(conf_matrix)
print(conf_matrix)
print(paste(Accuracy:, round(accuracy, 2))) 2、Fisher判别
Fisher判别分析Fisher Discriminant Analysis, FDA也被称为线性判别分析Linear Discriminant Analysis, LDA在统计模式识别领域有着广泛的应用。尽管“Fisher判别分析”和“线性判别分析”在术语上存在些许差异但在大多数情况下它们指的是同一种方法。FDA/LDA的目标是找到一个线性组合或投影方向使得在这个方向上不同类别之间的样本投影点尽可能分开而同一类别内的样本投影点尽可能紧凑。
