深圳外贸平台建站,微信网站地址,网站做的题不小心关闭了,制作个网站多少钱机器学习
1.TP、TN、FP、FN、F1 2.机器学习和深度学习的区别和联系
模型复杂性#xff1a;深度学习是机器学习的一个子领域#xff0c;其主要区别在于使用深层的神经网络模型。深度学习模型通常包含多个隐层#xff0c;可以学习更加复杂的特征表示#xff0c;因此在某些任…机器学习
1.TP、TN、FP、FN、F1 2.机器学习和深度学习的区别和联系
模型复杂性深度学习是机器学习的一个子领域其主要区别在于使用深层的神经网络模型。深度学习模型通常包含多个隐层可以学习更加复杂的特征表示因此在某些任务上表现更好。特征学习在传统机器学习中特征提取是一个重要且需要专业知识的步骤。而在深度学习中模型可以从数据中学习到更抽象、高级的特征表示无需太多人工干预。数据需求深度学习通常需要更大量的数据来训练因为复杂的神经网络模型需要大量参数来捕捉数据的细微变化。相比之下一些传统的机器学习算法可能在小数据集上也能表现良好。计算资源深度学习的训练通常需要更大的计算资源尤其是在大型神经网络和复杂任务上。这是因为深度学习模型的训练需要大量的计算和存储资源。泛化能力深度学习模型在大规模数据集上训练时具有出色的泛化能力可以在未见过的数据上表现良好。然而当训练数据有限时传统机器学习方法也可能更具优势。
探究机器学习与深度学习的区别与联系 (baidu.com)
3.1x1的卷积有什么用途 添加非线性特性 对通道数实现升维/降维 实现跨通道的信息交互与整合
1x1卷积(Conv 1*1)的作用_1*1卷积的作用_犬冢紬希的博客-CSDN博客
通过控制卷积核个数实现升维或者降维从而减少模型参数对不同特征进行归一化操作用于不同channel上特征的融合 4.说一下梯度爆炸和梯度消失的解决办法
梯度消失和梯度爆炸问题都是因为网络太深网络权值更新不稳定造成的本质上是因为梯度反向传播中的连乘效应。 针对梯度爆炸问题解决方案是引入Gradient Clipping(梯度裁剪)。通过Gradient Clipping将梯度约束在一个范围内这样不会使得梯度过大。
5.介绍下梯度下降法和牛顿迭代法寻找极值的过程 从本质上去看牛顿法是二阶收敛梯度下降是一阶收敛所以牛顿法就更快。如果更通俗地说的话比如你想找一条最短的路径走到一个盆地的最底部梯度下降法每次只从你当前所处位置选一个坡度最大的方向走一步牛顿法在选择方向时不仅会考虑坡度是否够大还会考虑你走了一步之后坡度是否会变得更大。所以可以说牛顿法比梯度下降法看得更远一点能更快地走到最底部。牛顿法目光更加长远所以少走弯路相对而言梯度下降法只考虑了局部的最优没有全局思想。
根据wiki上的解释从几何上说牛顿法就是用一个二次曲面去拟合你当前所处位置的局部曲面而梯度下降法是用一个平面去拟合当前的局部曲面通常情况下二次曲面的拟合会比平面更好所以牛顿法选择的下降路径会更符合真实的最优下降路径。
6. 什么是卷积什么是卷积神经网络 对图像不同的数据窗口数据和滤波矩阵一组固定的权重因为每个神经元的多个权重固定所以又可以看做一个恒定的滤波器filter做内积逐个元素相乘再求和的操作就是所谓的卷积操作也是卷积神经网络的名字来源。
卷积神经网络CNN是一种专门用来处理具有类似网格结构的数据的神经网络。卷积网络是指那些至少在网络的一层中使用卷积运算来替代一般的矩阵乘法运算的神经网络。
7.什么是神经网络
神经网络是机器学习中的一种算法其灵感来源于生物神经系统如大脑中的神经元网络。神经网络由多个节点或称为“神经元”组成这些节点通过连接通常称为“权重”相互连接。
神经网络的基本组成单位是人工神经元也称为节点或神经元。每个神经元都有多个输入和一个输出输入通过带有权重的连接传递给神经元神经元对输入进行加权求和并经过一个激活函数处理后输出结果。
8.过拟合问题
增加数据、添加噪声early stooping数据均衡过采样、将采样正则化DropoutBatch normolization
9.随机森林
常见调参 n_estimators:森林中决策树的个数默认是10 criterion度量分裂质量信息熵或者基尼指数 max_features特征数达到多大时进行分割 max_depth:树的最大深度 min_samples_split:分割内部节点所需的最少样本数量 bootstrap:是否采用有放回式的抽样方式 min_impurity_split树增长停止的阀值
10.决策树算法和常见决策树算法
决策树是一个自顶向下的树形分类模型包括节点和有向边。其中节点包括内部节点和叶子节点内部节点描述特征叶子节点表示类别。基本思想样本聚集在根节点处根据根节点特征划分到不同的子节点中再根据子节点进行划分直到所有样本划分到对应的叶子节点中。
决策树主要包括特征选择和剪枝。
常见决策树算法
ID3最大信息增益。缺点对可取值数目较多的特征有所偏好。
C4.5最大信息增益比。缺点对可取值数目较少的特征有所偏好。一般从信息增益高于平均水平的特征中再找信息增益比高的特征。
CART分类和回归树基尼指数反映了从数据集中随机选取两个样本其类别标记不一致的概率。
11.降维
PCA无监督
PCA主成分分析线性、非监督、全局降维算法。
基本思想数据在主轴上的投影的方差最大化。
算法①对所有样本进行中心化处理②计算样本的协方差矩阵③对协方差矩阵作特征值分解④取最大d个特征值的特征向量。
缺点PCA没有考虑数据的标签降维后的不同类别的数据会混合在一起因此降维后的分类效果可能较差。 LDA有监督
基本思想最大化类间距离最小化类内距离。 12.常见的优化算法
1.梯度下降法
---BGD批量梯度下降---每一步迭代都需要遍历所有的样本数据,消耗时间长,但是一定能得到最优解.
---SGD随机梯度下降---迭代速度快,得到局部最优解(凸函数时得到全局最优解)
---MBGD小批量梯度下降---小批量梯度下降法
2.牛顿法和拟牛顿法
3.共轭梯度法Conjugate Gradient
4.启发式的方法
5.解决约束的方法---拉格朗日乘子法
计算机网络
1. TCP和UDP区别
UDP
无连接的非可靠传输层协议
向上提供一条不可靠的逻辑信道
面向报文流
TCP
面向连接的传输控制协议
向上提供一条全双工的可靠逻辑信道
面向字节流
拥塞避免 慢开始、拥塞避免、快重传、快恢复 2. 三次握手、四次挥手 3. 计算机网络为什么要分层优点 为了降低协议设计的复杂性网络体系采用层次化结构每一层都建立在其下层之上每一层的目的是向其上一层提供一定的服务把服务的具体事项细节对上层屏蔽。
分层可以带来如下好处
1各层之间是独立的
2灵活性好
3易于实现和维护
4结构上可分割开
5能促进标准化工作。
4. OSI 7层结构各自的作用
1)物理层:主要负责将数字信号转换为物理信号,并在网络中进行传输,如电缆、光缆、中继器、集线器等。
2)数据链路层:在物理层之上,以帧为单位传输数据,具体功能有误码检测、帧同步、流量控制、差错控制等。
3)网络层:在数据链路层之上,负责数据的路由和转发,实现主机之间的通信,如IP地址的分配和路由的计算等。
4)传输层:负责端到端的数据传输,为应用层提供可靠的数据传输服务,例如TCP协议和UDP协议等。
5)会话层:负责建立、管理和结束会话,实现应用程序之间的通信以及数据的传输与共享。
6)表示层:负责数据格式的转换,使得不同的系统能够互相理解,并将数据转换成应用程序能够识别的格式。
7)应用层:为用户提供特定的应用服务,包括电子邮件、网页浏览、文件传输等。
5.计算机网络TCP/IP 四层模型
应用层传输层网络层链路层 6.在浏览器中输入http://www.baidu.com后执行的全部过程
DNS解析查找真正的ip地址与服务器建立TCP连接发送HTTP请求服务器处理请求并返回HTTP报文浏览器解析渲染页面连接结束 计算机视觉
1.反卷积的定义和作用
定义 反卷积也称为转置卷积如果用矩阵乘法实现卷积操作将卷积核平铺为矩阵则转置卷积在正向计算时左乘这个矩阵的转置WT在反向传播时左乘W与卷积操作刚好相反需要注意的是反卷积不是卷积的逆运算。
作用 实现上采样近似重构输入图像卷积层可视化。 数据结构
1.排序算法时间复杂度 2. 分治法与动态规划异同
相同点都要求原问题有最优子结构即问题的最优解包含子问题的最优解都是将问题分而治之地分解成若干规模较小的子问题对子问题求解。
不同点分治法是自顶向下求解子问题合并子问题的解从而得到原问题的解动态递归是自底向上先求解最小的子问题把结果存在表格中在求解大的子问题时直接从表格中查询小的子问题的解避免重复计算。
3.简述数据结构的定义和组成
数据结构包括三个方面逻辑结构存储结构和数据的运算
逻辑结构分两个方面的话有线性结构和非线性结构。其中
线性结构包括线性表栈队列非线性结构集合、树、图
存储结构顺序存储链式存储索引存储散列存储
4.算法的五个重要的特征
1有穷性一个算法必须在有限的步骤和有限的时间内完成 (2)确定性相同的输入只能得出相同的输出 (3)可行性算法是可行的 (4)输入一个算法有0个或者多个的输入 (5)输出一个算法有0个或者多个的输出
5.数组和链表的区别比较经典的问题
(1)物理存储结构不同数组是顺序存储结构链表是链式存储结构
(2)内存分配方式不同数组的存储空间一般采用静态分配链表的存储空间一般采用动态分配
(3)元素的存取方式不同数组元素为直接存取链表元素的存取需要遍历链表
(4)元素的插入和删除方式不同数组在进行元素插入和删除时需要移动数组的元素而链表在进行元素插入和删除时无需移动链表内的元素
6.什么是算法的稳定性
稳定的排序算法就是序列中两个相同的数字在排序前后位置顺序未改变。
7.O(n) 的大O是什么意思什么是时间复杂度 含义大 表示同阶同等数量级
时间复杂度 时间复杂度是算法执行时间的度量。算法的时间复杂度又称为算法的渐进时间复杂度它表示随着问题规模 的增大算法执行时间的增长率和 的增长率相同。其中 表示基本语句重复执行的次数是问题规模的某个函数。
8.常用算法速记
抽象数据结构复杂度 排序算法 图操作 操作系统
1.什么是死锁死锁产生的条件处理方法 在两个或者多个并发进程中如果每个进程持有某种资源而又等待其它进程释放它或它们现在保持着的资源在未改变这种状态之前都不能向前推进称这一组进程产生了死锁。通俗的讲就是两个或多个进程无限期的阻塞、相互等待的一种状态。
条件
互斥条件一个资源一次只能被一个进程使用
请求与保持条件一个进程因请求资源而阻塞时对已获得资源保持不放
不剥夺条件进程获得的资源在未完全使用完之前不能强行剥夺
循环等待条件若干进程之间形成一种头尾相接的环形等待资源关系
处理方法
预防死锁——破坏四个必要条件不剥夺、请求和保持、循环等待中的一个或多个来预防死锁。
避免死锁——在资源动态分配的过程中用某种方式防止系统进入不安全的状态。
检测死锁——运行时产生死锁及时发现死锁将程序解脱出来。解除死锁——发生死锁后撤销进程回收资源分配给正在阻塞状态的进程。 2.进程的通信方式有哪些
进程间通信又叫IPC (InterProcess Communication是指在不同进程之间传播或交换信息。IPC的方式通常有管道包括无名管道和命名管道、消息队列、信号量、共享存储、Socket。
3.进程和线程的区别
线程
线程是CPU资源分配的最小单元
线程需要的资源更少可以看做是一种轻量级的进程
线程会共享进程中的内存线程也有独立的空间栈、程序计数器
线程相互通信更加方便
进程
进程是程序执行相关资源CPU、内存、磁盘等分配的最小单元
进程是一系列线程的集合
进程之间是相互独立的有自己的内存空间
4.换页算法
OPT最佳页面置换算法FIFO先进先出置换算法LRU最近最久未使用页面置换算法LFU最少使用页面置换算法CLOCK 时钟置换算法
5.进程有哪些调度算法
先来先服务FCFS短作业优先SJF时间片轮转RR优先级调度
6.并发和并行有什么区别 并发就是在一段时间内多个任务都会被处理但在某一时刻只有一个任务在执行。单核处理器可以做到并发。因为切换速度足够快所以宏观上表现为在一段时间内能同时运行多个程序。 并行就是在同一时刻有多个任务在执行。这个需要多核处理器才能完成在微观上就能同时执行多条指令不同的程序被放到不同的处理器上运行这个是物理上的多个进程同时进行。
7.中断的处理过程
保护现场将当前执行程序的相关数据保存在寄存器中然后入栈。开中断以便执行中断时能响应较高级别的中断请求。中断处理关中断保证恢复现场时不被新中断打扰恢复现场从堆栈中按序取出程序数据恢复中断前的执行状态。 数学
1.积分的意义
定积分的几何意义是曲边梯形的有向面积,物理意义是变速直线运动的路程或变力所做的功。
二重积分的几何意义是曲顶柱体的有向体积,物理意义是加在平面面积上压力压强可变。
三重积分的几何意义和物理意义都认为是不均匀的空间物体的质量。
2. 如何理解矩阵的秩
是图像经过矩阵变换之后的空间维度。
是列空间的维度
3. 简述向量组线性无关的含义
零空间只有零向量不存在向量可以有其他向量线性表示。
4. 解释正定矩阵以及半正定矩阵 5. 特征值的含义以及矩阵分解的物理意义 如果一个向量投影到一个方阵定义的空间中只发生伸缩变化而不发生旋转变化那么该向量就是这个方阵的一个特征向量伸缩的比例就是特征值。 矩阵特征值是对特征向量进行伸缩和旋转程度的度量实数是只进行伸缩虚数是只进行旋转复数就是有伸缩有旋转。 6.行列式的意义
维平行多面体的体积每条边就对应了矩阵的列。若行列式为0意味着矩阵的秩小于0相当于这个多面体的体积在维空间中坍缩为0。 7.主成分分析
一种数据降维方法利用正交变换将高维变量转化为低维变量使得变量之间的关联尽可能小新变量的方差尽可能大。
首先对数据集 X 进行去中心化即每一维特征减去各自的平均值之后计算协方差矩阵并求解出协方差矩阵的特征值和特征向量。之后对特征值从大到小排序选择最大的 k 个将对应的特征向量张成为特征向量矩阵 P 。最后将原数据利用线性变换矩阵 P 映射到新的空间中形成降维后的数据特征。
8. 大数定律、中心极限定理
切比雪夫大数定律对于相互独立的随机变量序列其方差存在且有公共上界则当样本数量不断增大时样本均值将无限接近于随机变量的数学期望。即用样本均值来估计数学期望。
伯努利大数定律独立重复实验的次数足够多的时候事件发生的概率无限接近于事件发生的频率除以总次数即用频率估计概率。
中心极限定理对于随机采样的随机变量序列而言若样本数量足够大的时候样本分布无限接近于正态分布。
9. 协方差和相关系数
协方差反映两个随机变量之间的联合变动程度衡量两个变量的线性相关性程度。
相关系数研究变量之间线性相关程度的量相当于是无量纲的协方差将协方差进行了归一化。
10.线性代数的线性相关怎么理解
线性代数这些向量中存在一个或多个向量可以由其他向量线性表示即不是正交关系简单理解就是线性相关实际上是一种冗余。
从零空间的角度看
如果 A 各列向量构成的向量组是线性无关的那么矩阵 A 的零空间中只有零向量。
如果 A 各列向量构成的向量组是线性相关的那么矩阵 A 零空间中除零向量之外还一定有其他向量。
11.函数的特性
有界性周期性单调性奇偶性
12.一个矩阵线性无关的等价定义有什么
非奇异矩阵、矩阵可逆、矩阵满秩、特征值没有 0。奇异矩阵行列式等于零的矩阵方阵。
13.等价矩阵 杂题
1.请简单谈谈你对软件工程的理解。如何看待软件工程领域未来的发展趋势
软件工程是研究和应用如何以系统性的、规范化的、可定量的过程化方法去开发和维护软件以及如何把经过时间考验而证明正确的管理技术和当前能够得到的最好的技术方法结合起来。
发展趋势
1.软件的质量和安全性也越来越受到重视。未来软件工程专业的发展趋势之一就是提高软件质量和安全性。
2. 人工智能和机器学习人工智能和机器学习正在成为软件工程的重要组成部分软件工程师需要掌握这些技术来开发具有智能化的软件系统。
3.软件工程的可持续性软件工程师需要关注软件系统的可持续性包括软件系统的可维护性、可扩展性、可重用性、可移植性等方面以确保软件系统能够长期稳定地运行。
2. 面向对象和面向过程的区别
面向对象把整个需求按照特点、功能划分将这些存在共性的部分封装成对象。容易维护、复用和扩展但消耗资源性能低。
面向过程分析出实现需求所需的步骤通过函数一步一步实现这些步骤接着依次调用。易性能好但不易维护、复用和扩展。
