机器学习期末测试练习题4

机器学习基础期末考试试题一、选择题（每题2分，共20分）1. 在机器学习中，下列哪个算法属于监督学习算法？A. 决策树B. K-meansC. 遗传算法D. 随机森林2. 以下哪个是线性回归的假设条件？A. 特征之间相互独立B. 特征与目标变量之间存在非线性关系C. 目标变量的误差项服从正态分布D. 所有特征都是类别型变量3. 支持向量机（SVM）的主要目标是什么？A. 找到数据点之间的最大间隔B. 减少模型的复杂度C. 增加模型的泛化能力D. 所有选项都正确4. 在深度学习中，卷积神经网络（CNN）通常用于处理哪种类型的数据？A. 音频数据B. 图像数据C. 文本数据D. 时间序列数据5. 交叉验证的主要目的是：A. 减少模型的过拟合B. 增加模型的复杂度C. 减少训练集的大小D. 增加模型的运行时间二、简答题（每题10分，共30分）6. 解释什么是过拟合，并给出一个避免过拟合的策略。

7. 描述随机森林算法的基本原理，并简述其相对于决策树的优势。

8. 解释梯度下降算法的工作原理，并说明为什么它在优化问题中如此重要。

三、计算题（每题25分，共50分）9. 假设你有一个线性回归模型，其目标函数为 \( J(\theta) =\frac{1}{2m} \sum_{i=1}^{m} (h_\theta(x^{(i)}) - y^{(i)})^2 \)，其中 \( h_\theta(x) = \theta_0 + \theta_1 x_1 + \theta_2x_2 \)。

给定以下数据点：\[\begin{align*}x_1 & : [1, 2, 3] \\x_2 & : [1, 3, 4] \\y & : [2, 4, 5]\end{align*}\]请计算该模型的损失函数 \( J(\theta) \)。

10. 给定一个二分类问题的数据集，使用逻辑回归模型进行分类。

如果模型的决策边界是 \( w_1 x_1 + w_2 x_2 - \theta = 0 \)，其中\( w_1 = 0.5 \)，\( w_2 = -1 \)，\( \theta = 0.5 \)。

模式识别与机器学习期末考查试卷研究生姓名：入学年份：导师姓名：试题1：简述模式识别与机器学习研究的共同问题和各自的研究侧重点。

答：（1）模式识别是研究用计算机来实现人类的模式识别能力的一门学科，是指对表征事物或现象的各种形式的信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程。

主要集中在两方面，一是研究生物体（包括人）是如何感知客观事物的，二是在给定的任务下，如何用计算机实现识别的理论和方法。

机器学习则是一门研究怎样用计算机来模拟或实现人类学习活动的学科，是研究如何使机器通过识别和利用现有知识来获取新知识和新技能。

主要体现以下三方面：一是人类学习过程的认知模型；二是通用学习算法；三是构造面向任务的专用学习系统的方法。

两者关心的很多共同问题，如：分类、聚类、特征选择、信息融合等，这两个领域的界限越来越模糊。

机器学习和模式识别的理论和方法可用来解决很多机器感知和信息处理的问题，其中包括图像/视频分析（文本、语音、印刷、手写）文档分析、信息检索和网络搜索等。

（2）机器学习和模式识别是分别从计算机科学和工程的角度发展起来的，各自的研究侧重点也不同。

模式识别的目标就是分类，为了提高分类器的性能，可能会用到机器学习算法。

而机器学习的目标是通过学习提高系统性能，分类只是其最简单的要求，其研究更侧重于理论，包括泛化效果、收敛性等。

模式识别技术相对比较成熟了，而机器学习中一些方法还没有理论基础，只是实验效果比较好。

许多算法他们都在研究，但是研究的目标却不同。

如SVM 在模式识别中研究所关心的就是其对人类效果的提高，偏工程。

而在机器学习中则更侧重于其性能上的理论证明。

试题2：列出在模式识别与机器学习中的常用算法及其优缺点。

答：（1） K近邻法KNN算法作为一种非参数的分类算法，它已经广泛应用于分类、回归和模式识别等。

在应用KNN算法解决问题的时候，要注意的两个方面是样本权重和特征权重。

优缺点：非常有效，实现简单，分类效果好。

人工智能机器学习技术练习(习题卷4)第1部分：单项选择题，共62题，每题只有一个正确答案,多选或少选均不得分。

1.[单选题]基于划分的聚类,说法正确的是()A)对分区个数敏感B)无法区分互斥的簇C)有利于寻找非球形簇答案:A解析:2.[单选题]所谓几率,是指发生概率和不发生概率的比值。

所以,抛掷一枚正常硬币,正面朝上的几率(odds)为多少?A)0.5B)1C)都不是答案:B解析:几率(odds)是事件发生不发生概率的比率,正面朝上概率为1/2和反面朝上的概率都为1/2,所以几率为1。

3.[单选题]在HSV色彩空间中的H表示色调，则其取值范围在()。

A)[0,255]B)[0,256]C)[0,180]D)[0,181]答案:C解析:4.[单选题]下列哪个语句在Python中是非法的是（）。

A)x = y = z = 1B)x, y = y, xC)x = (y = z + 1)D)x += y答案:C解析:5.[单选题]BatchNorm 层对于 input batch 会统计出 mean 和 variance 用于计算 EMA。

如果input batch 的 shape 为(B,C,H, W),统计出的 mean 和 variance 的 shape 为: ()A)B * 1 * 1 * 1B)1 * C * 1 * 1C)B * C * 1 * 1D)1 * 1 * 1 * 1答案:B解析:6.[单选题]按照求解方法进行分类算法的划分，下列中为生成模型的是（ ）A)决策树B)K近邻C)贝叶斯分类器D)支持向量机SVM答案:C解析:7.[单选题]以下描述正确的是(__)。

A)客户代表的是项目的最终利益和目的B)项目经理是项目的实际管理者C)项目发起人是项目的投资者D)数据工程师负责在软/硬件上部署和实施数据科学家提出的方法和技术方案答案:A解析:8.[单选题]一般，k-NN最近邻方法在（）的情况下效果较好A)样本较多但典型性不好B)样本较少但典型性好C)样本呈团状分布D)样本呈链状分布答案:B解析:9.[单选题]在选择神经网络的深度时,下面哪些参数需要考虑?1 神经网络的类型(如MLP,CNN) ;2 输入数据;3 计算能力(硬件和软件能力决定) ;4 学习速率;5 映射的输出函数.A)1,2,4,5B)2,3,4,5C)都需要考虑D)1,3,4,5答案:C解析:10.[单选题]以下哪个模型属于生成模型()A)支持向量机B)逻辑回归C)DNND)朴素贝叶斯答案:D解析:11.[单选题]假设你有以下数据：输入和输出都只有一个变量。

机器学习期末试题Document serial number【UU89WT-UU98YT-UU8CB-UUUT-UUT108】中国科学院大学 课程编号：712008Z? 试 题 专 用 纸课程名称：机器学习任课教师：卿来云——————————————————————————————————————————————— 姓名学号成绩一、基础题（共36分）1、请描述极大似然估计MLE 和最大后验估计MAP 之间的区别。

请解释为什么MLE 比MAP 更容易过拟合。

（10分）2、在年度百花奖评奖揭晓之前，一位教授问80个电影系的学生，谁将分别获得8个奖项（如最佳导演、最佳男女主角等）。

评奖结果揭晓后，该教授计算每个学生的猜中率，同时也计算了所有80个学生投票的结果。

他发现所有人投票结果几乎比任何一个学生的结果正确率都高。

这种提高是偶然的吗请解释原因。

（10分）3、假设给定如右数据集，其中A 、B 、C 为二值随机变量，y 为待预测的二值变量。

(a) 对一个新的输入A =0,B =0,C =1，朴素贝叶斯分类器将会怎样预测y（10分）(b) 假设你知道在给定类别的情况下A 、B 、C 是独立的随机变量，那么其他分类器（如Logstic 回归、SVM 分类器等）会比朴素贝叶斯分类器表现更好吗为什么（注意：与上面给的数据集没有关系。

）（6分） 二、回归问题。

（共24分） 现有N 个训练样本的数据集(){}1,Ni i i x y ==，其中,i i x y 为实数。

1． 我们首先用线性回归拟合数据。

为了测试我们的线性回归模型，我们随机选择一些样本作为训练样本，剩余样本作为测试样本。

现在我们慢慢增加训练样本的数目，那么随着训练样本数目的增加，平均训练误差和平均测试误差将会如何变化为什么（6分）平均训练误差：A、增加 B、减小平均测试误差：A、增加 B、减小2．给定如下图(a)所示数据。

粗略看来这些数据不适合用线性回归模型表示。

机器学习期末试题及答案一、选择题1. 机器学习是一种：A. 人工智能子领域B. 数据分析工具C. 算法库D. 编程语言答案：A. 人工智能子领域2. 以下哪种算法是无监督学习算法？A. 决策树B. 支持向量机C. K均值聚类D. 朴素贝叶斯答案：C. K均值聚类3. 在机器学习中，过拟合是指：A. 模型无法适应新数据B. 模型过于简单C. 模型过于复杂D. 模型的精度较低答案：C. 模型过于复杂4. 机器学习任务中的训练集通常包括：A. 特征和标签B. 标签和模型参数C. 特征和模型参数D. 特征、标签和模型参数答案：A. 特征和标签5. 在机器学习中，用于评估模型性能的常见指标是：A. 准确率B. 回归系数C. 损失函数D. 梯度下降答案：A. 准确率二、填空题1. 监督学习中，分类问题的输出是离散值，而回归问题的输出是________________。

答案：连续值/实数值2. 机器学习中的特征工程是指对原始数据进行________________。

答案：预处理3. ________________是一种常见的集成学习算法，通过构建多个弱分类器来提高整体模型的性能。

答案：随机森林4. K折交叉验证是一种常用的评估模型性能和调参的方法，其中K 代表______________。

答案：折数/交叉验证的次数5. 在机器学习中，优化算法的目标是最小化或最大化一个称为______________的函数。

答案：目标函数/损失函数三、简答题1. 请简要解释什么是过拟合，并提出至少三种防止过拟合的方法。

答：过拟合是指在训练数据上表现很好，但在新数据上表现较差的现象。

防止过拟合的方法包括：- 数据集扩充：增加更多的训练样本，从而减少模型对特定数据的过度拟合。

- 正则化：通过在损失函数中引入正则化项，约束模型的复杂度，防止模型过分拟合训练数据。

- 交叉验证：使用交叉验证方法对模型进行评估，通过评估模型在不同数据集上的性能，选择性能较好的模型。

机器学习考试试题一、选择题（每题 3 分，共 30 分）1、以下哪种情况不属于机器学习的应用场景？（）A 图像识别B 自然语言处理C 传统的数值计算D 预测股票价格2、在监督学习中，如果预测值与真实值之间的差异较大，通常使用以下哪种方法来衡量模型的性能？（）A 准确率B 召回率C 均方误差D F1 值3、下列哪种算法不是聚类算法？（）A KMeansB 决策树C 层次聚类D 密度聚类4、对于一个过拟合的模型，以下哪种方法可以缓解？（）A 增加训练数据量B 减少模型的复杂度C 增加正则化项D 以上都是5、以下关于特征工程的描述，错误的是？（）A 特征工程是将原始数据转换为更有意义和有用的特征的过程B 特征选择是特征工程的一部分C 特征工程对于机器学习模型的性能影响不大D 特征缩放可以提高模型的训练效率6、在深度学习中，以下哪个不是常见的激活函数？（）A Sigmoid 函数B ReLU 函数C Tanh 函数D Logistic 函数7、支持向量机（SVM）主要用于解决什么问题？（）A 回归问题B 分类问题C 聚类问题D 降维问题8、以下哪种优化算法常用于神经网络的训练？（）A 随机梯度下降（SGD）B 牛顿法C 共轭梯度法D 以上都是9、下面关于集成学习的说法，错误的是？（）A 随机森林是一种集成学习算法B 集成学习可以提高模型的稳定性和泛化能力C 集成学习中的个体学习器必须是同一种类型的模型D 集成学习通过组合多个弱学习器来构建一个强学习器10、对于一个二分类问题，若混淆矩阵如下：｜｜预测正例｜预测反例｜｜｜｜｜｜实际正例｜ 80 ｜ 20 ｜｜实际反例｜ 10 ｜ 90 ｜则该模型的准确率是多少？（）A 80%B 90%C 70%D 85%二、填空题（每题 3 分，共 30 分）1、机器学习中的有监督学习包括________、＿_______和________等任务。

2、常见的无监督学习算法有________、＿_______和________。

《机器学习》期末考试试卷附答案一、选择题（每题5分，共25分）1. 机器学习的主要目的是让计算机从数据中____，以实现某些任务或预测未知数据。

A. 抽取特征B. 生成模型C. 进行推理D. 分类标签答案：B. 生成模型2. K-近邻算法（K-NN）是一种____算法。

A. 监督学习B. 无监督学习C. 半监督学习D. 强化学习答案：A. 监督学习3. 在决策树算法中，节点的分裂是基于____进行的。

A. 信息增益B. 基尼不纯度C. 均方误差D. 交叉验证答案：A. 信息增益4. 支持向量机（SVM）的主要目的是找到一个超平面，将不同类别的数据点____。

A. 完全分开B. 尽量分开C. 部分分开D. 不分开答案：B. 尽量分开5. 哪种优化算法通常用于训练深度学习模型？A. 梯度下降B. 牛顿法C. 拟牛顿法D. 以上都对答案：D. 以上都对二、填空题（每题5分，共25分）1. 机器学习可以分为监督学习、无监督学习和____学习。

A. 半监督B. 强化C. 主动学习D. 深度答案：A. 半监督2. 线性回归模型是一种____模型。

A. 线性B. 非线性C. 混合型D. 不确定型答案：A. 线性3. 在进行特征选择时，常用的评估指标有____、____和____。

A. 准确率B. 召回率C. F1 分数D. AUC 值答案：B. 召回率C. F1 分数D. AUC 值4. 神经网络中的激活函数通常用于引入____。

A. 非线性B. 线性C. 噪声D. 约束答案：A. 非线性5. 当我们说一个模型具有很好的泛化能力时，意味着该模型在____上表现良好。

A. 训练集B. 验证集C. 测试集D. 所有集答案：C. 测试集三、简答题（每题10分，共30分）1. 请简要解释什么是过拟合和欠拟合，并给出解决方法。

2. 请解释什么是交叉验证，并说明它的作用。

答案：交叉验证是一种评估模型泛化能力的方法，通过将数据集分成若干个互斥的子集，轮流用其中若干个子集作为训练集，其余子集作为验证集，对模型进行评估。

一、单选题1、在条件随机场（CRF）中，参数的学习通常使用哪种优化算法？（）A.K-Means聚类B.梯度提升机（GBM）C.支持向量机（SVM）D.随机梯度下降（SGD）正确答案：D2、在概率无向图模型中，什么是团分解（Cluster Decomposition）？（）A.一种通过节点之间的边传播信息，以更新节点的边缘概率的方法B.一种用于计算图的分割的算法C.一种将联合概率分布分解为多个局部概率分布的方法D.一种用于表示联合概率分布的无向树正确答案：C3、在数据不完备时，下列哪一种方法不是贝叶斯网络的参数学习方法（）A.拉普拉斯近似B.最大似然估计方法C.蒙特卡洛方法D.高斯逼近正确答案：B4、在有向图模型中，什么是条件独立性？（）A.给定父节点的条件下，子节点之间独立B.所有节点之间都独立C.所有节点的状态相互独立D.任意两个节点都是独立的正确答案：A5、在概率有向图模型中，节点表示什么？（）A.变量B.参数C.条件概率D.边正确答案：A6、下列哪一项表示簇中样本点的紧密程度？（）A.簇个数B.簇大小C.簇描述D.簇密度正确答案：D7、闵可夫斯基距离表示为曼哈顿距离时p为：（）A.1B.2C.3D.4正确答案：A8、谱聚类与K均值聚类相比，对于什么样的数据表现更好？（）A.低维数据B.高维数据C.线性可分数据D.高密度数据正确答案：B9、SVM适用于什么类型的问题？（）A.既可用于线性问题也可用于非线性问题B.仅适用于回归问题C.仅适用于非线性问题D.仅适用于线性问题正确答案：A10、对于在原空间中线性不可分的问题，支持向量机（）A.在原空间中寻找非线性函数划分数据B.无法处理C.利用核函数把数据映射到高维空间D.在原空间中寻找线性函数划分数据正确答案：C11、LDA主题模型中的alpha参数控制着什么？（）A.单词分布的稀疏性B.文档-主题分布的稀疏性C.模型大小D.模型收敛速度正确答案：B12、LDA的全称是什么？（）tent Dirichlet AllocationB.Linear Discriminant Analysistent Data AnalysisD.Lin Latent Dirichlet Allocation ear Data Algorithm正确答案：A13、以下对于梯度下降法中学习率lr的阐述，正确的是（）A.lr小，收敛速度较快B.lr大，收敛速度较慢C.lr小，收敛速度较慢且较不易收敛D.lr大，收敛速度较快但可能导致不收敛正确答案：D14、在EM算法中，E代表期望，M代表（）A.均值B.最大化C.最小化D.均方误差正确答案：B15、梯度下降中如何有效地捕捉到目标函数的全局最优？（）A.调整学习速率B.增加模型复杂度C.使用梯度下降的变种算法D.增加训练样本量正确答案：C二、多选题1、下列机器学习常用算法中哪个属于分类算法？（）A.K-meansB.最小距离分类器C.KNN(K近邻)D.逻辑回归正确答案：B、C、D2、下列关于决策树的说法正确的是？（）A.CART使用的是二叉树B.其可作为分类算法，也可用于回归模型C.不能处理连续型特征D.它易于理解、可解释性强正确答案：A、B、D3、下列属于k近邻算法中常用的距离度量方法的是？（）A.余弦相似度B.欧式距离C.曼哈顿距离D.闵可夫斯基距离正确答案：A、B、C、D4、下列属于深度模型的是？（）A.DNNB.LightgbmC.LSTMD.Seq2Seq正确答案：A、C、D5、sklearn中RFECV方法分成哪两个部分？（）A.RFEB.CVC.NLPD.MM正确答案：A、B6、以下关于蒙特卡洛方法描述正确的是（）A.蒙特卡洛方法计算值函数可以采用First-visit方法B.蒙特卡洛方法方差很大C.蒙特卡洛方法计算值函数可以采用Every-visit方法D.蒙特卡洛方法偏差很大正确答案：A、B、C7、为什么循环神经网络可以用来实现自动问答，比如对一句自然语言问句给出自然语言回答（）A.因为自动问答可以看成是一种序列到序列的转换B.因为循环神经网络能够处理变长输入C.因为循环神经网要比卷积神经网更强大D.因为卷积神经网络不能处理字符输入正确答案：A、B8、通常有哪几种训练神经网络的优化方法（）A.梯度下降法B.随机梯度下降法C.小批量随机梯度下降法D.集成法正确答案：A、B、C9、隐马尔可夫模型的三个基本问题是（）A.估值问题B.寻找状态序列C.学习模型参数D.状态更新正确答案：A、B、C10、在数据不完备时，贝叶斯网络的参数学习方法有（）A.高斯逼近B.蒙特卡洛方法C.拉普拉斯近似D.最大似然估计方法正确答案：A、B、C11、基于约束的方法通过统计独立性测试来学习结点间的（）A.独立性B.相关性C.依赖性D.完备性正确答案：A、B12、基于搜索评分的方法，关键点在于（）A.确定合适的搜索策略B.确定评分函数C.确定搜索优先级D.确定选择策略正确答案：A、B13、条件随机场需要解决的关键问题有（）A.特征函数的选择B.参数估计C.模型推断D.约束条件正确答案：A、B、C14、以下关于逻辑斯蒂回归模型的描述正确的是（）A.针对分类的可能性进行建模，不仅能预测出类别，还可以得到属于该类别的概率B.直接对分类的可能性进行建模，无需事先假设数据分布，这样就避免了假设分布不准确所带来的问题C.模型本质仍然是一个线性模型，实现相对简单D.逻辑斯蒂回归模型是线性回归模型正确答案：A、B、C、D15、LDA模型在做参数估计时，最常用的方法是（）A.Gibbs采样方法B.变分推断C.梯度下降D.Beam search正确答案：A、B三、判断题1、关于EM算法的收敛性，EM算法理论上不能够保证收敛（）正确答案：×2、多次运行，随机化初始点是对存在局部最优点的函数求解的一种方案（）正确答案：√3、训练算法的目的就是要让模型拟合训练数据（）正确答案：×4、循环神经网络按时间展开后就可以通过反向传播算法训练了（）正确答案：√5、GIS算法的收敛速度由计算更新值的步长确定。

机器学习(传统机器学习)期末测试练习题1、使用K-means算法得到了三个聚类中心，分别是[1,2]，[-3,0]，[4,2]，现输入数据X=[3,1]，则X属于第几类A.1B.3C。

2D.不能确定正确答案：B2、对一组无标签的数据X，使用不同的初始化值运行K-means算法50次，如何评测这50次聚类的结果哪个最优A.优化目标函数值最小的一组最优B.需要获取到数据的标签才能评测C.暂无方法D.最后一次运行结果最优正确答案：A3、下图是某个二维高斯混合模型的聚类结果，该GMM 的输出矩阵的形式为A.对角阵且非单位矩阵B.普通方阵C.单位矩阵D.不能确定正确答案：A二、多选题1、以下关于PCA算法的描述正确的有哪些A.即使输入数据X各个维度上的数值相似度较高，依旧需要对其去均值B.使用PCA算法时，数据压缩后的维度M可以设置的偏小一点C.在使用PCA算法时，有可能陷入局部最小值，所以需要使用不同的初始化数值多次计算以获得更好的结果D.已知使用PCA算法压缩后的数据Y以及压缩矩阵A，但是没法大致复原压缩前的数据X正确谜底：A、B2、有L个输入样本，每个样本的特征维度是N。

在设置压缩后的维度M时，以下哪些设置方式是合理的A.M = 0.1*NB.M= 0.1*LC.根据能量百分比准则，保留占据5%能量的M值D.根据能量百分比准则，保留占据95%能量的M值正确答案：A、D3、以下哪些是PCA算法可以解决的问题A.对维度较小的数据进行维度扩充B.对特征相关性较高的数据进行降维C.对维度大于3的数据进行可视化处理D.数据维度压缩正确答案：B、C、D。

机器学习期末考试试题# 机器学习期末考试试题## 一、选择题（每题2分，共20分）1. 机器学习中的监督学习主要解决的问题类型是： - A. 回归问题- B. 分类问题- C. 聚类问题- D. 以上都是2. 下列哪个算法不是用于分类的：- A. 决策树- B. 支持向量机- C. K-means- D. 逻辑回归3. 在神经网络中，激活函数的作用是：- A. 增加计算复杂度- B. 引入非线性- C. 减少训练时间- D. 降低模型的泛化能力4. 交叉验证的主要目的是：- A. 加速模型训练- B. 减少模型过拟合- C. 增加数据量- D. 减少计算资源消耗5. 下列哪个不是深度学习模型：- A. 卷积神经网络（CNN）- B. 循环神经网络（RNN）- C. 随机森林- D. 长短期记忆网络（LSTM）## 二、简答题（每题10分，共30分）1. 请简述机器学习中的过拟合现象及其可能的解决方案。

2. 解释什么是特征工程，并说明其在机器学习中的重要性。

3. 描述一下什么是模型的泛化能力，并举例说明如何评估一个模型的泛化能力。

## 三、计算题（每题15分，共30分）1. 给定一个线性回归模型 \( y = \beta_0 + \beta_1 x_1 +\epsilon \)，其中 \( \epsilon \) 服从均值为0的正态分布。

假设我们有以下数据点：- \( x_1 = [1, 2, 3, 4, 5] \)- \( y = [2, 4, 5, 4, 5] \)- 请计算最小二乘法估计的参数 \( \beta_0 \) 和 \( \beta_1 \)。

2. 假设有一个简单的二分类问题，我们使用逻辑回归模型进行分类。

给定以下数据点和对应的标签：- 特征：\( [x_1, x_2] = [[2, 1], [3, 0], [1, 1], [4, 1]] \) - 标签：\( y = [1, 0, 1, 0] \)- 请写出逻辑回归的假设函数 \( h(x) \)，并计算使用梯度下降法更新参数的一次迭代过程。

XXXXXXXXXXX 学院2020 至 2021 学年第 一 学期《机器学习》 期末考试试题评分标准（B 卷）一、单选题（本题共25小题，满分50分） 题号 1 2 3 4 5 6 7 8 9 10 答案 D A A B B A B C D C 题号 11 12 13 14 15 16 17 18 19 20 答案 B C C B C B B D D B 题号 21 22 23 24 25 答案DDBBA二、计算题（本题共5小题，满分50分） 1.（本小题4分，每错一处扣一分，扣完为止）2.（本小题8分） （1）（每空1分，共2分）clusterAssement数据 对应样本所在的簇的序号P1(第0簇质心)P2(第1簇质心)样本距离所在簇质心的距离平方dist （x,C i ）2P41/第1簇2（2）P1 P3 P6属于第0簇（2分）； P2 P4 P5属于第1簇。

（2分） （3）第一次迭代结束后，更新簇的质心，新的质心是什么？（2分） （2，5/3） （6,5）3. （本小题13分）岭回归算法实现。

（1）岭回归算法采用L2正则化来简化模型。

（1分）岭回归算法的损失函数是（1分）can breath under water?have flippers?not fishnot fishis fish0 11（2）（1分）（3）（10分）def ridgeRegres(xArr, yArr, lam):xMat = np.mat(xArr) （1分）yMat = np.mat(yArr).T（1分）xTx = xMat.T * xMat （1分）denom = xTx + np.eye(np.shape(xMat)[1]) * lam（2分）if np.linalg.det(denom) == 0.0: （1分）print(“矩阵为奇异矩阵,不能求逆") （1分）return （1分）ws = denom.I * (xMat.T * yMat) （1分）return ws （1分）4. （本小题15分）（1）写出KNN算法思想的基本步骤。

1、Q-learning算法中，Q函数是
A.状态-动作值函数
B.状态函数
C.估值函数
D.奖励函数
正确答案：A
2、Q(s,a)是指在给定状态s的情况下，采取行动a之后，后续的各个状态所能得到的
回报（）
A.总和
B.最大值
C.最小值
D.期望值
正确答案：D
3、在强化学习过程中，学习率越大，表示采用新的尝试得到的结果比例越（），保持旧的结果的比例越（）
A.大，小
B.大，大
C.小，大
D.小，小
正确答案：A
4、在强化学习的过程中，（）能够在稍微偏离目前最好策略的基础上，尝试更多策略，（）能够运用目前最好的策略，获取更高的奖励
A.利用，探索
B.探索，利用
C.利用，输出
D.探索，输出
正确答案：B
5、在epsilon-greedy算法中，epsilon的值越大，采取随机动作的概率越（），采用
当前Q函数最大动作的概率越（）
A.小，小
B.大，小
C.大，大
D.小，大
正确答案：B
二、多选题
1、强化学习包含哪些元素
A.Reward
B.Agent
C.State
D.Action
正确答案：A、B、C、D
三、判断题
1、在DQN中，求解Q(s,a)时采用的策略是有限采样s,a，并通过采样值来估计Q值。

（√）
2、可以采用policy gradient算法来设计一款围棋游戏。

（√）
3、在Actor-Critic算法中，Q函数和V函数同时被优化。

（√）
4、TD算法使用完整的采样来计算长期奖励值。

（√）。

机器学习练习题（打印版）# 机器学习练习题## 一、选择题1. 在机器学习中，模型的泛化能力通常是指：- A. 模型在训练数据上的表现- B. 模型在新数据上的表现- C. 模型的复杂度- D. 模型的运行时间2. 下列哪个不是监督学习算法？- A. 线性回归- B. 逻辑回归- C. 决策树- D. K-均值聚类3. 梯度下降算法的主要目的是：- A. 找到数据的均值- B. 找到数据的中位数- C. 最小化损失函数- D. 标准化特征4. 在神经网络中，激活函数的作用是：- A. 增加模型的非线性- B. 减少模型的复杂度- C. 计算模型的损失- D. 优化模型的参数5. 下列哪个是过拟合的特征？- A. 模型在训练集上表现良好，在测试集上表现一般- B. 模型在训练集和测试集上表现都很好- C. 模型在训练集上表现一般，在测试集上表现良好- D. 模型在训练集上表现很好，在测试集上表现很差## 二、简答题1. 解释什么是交叉验证，并说明它在机器学习中的重要性。

2. 描述支持向量机（SVM）的基本原理，并举例说明其应用场景。

3. 什么是正则化？在机器学习中，为什么正则化是重要的？## 三、计算题1. 假设你有一个线性回归模型，其损失函数为均方误差（MSE）。

给定以下数据点：| x | y ||--|--|| 1 | 2 || 2 | 3 || 3 | 5 || 4 | 4 |计算模型的损失函数值，假设模型预测值为 \( \hat{y} = 1.5x \)。

2. 假设你正在使用梯度下降法来优化一个二次函数 \( f(x) = x^2 + 3x + 2 \)。

初始点为 \( x_0 = 2 \)，学习率为 0.1。

请计算前3次迭代的 \( x \) 值。

## 四、编程题1. 编写一个Python函数，使用逻辑回归算法对二维数据进行分类。

数据点由特征向量 \( (x_1, x_2) \) 和标签 \( y \) 组成。

机器学习课程期末考试试题### 机器学习课程期末考试试题一、选择题（每题2分，共20分）1. 在机器学习中，通常所说的“过拟合”是指：- A. 模型在训练集上表现很好，但在测试集上表现较差 - B. 模型在训练集上表现较差- C. 模型在训练集和测试集上表现都很差- D. 模型在训练集上表现一般，但在测试集上表现很好2. 支持向量机（SVM）的核心思想是：- A. 找到最佳拟合线- B. 找到最佳拟合平面- C. 在特征空间中找到最优的决策边界- D. 在数据空间中找到最优的决策边界3. 以下哪个算法是用于聚类分析的？- A. 逻辑回归- B. 决策树- C. K-means- D. 随机森林4. 在神经网络中，激活函数的作用是：- A. 增加模型的复杂度- B. 引入非线性因素- C. 减少模型的复杂度- D. 使模型更容易训练5. 交叉验证的主要目的是什么？- A. 减少模型训练时间- B. 减少模型的过拟合风险- C. 提高模型的泛化能力- D. 增加模型的复杂度二、简答题（每题10分，共30分）1. 描述机器学习中的“训练集”和“测试集”的区别，并解释为什么在机器学习中需要将数据集分为训练集和测试集。

2. 解释什么是“决策树”，并简述如何使用决策树进行分类。

3. 什么是“梯度下降”算法？它在机器学习中如何应用？三、计算题（每题25分，共50分）1. 假设我们有一个简单的线性回归问题，模型的预测函数为 \( f(x) = wx + b \)，其中 \( w \) 是权重，\( b \) 是偏置项。

给定数据集 \( \{(x_1, y_1), (x_2, y_2), ..., (x_n, y_n)\)，其中\( y_i = wx_i + b + \epsilon_i \)，\( \epsilon_i \) 是噪声项。

请推导最小二乘法的权重 \( w \) 和偏置 \( b \) 的更新公式。

人工智能机器学习技术练习(习题卷4)说明：答案和解析在试卷最后第1部分：单项选择题，共155题，每题只有一个正确答案,多选或少选均不得分。

1.[单选题]聚类的结果是将数据分成了多个簇,()A)每个簇有确切的含义B)单个簇要再次进行统计分析C)簇与簇之间差异巨大2.[单选题]现在有一份数据，你随机的将数据分成了n份，然后同时训练n个子模型，再将模型最后相结合得到一个强学习器，这属于boosting方法吗A)是B)不是C)不确定3.[单选题]SVM在()情况下表现糟糕。

A)线性可分数据B)清洗过的数据C)含噪声数据与重叠数据点4.[单选题]逻辑回归常用于解决( )A)回归问题B)分类问题C)优化问题5.[单选题]逻辑回归拟合的函数是()A)sigmoidB)tanhC)relu6.[单选题]回归分析的任务,就是根据()和因变量的观察值,估计这个函数,并讨论与之有关的种种统计推断的问题。

A)相关变量B)样本C)已知数据D)自变量7.[单选题]梯度爆炸问题是指在训练深度神经网络的时候，梯度变得过大而损失函数变为无穷。

在RNN中，下面哪种方法可以较好地处理梯度爆炸问题( )A)梯度裁剪B)所有方法都不行C)DropoutD)加入正则项8.[单选题]关于Boosting，Bagging和随机森林，以下说法错误的是A)从偏差-方差分解的角度看，Boosting主要关注降低偏差B)从偏差-方差分解的角度看，Bagging主要关注降低方差C)随机森林简单、容易实现、计算开销小D)Boosting不能基于泛化性能相当弱的学习器构建出很强的集成9.[单选题]假设已经使用python第三方库sklearn创建线性模型实例linear_model，则linear_model.coef中，属性coef的作用是（ ）A)sigmoid函数B)激活函数C)模型的参数D)以上都不是10.[单选题]为了解决如何模拟人类的感性思维，例如视觉理解、直觉思维、悟 性等，研究者找到一个重要的信息处理的机制是()A)专家系统B)人工神经网络C)模式识别D)智能代理11.[单选题]输出门的作用是（ ）。

机器学习期末测试练习题41、在神经⽹络模型VggNet中，使⽤两个级联的卷积核⼤⼩为3×3，stride=1的卷积层代替了⼀个5×5的卷积层，如果将stride设置为2，则此时感受野为A.7×7B.9×9C.5×5D.8×8正确答案：A2、上图是具有四个隐藏层的神经⽹络，该⽹络使⽤sigmoid函数作为激活函数，训练过程出现了梯度消失问题。

从图中可以判断出四个隐藏层的先后顺序（靠近输⼊端的为先，靠近输出端的为后）分别为A.DBCAB.ABCDD.DCBA正确答案：D3、在⽹络训练时，loss在最初⼏个epoch没有下降，可能原因是A.学习率过低B.以下都有可能C.正则参数过⾼D.陷⼊局部最⼩值正确答案：B4、假设有⼀个三分类问题，某个样本的标签为（1，0，0），模型的预测结果为（0.5，0.4，0.1），则交叉熵损失值（取⾃然对数结果）约等于B.0.7C.0.8D.0.5正确答案：B5、IoU是物体检测、语义分割领域中的结果评测指标之⼀，上图中A 框是物体的真实标记框，⾯积为8。

B框是⽹络的检测结果，⾯积为7。

两个框的重合区域⾯积为2。

则IoU的值为A.2/8B.2/13C.2/7D.2/15正确答案：B6、Gram矩阵是深度学习领域常⽤的⼀种表⽰相关性的⽅法，在风格迁移任务中就使⽤风格Gram矩阵来表⽰图像的风格特征，以下关于风格Gram矩阵的论述正确的是A.风格Gram矩阵的⼤⼩与输⼊特征图的通道数、宽、⾼都不相关B.风格Gram矩阵的⼤⼩只与输⼊特征图的通道数相关C.风格Gram矩阵的⼤⼩与输⼊特征图的通道数、宽、⾼都相关D.风格Gram矩阵的⼤⼩只与输⼊特征图的宽、⾼有关正确答案：B7、现使⽤YOLO⽹络进⾏⽬标检测，待检测的物体种类为20种，输⼊图像被划分成7*7个格⼦，每个格⼦⽣成2个候选框，则YOLO⽹络最终的全连接层输出维度为A.1078B.980C.1470D.1960正确答案：C⼆、多选题1、池化层在卷积神经⽹络中扮演了重要的⾓⾊，下列关于池化层的论述正确的有A.池化操作具有平移不变性B.池化操作可以实现数据的降维C.池化操作是⼀种线性变换D.池化操作可以扩⼤感受野正确答案：A、B、D2、以下关于MaxPooling和MeanPooling的论述正确的有A.尺度为（2，2），stride=2的MaxPooling层在梯度后向传播中，后层的梯度值传递给前层对应的最⼤值位置。

1、Q-learning算法中，Q函数是
A.状态-动作值函数
B.状态函数
C.估值函数
D.奖励函数
正确答案：A
2、Q(s,a)是指在给定状态s的情况下，采取行动a之后，后续的各个状态所能得到的
回报（）
A.总和
B.最大值
C.最小值
D.期望值
正确答案：D
3、在强化学习过程中，学习率越大，表示采用新的尝试得到的结果比例越（），保持旧的结果的比例越（）
A.大，小
B.大，大
C.小，大
D.小，小
正确答案：A
4、在强化学习的过程中，（）能够在稍微偏离目前最好策略的基础上，尝试更多策略，（）能够运用目前最好的策略，获取更高的奖励
A.利用，探索
B.探索，利用
C.利用，输出
D.探索，输出
正确答案：B
5、在epsilon-greedy算法中，epsilon的值越大，采取随机动作的概率越（），采用
当前Q函数最大动作的概率越（）
A.小，小
B.大，小
C.大，大
D.小，大
正确答案：B
二、多选题
1、强化学习包含哪些元素
A.Reward
B.Agent
C.State
D.Action
正确答案：A、B、C、D
三、判断题
1、在DQN中，求解Q(s,a)时采用的策略是有限采样s,a，并通过采样值来估计Q值。

（√）
2、可以采用policy gradient算法来设计一款围棋游戏。

（√）
3、在Actor-Critic算法中，Q函数和V函数同时被优化。

（√）
4、TD算法使用完整的采样来计算长期奖励值。

（√）。

中国科学院大学课程编号:712008Z 试 题 专 用 纸 课程名称：机器学习任课教师：卿来云———-—-————-————-—————---———-—--————-——————--—-—姓名学号 成绩一、基础题（共36分）1、请描述极大似然估计MLE 和最大后验估计MAP 之间的区别。

请解释为什么MLE 比MAP 更容易过拟合。

（10分)2、在年度百花奖评奖揭晓之前,一位教授问80个电影系的学生，谁将分别获得8个奖项（如最佳导演、最佳男女主角等）。

评奖结果揭晓后，该教授计算每个学生的猜中率，同时也计算了所有80个学生投票的结果。

他发现所有人投票结果几乎比任何一个学生的结果正确率都高。

这种提高是偶然的吗？请解释原因。

（10分）3、假设给定如右数据集，其中A 、B 、C 为二值随机变量，y 为待预测的二值变量。

(a) 对一个新的输入A =0, B =0， C =1,朴素贝叶斯分类器将会怎样预测y ?（10分）(b) 假设你知道在给定类别的情况下A 、B 、C 是独立的随机变量,那么其他分类器（如Logstic回归、SVM 分类器等）会比朴素贝叶斯分类器表现更好吗?为什么?（注意：与上面给的数据集没有关系。

）（6分） 二、回归问题。

（共24分) 现有N 个训练样本的数据集(){}1,Ni i i x y ==,其中,i i x y 为实数.1． 我们首先用线性回归拟合数据。

为了测试我们的线性回归模型，我们随机选择一些样本作为训练样本,剩余样本作为测试样本。

现在我们慢慢增加训练样本的数目，那么随着训练样本数目的增加,平均训练误差和平均测试误差将会如何变化？为什么？（6分） 平均训练误差：A 、增加 B 、减小 平均测试误差：A 、增加 B 、减小2． 给定如下图(a)所示数据。

粗略看来这些数据不适合用线性回归模型表示。

因此我们采用如下模型:()exp i i i y wx ε=+，其中()~0,1i N ε。

山东财经大学《机器学习》2021 -2022学年第一学期期末试卷《机器学习》院/系——年纪——专业——姓名——学号—— 考试范围: 《机器学习》；满分：120 分；考试时间：120 分钟一、选择题（每题 2 分，共 20 分）1. 下列关于机器学习的描述，哪一项是正确的？A.机器学习是一种无需人工干预，机器就能自主产生智能的技术。

B.机器学习是让机器模拟人类的学习行为，以获取新的知识或技能。

C.机器学习仅适用于大规模数据集，不适用于小规模数据集。

D.机器学习是人工智能的一个子集，但两者没有本质区别。

2. 监督学习中的“标签”指的是什么？A.数据集中的特征值B.数据集中的目标变量C.数据集的分布规律D.数据集的噪声3. 下列哪种算法属于无监督学习？A.K-近邻算法B.决策树C.K-均值聚类D.逻辑回归4. 关于正则化技术，下列描述错误的是？A.正则化用于防止过拟合。

B.L1 正则化倾向于产生稀疏的权值。

C.L2 正则化倾向于产生平滑的权值。

D.正则化项越大，模型复杂度越高。

5. 在神经网络中，以下哪项不是常用的激活函数？A.SigmoidB.ReLUC.TanhD.Linear6.在机器学习中，哪项任务通常涉及通过训练数据来预测连续型的目标变量？A.分类B.回归C.聚类D.降维7.下列哪种算法属于集成学习方法？A.决策树B.随机森林C.K-均值聚类D.朴素贝叶斯8.在支持向量机（SVM）中，软间隔 SVM 通过什么方式处理数据中的噪声或异常值？A.增加样本数量B.引入松弛变量C.更改核函数D.调整学习率9.深度学习中，卷积神经网络（CNN）通常用于处理哪种类型的数据？A.文本数据B.图像数据C.序列数据D.表格数据10.当使用神经网络进行训练时，过拟合的一个可能表现是？A.训练集上的损失函数值持续增加B.训练集上的准确率持续增加，但测试集上的准确率停滞不前C.测试集上的损失函数值持续下降D.训练集和测试集上的准确率都持续增加二、填空题（每题 2 分，共 10 分）1.机器学习的三大要素包括______、______和______。