机器学习概述-程序员宅基地

技术标签： 机器学习  

在这里插入图片描述

一、什么是机器学习

机器学习是一种人工智能技术，通过对数据的学习和分析，让计算机系统自动提高其性能。简而言之，机器学习是一种从数据中学习规律和模式的方法，通过数据来预测、分类或者决策。

在这里插入图片描述

二、机器学习的工作原理

机器学习的工作原理主要包括以下几个步骤：

  • 数据收集：首先需要收集数据并将其转化为可以计算的形式，例如数值、文本或图像等。

  • 数据预处理：数据收集后，需要对数据进行清洗、去除异常值、缺失值处理、特征选择等预处理步骤。

  • 特征工程： 是指在机器学习中对原始数据进行转换、组合和选择等处理，以提取更有用的特征或属性，以帮助机器学习算法更好地理解和处理数据。简而言之，特征工程就是对原始数据进行预处理，以提取有用信息来辅助机器学习。

  • 模型选择：根据问题的特点和数据的特征选择适合的机器学习算法和模型。

  • 模型训练（机器学习）：利用已有数据对所选的机器学习模型进行训练，从而使模型能够学习数据中的规律和模式。

  • 模型评估：训练完成后，需要对模型进行评估和调整，以检查其性能和精度，并进行优化。

  • 模型应用：经过训练和优化后，机器学习模型可以用于新数据的预测、分类、聚类等任务。

    在这里插入图片描述

三、数据简介

  • 数据简介

    在数据集中一般：

    • 一行数据我们称为一个样本
    • 一列数据我们称为一个特征
    • 有些数据有目标值（标签值），有些数据没有标签值

  • 数据类型构成

    • 数据类型一：特征值+目标值（目标值是连续的和离散的）
    • 数据类型二：只有特征值，没有目标值

  • 数据分割

    • 机器学习一般的数据集会划分为两个部分：
      • 训练数据：用于训练，构建模型
      • 测试数据：在模型检验时使用，用于评估模型是否有效
    • 划分比例：
      • 训练集：70% 80% 75%
      • 测试集：30% 20% 25%
四、特征工程

  • 什么是特征工程

    是指在机器学习中对原始数据进行转换、组合和选择等处理，以提取更有用的特征或属性，以帮助机器学习算法更好地理解和处理数据。简而言之，特征工程就是对原始数据进行预处理，以提取有用信息来辅助机器学习。

  • 为什么要用到特征工程

    特征工程是机器学习中非常重要的一环，因为好的特征能够提高算法的精度和效率，甚至决定了机器学习模型的上限。因此，进行特征工程需要根据具体问题和数据特点进行灵活选择和处理，以达到最佳效果。

  • 特征工程包含的内容

    • 特征提取：从原始数据中提取特征，通常是利用数学和统计方法对数据进行转换和降维，例如主成分分析（PCA）、奇异值分解（SVD）等。
    • 特征转换（特征预处理）：将提取的特征进行转换，以符合算法的需求，例如将类别特征转换为数值特征，或者对数值特征进行标准化。
    • 特征降维：指在某些限定条件下，降低随机变量（特征）个数，得到一组“不相关”主变量的过程
    • 特征选择：根据特征的重要性和相关性等指标，选择最具有代表性的特征，以减少计算复杂度和提高算法性能。
五、机器学习算法分类

  • 监督学习

    输入数据是由输入特征值和目标值所组成。函数的输出可以是一个连续的值（称为回归），或是输出有限个离散值（称为分类）

    • 回归问题

      例如：预测房价，根据集拟合出一条连续曲线

    • 分类问题

      例如：根据肿瘤特征判断良性还是恶性，得到的是结果是“良性”或者“恶性”，是离散的

  • 无监督学习

    输入数据是由输入特征值组成，没有目标值。输入数据没有被标记，也没有确定的结果，样本数据类别未知；需要根据样本间的相似性对样本集进行类别划分。

    • 有监督，无监督算法对比：

    在这里插入图片描述

  • 半监督学习

    训练集同时包含有标记样本数据和未标记样本数据

    • 监督学习训练方式和半监督学习训练方式的区别:
      1. 数据量不同：监督学习需要大量有标签的数据来进行训练，而半监督学习则可以利用部分有标签数据和大量无标签数据进行训练。
      2. 模型的预测能力：监督学习的模型在处理未知数据时需要有标签的数据作为参考，而半监督学习的模型可以更好地利用未标记数据来提高预测能力。
      3. 训练时间：由于半监督学习使用了更多的数据进行训练，因此需要更长的时间来完成模型的训练。
      4. 精度：半监督学习的模型在某些情况下可以比监督学习的模型具有更好的精度，尤其是当标记数据很少的时候。
      5. 应用场景：监督学习适用于已经有标签数据的问题，例如分类和回归等问题，而半监督学习适用于数据集标签数量较少或标签数据难以获得的问题。

  • 强化学习

    实质就是make decisions问题，即自动进行决策，并且可以做连续决策。强化学习的的目标就是获得最多的累计奖励。

    • 强化学习的五个元素：

      agent、action、reward、environment、observation

    • 监督学习的强化学习的对比：

      在这里插入图片描述

  • 四种学习算法的小结

    在这里插入图片描述

六、模型评估

模型评估是模型开发过程不可或缺的一部分。它有助于发现表达数据的最佳模型和所选模型将来工作的性能如何。

按照数据集的目标值不同，可以把模型评估分为分类模型评估和回归模型评估。

  • 分类模型评估

    例如：肿瘤良性、恶性预测模型

    • 准确率：

      预测正确的数占样本总数的比例。

    • 其他评价指标：

      精确率、召回率、F1-score、AUC指标等。

  • 回归模型评估

    例如：房价预测模型

    • 均方根误差（Root Mean Squared Error，RMSE）

      RMSE是一个衡量回归模型误差率的常用公式。不过，它仅能比较误差是相同单位的模型。

    • 均方根误差公式

      在这里插入图片描述

    • 举例：

      假设有一个房价预测模型，只有五个样本，对应的

      真实值为：100，120，125，230，400

      预测值为：105，119，120，230，410

      则均方根误差求解得：
      R M S E = [ ( 105 − 100 ) 2 + ( 119 − 120 ) 2 + ( 120 − 125 ) 2 + ( 230 − 230 ) 2 + ( 410 − 400 ) 2 ] 5 2 = 5.495 RMSE=\sqrt[2]{\frac{[(105-100)^2+(119-120)^2+(120-125)^2+(230-230)^2+(410-400)^2]}{5}}=5.495 RMSE=25[(105−100)2+(119−120)2+(120−125)2+(230−230)2+(410−400)2]​ ​=5.495

  • 拟合

    模型评估用于评价训练好的模型的表现效果，其表现效果大致可以分为两类：过拟合、欠拟合。

    • 欠拟合（under-fitting）：模型学习的太过粗糙，在训练集中的样本数据特征关系都没有学出来。
    • 过拟合（over-fitting）：所建的机器学习模型或者是深度学习模型在训练样本中表现得过于优越，导致在测试数据集中表现不佳。
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Despicable_Me/article/details/130176712

智能推荐

YOLOV4 SPP模块_yolo中使用spp的目的是什么-程序员宅基地

文章浏览阅读4.2k次，点赞2次，收藏8次。SPP模块首要作用是用来解决输入图像尺寸不统一的问题，SPP中不同大小特征的融合，有利于待检测图像中目标大小差异较大的情况，尤其是对于yolov3一般针对的复杂多目标图像。代码实现：_yolo中使用spp的目的是什么

Kafka基础-原理、运维与开发_kafka、zookeeper运维-程序员宅基地

文章浏览阅读1k次。文章目录1.kafka基本原理1.1 消息系统的作用1.2 kafka核心概念1.3 kafka集群架构1.4 kafka高性能高可用原理2.kafka运维实战2.1 kafka生产集群部署方案2.2 kafka常用命2.3 kafka监控-Kafkamanager3.kafka开发实战3.1 kafka生产者3.1.1 生产者发消息原理3.1.2 生产者demo代码3.1.3 生产者核心参数3.2 kafka消费者3.2.1 消费者消费几个重要概念3.2.2 消费者demo代码3.2.3 消费者重要参数_kafka、zookeeper运维

Yii2.0框架学习笔记_yii后台 记录哪张表哪条数据-程序员宅基地

文章浏览阅读432次。1、Yii框架工作流程（MVC文件后缀都是php）：models文件夹下建模型，写AR类、对应数据库相关表、定义属性标签、写验证规则、保存表之前调用的方式，用于保存非表单获取的默认数据（如添加数据的时间等，此步如不需要可省略）->controllers文件夹下建控制器、写保存表单的动作->views文件夹下建模板，动态显示视图。2、YII中各种类模型中添加：use yii\ba..._yii后台 记录哪张表哪条数据

NLP实战之BERTopic主题分析-程序员宅基地

文章浏览阅读9.3k次，点赞26次，收藏140次。BERTopic是一种结合了预训练模型BERT和主题建模的强大工具。它允许我们将大规模文本数据集中的文档映射到主题空间，并自动识别潜在的主题。它背后的核心思想是通过BERT模型来捕获文档的语义信息，并然后使用主题建模技术来对这些语义信息进行聚类，从而得出主题。对于大部分小伙伴而言，知道如何去使用BERTopic模型进行主题分析就足够了。所以BERTopic原理就不做过多解释了，感兴趣的小伙伴可以自己去了解一下。BERTopic是一种强大的主题分析工具，它能够自动识别文本数据中的主题，而无需预先定义主题数。_bertopic

idea运行tomcat过程中 中文变����_tomcat 运行-程序员宅基地

文章浏览阅读2.6k次。**需要配置一下tomcat编码**-Dfile.encoding=UTF-8_tomcat 运行

[TI TDA4 J721E]TIOVX OpenVX 框架下Kernel注册/Node使用_vxloadkernels-程序员宅基地

文章浏览阅读4k次，点赞11次，收藏27次。使用Python脚本生成步骤参照上一篇内容。[TI TDA4] TIOVX OpenVX框架下的Python脚本使用此处以TI 官方提供的Demo为例。~/vision_apps/apps/dl_demos/app_tidl_od一、host端注册调用链如下：main->app_tidl_od_main->app_init->tivxMytiovxLoadKernels tivxMytiovxLoadKernels函数位于~/vision_apps/k....._vxloadkernels

随便推点

外观模式实例-智能手机一键备份_某软件公司为新开发的智能手机控制与管理软件提供了一键备份功能,通过该功能可以-程序员宅基地

文章浏览阅读2.2k次，点赞7次，收藏40次。外观模式实例问题描述结构图编程实现需要交互的类Facade类客户端问题描述某软件公司为新开发的智能手机控制与管理软件提供一键备份功能，通过该功能可以将原本存储在手机中的通讯录、短信、照片、音乐等资料一次性拷贝到移动存储介质中（例如：SD卡）中。在实现过程中需要与多个已有的类进行交互，如通讯录管理类、短信管理类。结构图编程实现需要交互的类public class ContactsManager { private String contacts; public Contacts_某软件公司为新开发的智能手机控制与管理软件提供了一键备份功能,通过该功能可以

走出MFC子类化的迷宫_vs怎么用mfc画出迷宫-程序员宅基地

文章浏览阅读1k次。本文转自：http://www.99inf.net/SoftwareDev/VC/22322.htmWindows给我们或是说给它自己定义了许多丰富的通用控件，如：Edit、ComboBox 、ListBox……等，这些控件功能丰富，能为我们开发工作带来极大方面，试想：我们单单是自己实现一个EDIT控件是多么的艰难！但是，在实际开发中还是有些情况这些标准控件也无能为力，比如：在我们的应用中要求_vs怎么用mfc画出迷宫

【矩阵学习】Jacobian矩阵和Hessian矩阵_海森矩阵判断是否为驻点-程序员宅基地

文章浏览阅读6.4k次，点赞5次，收藏42次。【矩阵学习】Jacobian矩阵和Hessian矩阵Jacobian 矩阵Jacobian 行列式功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchar..._海森矩阵判断是否为驻点

回顾HTTP协议和报文_协议报文和数据报文的区别-程序员宅基地

文章浏览阅读487次。计算机网络这门课是在大二上的时候是作为主修课，当然上这门课的时候有点划水了。后来接触到校招这方面，下定决心恶补计算机网络这方面的知识，就买了一本《计算机网络:自顶向下的方法》研习。如果不想读谢希仁那版书（毕竟晦涩难懂），又想比较系统的了解计算机网络这方面知识，这本书真的非常推荐。划重点：简单回顾一下HTTP及其报文。1、什么是HTTP协议？HTTP 超文本传输协议 (HTTP-Hypertext transfer protocol)，是一个属于应用层的面向对象的协议，由于其简捷、快速的方式，适用_协议报文和数据报文的区别

Flash / Flex Tutorial - How to Create a crossdomain.xml file-程序员宅基地

文章浏览阅读535次。Flash / Flex Tutorial - How to Create a crossdomain.xml file.This brief tutorial will teach you how to create a crossdomain.xml file so that you can access files and information from outside domains

Redis Sentinel机制与用法[转]_sentinel: redis://10.43.19.251:26379 频繁 added down-程序员宅基地

文章浏览阅读1.3k次。Redis Sentinel 机制与用法（一）概述Redis-Sentinel是Redis官方推荐的高可用性(HA)解决方案，当用Redis做Master-slave的高可用方案时，假如master宕机了，Redis本身(包括它的很多客户端)都没有实现自动进行主备切换，而Redis-sentinel本身也是一个独立运行的进程，它能监控多个master-slave集群，发现master宕机后能进行自动_sentinel: redis://10.43.19.251:26379 频繁 added down

推荐文章

热门文章

相关标签