机器学习概述
机器学习（ML）是一门利用经验和计算技术模拟人类学习过程的学科，其核心是数据知识和规律的学习。数据是机器学习不可或缺的基石，通过收集数据并构造特征和标签，可以进行监督学习和无监督学习。
- 监督学习：利用已知输入和对应标签的数据集训练模型，学习从输入到输出的映射关系，包括分类任务（如房价高/低预测）和回归任务（如房价预测）。
- 无监督学习：对未标注数据进行建模分析，实现相应的学习任务，如聚类分析（如K-means聚类算法）。
经典算法
机器学习中有许多经典算法，每种算法适用于不同的任务和数据类型。
- 线性回归：通过找到最佳拟合直线来模拟因变量和自变量之间的关系，适用于回归任务。其优势在于模型简洁、计算效率高、可解释性强；但局限性在于无法处理非线性关系。
- 支持向量机（SVM）：通过构建一个能够最大化两类样本间隔的超平面来进行分类，适用于分类任务。其优势在于能够有效处理非线性问题，但计算成本较大。
- K-means聚类算法：依据样本数据间的相似性将数据集划分为若干独立的子集，适用于无监督学习中的聚类任务。其优势在于直观性强、计算高效、实现简便；但局限性在于对初始聚类中心的依赖性强、容易陷入局部最优解、聚类数K的预设问题。
模型评估与选择
模型评估与选择是机器学习流程中至关重要的一步，其目标是选择泛化能力强的模型。
- 经验误差与过拟合：经验误差是指模型在训练集上的误差，过拟合是指模型在训练集上表现良好但在测试集上表现差。解决方法包括增加模型复杂度、增加训练数据等。
- 评估方法：留出法和交叉验证法是常用的模型评估方法。留出法将数据集划分为训练集和测试集，交叉验证法通过多次划分数据集并迭代训练测试过程，提供更为稳健的评估结果。
- 性能度量：回归任务的性能度量包括均方误差（MSE）等，分类任务的性能度量包括错误率、精度、查准率、查全率、查准率-查全率曲线（P-R曲线）和ROC曲线等。
当代机器学习简介
当代机器学习领域发展迅速，涌现出许多新的技术和方法。
- 深度学习：模仿人脑的结构与功能，使用神经网络从数据中自动提取特征，擅长处理大规模、复杂的非结构化数据。常见的深度学习模型包括卷积神经网络（CNN）、循环神经网络（RNN）、Transformer和生成对抗网络（GAN）等。
- 强化学习：通过试错的方式让智能体在环境中学会执行任务，智能体通过与环境的不断交互，获得反馈（奖励或惩罚），以优化其决策策略。
- 图神经网络（GNN）：用于处理图结构数据，能够捕捉图中复杂的节点间关系，常见模型包括图卷积网络（GCN）、图注意力网络（GAT）等。
- 联邦学习：一种分布式机器学习方法，允许多个参与方在不共享数据的前提下协同训练模型，保护数据隐私的同时提高模型性能。
- 迁移学习：将源领域中学到的知识应用到目标领域，可以有效减少对大规模数据的依赖，常见类型包括基于特征的迁移、基于参数的迁移和基于关系的迁移等。
