摘自 scikit-learn 官方文档

交叉验证

交叉验证 (cross-validation) 是机器学习过程中避免过拟合 (overfitting) 以及优化模型参数的一个非常有效的措施。借助 scikit-learning Python机器学习库，可以非常方便地对样本进行处理、分组，以实现交叉验证。

计算方法（数值分析）课程涉及部分线性代数内容，故对本科一年级所学的线性代数进行了复习。

摘自：

• 百度百科-逆矩阵
• 百度百科-正定矩阵
• 百度百科-矩阵特征值

矩阵的逆

• 定义： 如果矩阵\(\boldsymbol{A}\)和\(\boldsymbol{B}\)满足以下关系式： \[ \boldsymbol{AB}=\boldsymbol{BA}=\boldsymbol{E} \] 称\(\boldsymbol{A}\)和\(\boldsymbol{B}\)互为逆矩阵，记\(\boldsymbol{B}=\boldsymbol{A}^{-1}\)。

摘自：

• https://www.jianshu.com/p/ae5157c26af9
• https://blog.csdn.net/u010451580/article/details/51178225
• http://geatpy.com/index.php/ea_introduction/

遗传算法是一种模拟达尔文物种进化理论的算法，算法很新颖独特。

原理

遗传算法模拟了自然界物竞天择的生物进化过程。

它的主要过程是由代表问题的潜在解集的一个种群 (population) 开始。种群由经过基因 (gene) 编码 (coding) 的一定数目的个体 (individual) 组成。每个个体实际上是染色体 (chromosome) 带有特征的实体。

随后以面为单位搜索，通过随机初始化种群，并按照适者生存、优胜劣汰的原理，主带逐代 (generation) 演化产生越来越好的近似解。在每一代中，根据个体的适应度 (fitness) 大小来选择 (selection) 个体，并借助于自然遗传学中的遗传算子 (genetic operators) 进行组合交叉 (crossover) 和变异 (mutation)，产生出新的解集的种群。