我们以线性 回归 中的一些概念开始关于稳健 回归 的讨论。 残差： 预测值（基于 回归 方程）与实际观察值之间的差。 离群值： 在线性 回归 中，离群值是具有大量残差的观察值。换句话说，鉴于其对预测变量的价值，这是一个因变量不寻常的观察结果。离群值可能表示样本特性，或者可能表示数据输入错误或其他问题。 杠杆： 对预测变量具有极高价值的观察点具有很高的杠杆作用。杠杆作用是对自变量偏离均值的程度的度量。高杠杆点可能会对 回归 系数的估计产生很大影响。 影响： 如果删除观察结果会显着改变 Warning: glm.fit: algorithm did not converge Warning: glm.fit: fitted probabilities numerically 0 or 1 occurred Warning messages: 1: glm.fit:演算法沒有聚合 2: glm.fit:拟合概率算出來是数值零或一 glm.fit:演算法沒有聚合 对于第一个警告1: glm.fit:演算法沒有 ESL、 PRML 和MLAPP这三个缩写都与机器学习（Machine Learning）有关。 ESL是指《统计学习基础》（The Elements of Statistical Learning）一书，该书由斯坦福大学的教授和学者共同编写，被认为是机器学习领域的经典著作之一。该书介绍了各种统计学习方法，涵盖了监督学习、无监督学习以及半监督学习等多个方面。 PRML 则是指《模式识别与机器学习》（Pattern Recognition and Machine Learning）一书，由机器学习领域的知名学者Christopher M. Bishop所著。该书全面介绍了机器学习中的各种方法和技术，包括基础的概率论知识、决策树、神经网络、支持向量机等高级算法。 最后，MLAPP则是指《机器学习：一种概率建模方法》（Machine Learning: A Probabilistic Perspective），该书由机器学习领域的知名学者Kevin P. Murphy所著。该书介绍了基于概率模型的机器学习方法，讲解了从贝叶斯定理、矩阵分解、隐马尔可夫模型（HMM）到高斯混合模型（GMM）、因子分析等多个方面的知识。 总之，这三本书都是机器学习领域的重要参考书籍，对于学习和研究机器学习技术的人来说，都是不可或缺的参考资料。 ### 回答2： ESL、 PRML 和MLAPP都是机器学习领域常用的教材。ESL是The Elements of Statistical Learning的缩写，由Trevor Hastie、Robert Tibshirani和Jerome Friedman合著，首次出版于2001年。这本书是统计学家写给计算机科学家的机器学习经典入门教材。 PRML 是Pattern Recognition and Machine Learning的缩写，由Christopher Bishop撰写，于2006年首次出版。 PRML 的内容分为二部分：模式识别和机器学习，全书通过实例详细介绍了许多概念与算法的实现和优化。 MLAPP是Machine Learning: A Probabilistic Perspective 的缩写，由Kevin Murphy所写，于2012年首次出版。与之前两本书不同的是，MLAPP将概率论贯穿了整本书，采用了广泛的实例和实际应用，是一本现代化的、重视概率与贝叶斯方法的机器学习教材。 综合来看，ESL、 PRML 和MLAPP都是非常优秀的机器学习教材，它们都对机器学习的基本概念和算法有深入的阐述和介绍，并可供初学者、中级者以及专业从业者参考使用。需要根据自己的需要和背景去选择使用哪一本教材。