２００８年１２月 北京联合大学学报（自然科学版） Ｄｅｃ．２ｏ０８ 第２２卷第４期总７４期 Ｊｏｕｒｎａｌ ｏｆ Ｂｅｉｊｉｎｇ Ｕｎｉｏｎ Ｕｎｉｖｅｒｓｉｔｙ（Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅｓ） Ｖｏ１．２２ Ｎｏ．４ Ｓｕｍ Ｎｏ．７４ 利用 Ｃ ａｕｃｈｙ—Ｓｃｈｗａｒｚ不 等式估计回归系数 常广平，李林杉，刘大莲 （北京联合大学基础部，北京 １００１０１） ［摘 要］ 根据随机变量情形下的Ｃａｕｃｈｙ—Ｓｅｈｗａｒｚ不等式，推广得到关于二阶矩的推论：随机变 量Ｘ、Ｙ的方差均存在且不为零，如果随机变量Ｘ、Ｙ依概率１具有线性关系Ｐ｛Ｙ＝ａＸ＋ｂ｝＝１， 则Ⅱ＝旦 若 ，６：Ｅｌ，一。ＥＸ，同时给出线性回归问题中回归系数的一种矩估计法。 ［关键词］ Ｃａｕｃｈｙ．Ｓｃｈｗａｒｚ不等式；协方差不等式；回归系数 ［中图分类号］ Ｏ ２１２．１ ［文献标识码］ Ａ ［文章编号］ １００５—０３１０（２００８）０４—００７７—０３ Ｕｓｅ Ｃａｕｃｈｙ—Ｓｃｈｗａｒｚ Ｉｎｅｑｕａｌｉｔｙ Ｅｓｔｉｍａｔｅｄ Ｒｅｇｒｅｓｓｉｏｎ Ｃｏｅｆｉｆｃｉｅｎｔ ＣＨＡＮＧ Ｇｕａｎｇ—ｐｉｎｇ，ＬＩ Ｌｉｎ・ｓｈａｈ，Ｌｉｕ Ｄａ・ｌｉａｎ （Ｂａｓｉｃ ｃｏｕｒｓｅｓ Ｄｅｐａｒｔｍｅｎｔ ｏｆ Ｂｅｉｊｉｎｇ Ｕｎｉｏｎ Ｕｎｉｖｅｒｓｉｙｔ，Ｂｅｉｊｉｎｇ １００１０１，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｆｒｏｍ ｔｈｅ Ｃａｕｃｈｙ．Ｓｅｈｗａｒｚ ｉｎｅｑｕ￣ｉｔｙ ｉｎ ｆｏｒｍ ｏｆ ｒａｎｄｏｍ ｖａｒｉａｂｌｅ，ｔｗｏ ｒｅｓｕｌｔｓ ｏｆ Ｓｅｃｏｎｄ’ｏｒｄｅｒ ｍｏｍｅｎｔ ａｒｅ ０ｂｔａｉｎｅｄ：ｖａｒｉａｎｃｅｓ ０ｆ ｒａｎｄ０ｍ ｖａｄａｂｌｅ Ｘ、Ｙ ｅｘｉｓｔｓ ａｎｄ ｎｏｔ ０，ｉｆ ｔｈｅ ｐｒｏｂａｂｉｌｉｔｙ ｏｆ Ｘ、Ｙ ｈａｓ ｌｉｎｅａｒ ｒｅｌａｔｉｏｎｓｈｉｐ Ｐ｛Ｙ＝ ＋６｝ ｓ１， 。＝ ，６－ ｎＥＸ． ｈｅ—ａ ｍｅｔ ｔｉ…ｇ ｒｅ ｉｏｎ ｃｏｅｆｆｉｃｉｅｎｔ ｉＳ ａｌｓｏ ｏｂｔａｉｎｅｄ． Ｋｅｙ ｗｏｒｄｓ：Ｃａｕｃｈｙ—Ｓｅｈｗａｒｚ ｉｎｅｑｕａｌｉｔｙ，ｃｏｖａｒｉａｎｃｅ ｉｎｅｑｕａｌｉｔｙ，ｒｅｇｒｅｓｓｉｏｎ ｃｏｅｆｆｉｃｉｅｎｔ Ｃａｕｃｈｙ．Ｓｅｈｗａｒｚ不等式的离散形式为 （ＥＸＹ） ≤ＥＸ Ｅｙ２ ｎ ｎ ｎ 一∑ａｉｂ。） 定成立。且等号成立的充要条件为存在常数ａ， ≤（∑。：）（∑６ ），连续形式为 ｉ＝１ ｉ＝１ 使得Ｐ｛Ｙ＝ａＸ｝．１。 ６ Ｉ （ ）ｇ ）ｄｘ Ｉ ≤ ｊ’ 厂 （ ）ｄ 』 ｇ２（ ）ｄ ，在概 证明设ｇ（ｔ）＝Ｅ（Ｙ＋ｔＸ） ＝Ｅ（Ｘ ）ｔ ＋ ２Ｅ（ＸＹ）ｔ＋Ｅ（ｙ２） 率论中的Ｃａｕｃｈｙ—Ｓｅｈｗａｒｚ不等式形式为（ＥＸＹ） ≤ Ｅｙ２。即 对一切ｔ都有ｇ（ｔ）≥０，又因为ＥＸ ＞０，所以 （ｔ）无实根或只有一个实根，所以它的判别式Ａ≤ ｙ）ｄｘｄｙ］ ≤ ０，由二次函数性质知判别式 ｌ ，（ ）ｄｘｌ ｙ２ｆ（ｙ）ｄｙ △：４（ＥＸＹ） 一４Ｅ（Ｘ ）Ｅ（ ）≤０ 即 可用判别式法证明这个不等式。 （ ｙ） ≤ＥＸ Ｅｙ２ 定理设随机变量 、ｙ的二阶矩均存在且不 等号成立的充要条件是存在ｔ。，使ｇ（ｔ。）＝０，即 为零，则不等式 Ｅ（ｙ＋ｔ。Ｘ） ＝０ ［收稿Ｅｔ期］２００８—０８—１０ ［作者简介］常广平（１９７４～），女，山西榆次人，理学硕士，北京联合大学基础部副教授，从事高等数学与数学教育研 究。 ７８ 北京联合大学学报（自然科学版） ２００８年１２月 又由 Ｅ（ｙ＋ｔ。 ） ＝Ｄ（１，＋ｔ０ Ｘ）＋［Ｅ（ｙ＋ｔｏ Ｘ）］ 从而有 Ｄ（ｙ＋ｔ０ Ｘ）＝０，Ｅ（ｙ＋ｔｏ Ｘ）＝０ 由方差性质知 Ｐ（Ｙ＋ｔ０ Ｘ＝０）＝１ 令。＝一ｔ。，则有等号成立的充要条件是 Ｐ｛Ｙ＝ａＸ｝＝１ 在ＥＸ 或ＥＹ 等于零时，Ｃａｕｃｈｙ—Ｓｃｈｗａｒｚ不等 式也成立，不过此时两端都为零。 应用Ｃａｕｃｈｙ—Ｓｃｈｗａｒｚ不等式可推出协方差不等 式。 （１）若随机变量 、ｙ的方差均存在，则不等式 Ｉ ｃｏｙ（Ｘ，Ｙ）Ｉ≤ ・ 一定成立，等号成立的 充要条件是Ｐ｛Ｙ＝ａＸ＋６ １。 证明设Ｘ ＝Ｘ—ＥＸ，Ｙ。＝Ｙ—ＥＹ，则Ｘ 、Ｙ 的二阶矩均存在，由Ｃａｕｃｈｙ．Ｓｃｈｗａｒｚ不等式有 （ＥＸ Ｙ ） ≤ＥＸ 即 ［Ｅ（Ｘ—ＥＸ）（Ｙ—ＥＹ）］ ≤ Ｅ（Ｘ—ＥＸ） Ｅ（Ｙ—ＥＹ） 即 ｅｏｖ（Ｘ，ｙ） ≤ＤＸ・ＤＹ Ｉ ｃｏｖ（ ，ｌ，）Ｉ≤ｖ厂 ・￣／Ｉ 等号成立的充要条件是 Ｐ｛Ｙｌ＝ａＸ ｝＝ｌ 而 Ｐ｛Ｙ—ＥＹ＝０（Ｘ—ＥＸ）｝＝１ Ｐ｛Ｙ＝ａＸ—ａＥＸ＋ＥＹ｝：１ 令 ｂ＝一ｎＥＸ＋ＥＹ 则等号成立的充要条件是 Ｐ｛Ｙ＝ａＸ＋ｂ｝：１ （２）若随机变量 、ｙ的方差均存在，则不等式 Ｉ ｃｏｙ（Ｘ，Ｙ）Ｉ≤Ｅ Ｉ（Ｘ—ＥＸ）（Ｙ—ＥＹ）ｌ≤ 一定成立，等号成立的充要条件是Ｐ｛Ｙ＝ａＸ＋ｂ｝ ＝１ ｏ 证明 设 Ｉ Ｘ—ＥＸ Ｉ＝Ｘ１，ｌ Ｙ—ＥＹ Ｉ＝Ｙ１ 则不等式右边如（１）可证， 左边因为 ｅｏｖ（Ｘ，Ｙ）＝Ｅ（Ｘ—ＥＸ）（Ｙ—ＥＹ） 所以 ｃ。ｖ（ｘ，ｙ）１：ｊ ｆ ｆ （ —Ｅｘ）（），一Ｅｙ）． ，（ ，ｙ）ｄｘｄｙ ｌ≤ ｒ ｒ （ —ＥＸ）（），一ＥＹ）ｆ（ ，ｙ）Ｉ ｄｘｄｙ： Ｊ一＊Ｊ一 Ｅ Ｉ（Ｘ—ＥＸ）（Ｙ—ＥＹ）Ｉ 所以 Ｉｅｏｖ（Ｘ，Ｙ）｝≤Ｅ Ｉ（Ｘ—ＥＸ）（Ｙ—ＥＹ）ｌ 由Ｃａｕｃｈｙ—Ｓｅｈｗａｒｚ不等式的证明过程可得出下面的 推论，从而得到一种回归系数的矩估计方法。 推论１ 设随机变量Ｘ、Ｙ的二阶矩均存在且 不为零，如果随机变量 、ｙ依概率１具有线性关 系尸｛Ｙ＝ｎｘｆ＿１， ＝ 。 证明 由上述定理的证明过程可知，如果随机 变量Ｘ、Ｙ依概率１具有线性关系Ｐ｛Ｙ＝ａＸ｝－１， 其充分必要条件为二次函数 ｇ（ｔ）＝Ｅ（Ｙ＋ｔＸ） ：Ｅ（Ｘ ）ｔ ＋ ２Ｅ（ＸＹ）ｔ＋Ｅ（ ） 的判别式Ａ：０，即ｇ（ｔ）只有一个实根。所以存在 唯一一点ｔ ｇ（ｔ０）＝Ｅ（ｙ＋ｔ０ Ｘ） ＝０ 而 ｇ（一０）＝Ｅ（Ｙ—ａＸ） ＝０ 所以ｔ。＝一ｆｔ，此时ｇ（ｔ）取得最小值 ｇ（ｔ０）＝Ｅ（Ｙ—ａＸ） ＝０ 又由二次函数盼性质知最／Ｊ、值点ｔｏ＝一 ， 所以。＝ 。 推论２设随机变量 、ｙ的方差均存在且不 为零，如果随机变量 、ｙ依概率１具有线性关系 Ｐ｛Ｙ＝ａＸ＋６｝＝１ 则 Ｅ（Ｘ—ＥＸ）（Ｙ—ＥＹ） 。 —— 面 ＿一 ６＝ＥＹ—ａＥＸ 证明设Ｘ１＝Ｘ—ＥＸ，Ｙ ＝Ｙ～ＥＹ，贝０ Ｘ。、Ｙ１ 的二阶矩均存在，因为 、ｙ依概率１具有线性关 系Ｐ｛Ｙ＝ａＸ＋６｝＿１，所以有 Ｐ｛（ｙ ＋ＥＹ）＝ｎ（ 。＋ＥＸ）＋６｝＝１ 整理得 Ｐ｛Ｙｌ＝ａＸ１＋０Ｅ ＋６一ＥＹ｝：１ 第２２卷第４期 常广平等：利用Ｃａｕｃｈｙ－Ｓｃｈｗａｒｚ不等式估计回归系数 ７９ 由于 则系数ｏ、ｂ的矩估计量为 ＥＹ＝ＧＥＸ＋ｂ （置一 ）（ 一＿ｙ） 所以 Ｐ｛Ｙ。＝ａＸ。｝＝１ ｌ＂ｔ ∑（Ｘ 一 ） 由推论（１）可知ｎ＝ ＥＸ ｌ Ｙ１，即 ∑（ 一 ）（ 一＿ｙ） Ｅ（Ｘ—ＥＸ）（Ｙ—ＥＹ） Ｅ（Ｘ—ＥＸ） ∑（置 ） ｚｂ＝ＥＹ—ａＥＸ ｌ 根据上述推论１、２可知，在实际应用当中若 ６：＿ｙ一三 、ｙ几乎具有线性关系时，用 的线性函数ａＸ＋ 同时，推论１、２的结论与一元线性回归模型Ｙ：ａｘ， ｂ来近似替代或预测ｙ，系数ｎ、ｂ应为 ＋ｂ＋ｅ，￡～Ｎ（Ｏ，口 ）中，根据最小二乘法求得的系 Ｅ（Ｘ—ＥＸ）（Ｙ—ＥＹ） ＣＯＹ（Ｘ，Ｙ） 数ｏ、ｂ的估计量三＝≥、占＝ｙ—Ｏ一，Ｊｇ一致。 “一 Ｅ（ —Ｅ ） 一 Ｄ（Ｘ） ｐ ｂ＝ＥＹ一，ｚＥＸ ［参考文献］ ［１］胡细宝，孙洪祥，王丽霞．概率论数理统计随机过程［Ｍ］．北京：北京邮电大学出版社，２００４． ［２］廖昭懋，杨文礼．概率论与数理统计［Ｍ］．北京：北京师范大学出版社，１９８９． ［３］龙永红．概率论与数理统计［Ｍ］．第２版．北京：高等教育出版社，２００４． ［４］ 周誉达．概率论与数理统计［Ｍ］．北京：中国人民大学出版社，２００２． ［５］林琦煜．Ｃａｕｃｈｙ．Ｓｅｈｗａｒｚ不等式之本质与意义［Ｊ］．数学传播，２０００，２６（１）：２６—４２． ［６］李娟，崔文泉．Ｃａｕｃｈｙ．Ｓｃｈｗａｒｚ不等式的推广［Ｊ］．大学数学，２００６，２２（６）：１４４—１４７． ［７］ 叶嘉眉，杨露．Ｃａｕｃｈｙ—Ｓｅｈｗａｒｚ不等式的推广及应用［Ｊ］．成都大学学报：自然科学版，２００３，２２（４），２４—２８ （责任编辑李亚青） （上接第７２页） ［参考文献］ ［１］谢金星．２０００“网易杯”全国大学生数学建模竞赛试题［ＥＢ／ＯＬ］．２０００．０９．０１［２００８—０１—０５］．ｈｔｔｐ：／／ｗｗｗ．ｍｅｍ．ｅｄｕ．ｃｎ／ ＤＥＦＡＵＬＴｃ．ＨＴＭ． ［２］韩轶平，余杭，刘威，等．ＤＮＡ序列的分类［Ｊ］．数学的实践与认识，２００１（１）：３８—４５． ［３］周玉元，周铁军．ＤＮＡ序列分类的Ｆｉｓｈｅｒ判别法［Ｊ］．湖南农业大学学报：自然科学版，２０ｏ３（５）：４３７—４４０． ［４］ 顾俊华，盛春楠．模糊聚类分析方法在ＤＮＡ序列分类中的应用［Ｊ］．计算机仿真，２００５（１０）：１０８—１１１． ［５］冯涛，康黼雯，韩小军，等．关于ＤＮＡ序列分类问题的模型［Ｊ］．数学的实践与认识，２００１（１）：２６—３０． ［６］李银山，杨春燕，张伟．ＤＮＡ序列分类的神经网络方法［Ｊ］．计算机仿真，２００３（２）：６４—６８． ［７］ 吕金翅，马小龙，曹芳，等．ＤＮＡ序列分类的数学模型［Ｊ］．数学的实践与认识，２００１（１）：４６—５３． ［８］汤诗杰，周亮，王晓玲，等．ＤＮＡ序列的分类模型［Ｊ］．数学的实践与认识，２００１（１）：１９—２５． ［９］ Ｖａｐｎｉｋ Ｖ．１’ｈｅ ｎａｔｕｒｅ ｏｆ ｓｔａｔｉｓｔｉｃａｌ ｌｅａｒｎｉｎｇ ｔｈｅｏｒｙ［Ｍ］．张学工，译．统计学习理论的本质［Ｍ］．北京：清华大学出版社，２０００． ［１０］邓乃扬，田英杰．数据挖掘中的新方法一支持向量机［Ｍ］．北京：科学出版社，２００４． （责任编辑李亚青）
