距離の合計値が最小であれば、なんとなくそれっぽくなりそうですよね! 「距離を求めたい」…これはデータの分析で扱う"分散"の記事にも出てきましたね。 距離を求めるときは、 絶対値を用いる方法 2乗する方法 この2つがありました。 今回利用するのは、 「2乗する」 方法です。 (距離の合計の 最小 値を 二乗 することで求めるから、 「 最小二乗 法」 と言います。 手順2【距離を求める】 ここでは実際に距離を数式にしていきましょう。 具体的な例で考えていきたいので、ためしに $1$ 個目の点について見ていきましょう。 ※左の点の座標から順に $( \ x_i \, \ y_i \)$( $1≦i≦10$ )と定めます。 データの点の座標はもちろ $( \ x_1 \, \ y_1 \)$ です。 また、$x$ 座標が $x_1$ である直線上の点(図のオレンジの点)は、 $y=ax+b$ に $x=x_1$ を代入して、$y=ax_1+b$ となるので、$$(x_1, ax_1+b)$$と表すことができます。 座標がわかったので、距離を2乗することで出していきます。 $$距離=\{y_1-(ax_1+b)\}^2$$ さて、ここで今回求めたかったのは、 「すべての点と直線との距離」であることに着目すると、 この操作を $i=2, 3, 4, …, 10$ に対しても 繰り返し行えばいい ことになります。 そして、それらをすべて足せばよいですね! ですから、今回最小にしたい式は、 \begin{align}\{y_1-(ax_1+b)\}^2+\{y_2-(ax_2+b)\}^2+…+\{y_{10}-(ax_{10}+b)\}^2\end{align} ※この数式は横にスクロールできます。(スマホでご覧の方対象。) になります。 さあ、いよいよ次のステップで 「平方完成」 を利用していきますよ! 回帰分析の目的｜最小二乗法から回帰直線を求める方法. 手順3【平方完成をする】 早速平方完成していきたいのですが、ここで皆さん、こういう疑問が出てきませんか? 変数が2つ (今回の場合 $a, b$)あるのにどうやって平方完成すればいいんだ…? 大丈夫。 変数がたくさんあるときの鉄則を今から紹介します。 1つの変数のみ変数 としてみて、それ以外の変数は 定数扱い とする! これは「やり方その $1$ (偏微分)」でも少し触れたのですが、 まず $a$ を変数としてみる… $a$ についての2次式になるから、その式を平方完成 つぎに $b$ を変数としてみる… $b$ についての2次式になるから、その式を平方完成 このようにすれば問題なく平方完成が行えます!
ということになりますね。 よって、先ほど平方完成した式の $()の中身=0$ という方程式を解けばいいことになります。 今回変数が2つなので、()が2つできます。 よってこれは 連立方程式 になります。 ちなみに、こんな感じの連立方程式です。 \begin{align}\left\{\begin{array}{ll}a+\frac{b(x_1+x_2+…+x_{10})-(y_1+y_2+…+y_{10})}{10}&=0 \\b-\frac{10(x_1y_1+x_2y_2+…+x_{10}y_{10})-(x_1+x_2+…+x_{10})(y_1+y_2+…+y_{10}}{10({x_1}^2+{x_2}^2+…+{x_{10}}^2)-(x_1+x_2+…+x_{10})^2}&=0\end{array}\right. \end{align} …見るだけで解きたくなくなってきますが、まあ理論上は $a, b$ の 2元1次方程式 なので解けますよね。 では最後に、実際に計算した結果のみを載せて終わりにしたいと思います。 手順5【連立方程式を解く】 ここまで皆さんお疲れさまでした。 最後に連立方程式を解けば結論が得られます。 ※ここでは結果だけ載せるので、 興味がある方はぜひチャレンジしてみてください。 $$a=\frac{ \ x \ と \ y \ の共分散}{ \ x \ の分散}$$ $$b=-a \ ( \ x \ の平均値) + \ ( \ y \ の平均値)$$ この結果からわかるように、 「平均値」「分散」「共分散」が与えられていれば $a$ と $b$ を求めることができて、それっぽい直線を書くことができるというわけです! 最小二乗法とは？公式の導出をわかりやすく高校数学を用いて解説！【平方完成の方法アリ】 | 遊ぶ数学. 最小二乗法の問題を解いてみよう! では最後に、最小二乗法を使う問題を解いてみましょう。 問題1. $(1, 2), (2, 5), (9, 11)$ の回帰直線を最小二乗法を用いて求めよ。 さて、この問題では、「平均値」「分散」「共分散」が与えられていません。 しかし、データの具体的な値はわかっています。 こういう場合は、自分でこれらの値を求めましょう。 実際、データの大きさは $3$ ですし、そこまで大変ではありません。 では解答に移ります。 結論さえ知っていれば、このようにそれっぽい直線(つまり回帰直線)を求めることができるわけです。 逆に、どう求めるかを知らないと、この直線はなかなか引けませんね(^_^;) 「分散や共分散の求め方がイマイチわかっていない…」 という方は、データの分析の記事をこちらにまとめました。よろしければご活用ください。 最小二乗法に関するまとめ いかがだったでしょうか。 今日は、大学数学の内容をできるだけわかりやすく噛み砕いて説明してみました。 データの分析で何気なく引かれている直線でも、 「きちんとした数学的な方法を用いて引かれている」 ということを知っておくだけでも、 数学というものの面白さ を実感できると思います。 ぜひ、大学に入学しても、この考え方を大切にして、楽しく数学に取り組んでいってほしいと思います。
大学1,2年程度のレベルの内容なので,もし高校数学が怪しいようであれば,統計検定3級からの挑戦を検討しても良いでしょう. なお,本書については,以下の記事で書評としてまとめています.
分母が$0$(すなわち,$0$で割る)というのは数学では禁止されているので,この場合を除いて定理を述べているわけです. しかし,$x_1=\dots=x_n$なら散布図の点は全て$y$軸に平行になり回帰直線を描くまでもありませんから,実用上問題はありませんね. 最小二乗法の計算 それでは,以上のことを示しましょう. 行列とベクトルによる証明 本質的には,いまみた証明と何も変わりませんが,ベクトルを用いると以下のようにも計算できます. この記事では説明変数が$x$のみの回帰直線を考えましたが,統計ではいくつもの説明変数から回帰分析を行うことがあります. この記事で扱った説明変数が1つの回帰分析を 単回帰分析 といい,いくつもの説明変数から回帰分析を行うことを 重回帰分析 といいます. 説明変数が$x_1, \dots, x_m$と$m$個ある場合の重回帰分析において,考える方程式は となり,この場合には$a, b_1, \dots, b_m$を最小二乗法により定めることになります. しかし,その場合には途中で現れる$a, b_1, \dots, b_m$の連立方程式を消去法や代入法から地道に解くのは困難で,行列とベクトルを用いて計算するのが現実的な方法となります. このベクトルを用いた証明はそのような理由で重要なわけですね. 決定係数 さて,この記事で説明した最小二乗法は2つのデータ$x$, $y$にどんなに相関がなかろうが,計算すれば回帰直線は求まります. しかし,相関のない2つのデータに対して回帰直線を求めても,その回帰直線はあまり「それっぽい直線」とは言えなさそうですよね. 最小二乗法の意味と計算方法 - 回帰直線の求め方. 次の記事では,回帰直線がどれくらい「それっぽい直線」なのかを表す 決定係数 を説明します. 参考文献 改訂版 統計検定2級対応 統計学基礎 [日本統計学会 編/東京図書] 日本統計学会が実施する「統計検定」の2級の範囲に対応する教科書です. 統計検定2級は「大学基礎科目(学部1,2年程度)としての統計学の知識と問題解決能力」という位置付けであり,ある程度の数学的な処理能力が求められます. そのため,統計検定2級を取得していると,一定以上の統計的なデータの扱い方を身に付けているという指標になります. 本書は データの記述と要約 確率と確率分布 統計的推定 統計的仮説検定 線形モデル分析 その他の分析法-正規性の検討,適合度と独立性の$\chi^2$検定 の6章からなり,基礎的な統計的スキルを身につけることができます.
1 \end{align*} したがって、回帰直線の傾き $a$ は 1. 1 と求まりました ステップ 6:y 切片を求める 最後に、回帰直線の y 切片 $b$ を求めます。ステップ 1 で求めた平均値 $\overline{x}, \, \overline{y}$ と、ステップ 5 で求めた傾き $a$ を、回帰直線を求める公式に代入します。 \begin{align*} b &= \overline{y} - a\overline{x} \\[5pt] &= 72 - 1. 1 \times 70 \\[5pt] &= -5. 0 \end{align*} よって、回帰直線の y 切片 $b$ は -5. 0(単位:点)と求まりました。 最後に、傾きと切片をまとめて書くと、次のようになります。 \[ y = 1. 1 x - 5. 0 \] これで最小二乗法に基づく回帰直線を求めることができました。 散布図に、いま求めた回帰直線を書き加えると、次の図のようになります。 最小二乗法による回帰直線を書き加えた散布図
○ 参考:反抗期の基本的な対処法はこちらをどうぞ。 反抗期の対処法 小学生・中学生の反抗期にどう対応するか? 反抗期の子供への上手な関わり方・親の接し方 | 反抗期の対応. どこかで聞いたようなタイトル・・・まさにそのとおりでしたね(笑) 読者との距離が近いのは、このブログの良さかもしれません。 私もそう思うタイプですから、言う気持ちは分かります。 実際、そういうサイクルに持っていったほうが効率も学習効果も高いですからね。 反抗期に合わせた関わり方・接し方 ただ、分かっていても体が動かない人が多いのも現実ですです。 特に嫌なことについてはそうなる子供が多いです。 これは大人も同じで、新卒教師の研修時や仕事のできない教師(失礼! )を見ていた時も常々感じていました。 俗に言う「できる生徒(親・教師・社員)はできない生徒(親・教師・社員)の気持ちが分からない」ですね(笑) ですから、そこをぐっと我慢(? )して、相手側の気持ちに寄り添うことから始めると、指導、しつけ、研修といったものはスムーズに進みやすくなります。 できる人間ができない人間に指導する際の「最初の関門」と言えるかもしれません。 毎日コツコツ、が望めない場合、じゃあ出来るときにまとめてやればいい、みたいなことは、あえて言わないほうがいいでしょうか!? 今回は 「こうすればいいと思うのに・・・」と感じるときの、子供への関わり方(提案のしかた) として、少し一般化した形で話をしますね。 中学生の子供に対して何らかの提案をする時は、すでに書いたように「できない側の気持ちに寄り添う」ことがとても大事な前提になります。 ですから、この場合ですと「余裕を持って先にやるのも、時間のある時にまとめてやるのもどちらも難しく、時間まで追い込まれないとできない!(または追い込まれてもできない!