電気系大学生の自習室

最小二乗法

測定値に誤差があるとき、残差の二乗和を最小にする近似解を求める。列独立のAでは正規方程式が一意解を持つ。

現象から理解する:何が起こり、なぜ起こる?

測定値に誤差があるとき、残差の二乗和を最小にする近似解を求める。列独立のAでは正規方程式が一意解を持つ。

現象を表す公式・定義

ATAx=ATb\displaystyle A^\mathsf{T}A\mathbf x=A^\mathsf{T}\mathbf b

この単元は内容確認中です。以下の式は学習の出発点であり、公式を適用できる条件を例題・教科書などで確認してください。

考え方の出発点:観測値1,2,4を1つの定数aで近似する。Σ(yi−a)²の最小化では平均a=(1+2+4)/3=7/3。

検討すべき条件:完全一致の解がなくても誤差を最小化できる。

現象を図で理解する

最小二乗法:概念の図xyv₁v₂
概念:ベクトル・線形変換の幾何学的な模式図。理解のための模式図であり、設問条件の厳密な作図ではありません。

模式図は法則を理解するための補助です。実際に代入する数値や条件は、公式と問題文で確認してください。

式が成り立つ理由・導出の流れ

冒頭に示した公式を使う前に、問題が要求する量と単位を整理しましょう。成立条件が不明なときに式だけを暗記して代入しないことが大切です。

よくあるミス・検算の観点

  • 完全一致の解がなくても誤差を最小化できる。

単位、符号、初期条件、ベクトルの向きを最後に確認しましょう。

例題1(基本)|何を求めるかから始める

最小二乗法:例題の図xyv₁v₂
例題の見方:ベクトル・線形変換の幾何学的な模式図。理解のための模式図であり、設問条件の厳密な作図ではありません。
なぜその法則を使う? 計算の順序と検算

観測値1,2,4を1つの定数aで近似する。Σ(yi−a)²の最小化では平均a=(1+2+4)/3=7/3。

完全一致の解がなくても誤差を最小化できる。

演習問題(基本・標準・発展)

基本から段階的に考えるオリジナル問題です。内容確認中の単元には共通の復習問題も残しています。

最小二乗法:演習の図xyv₁v₂
演習の考え方:ベクトル・線形変換の幾何学的な模式図。理解のための模式図であり、設問条件の厳密な作図ではありません。
基本 1

2,4,6,8を定数で近似する最小二乗解を求めよ。

解答・解説を開く

平均5。二乗誤差の微分を0にしてもa=5。

基本 2

公式・定義「AᵀA x=Aᵀb」を、単元の用語を使って言葉で説明しよう。

解答・解説を開く

測定値に誤差があるとき、残差の二乗和を最小にする近似解を求める。列独立のAでは正規方程式が一意解を持つ。

基本 3

例題の計算・推論の手順を、模範解説を閉じて再現しよう。

解答・解説を開く

観測値1,2,4を1つの定数aで近似する。Σ(yi−a)²の最小化では平均a=(1+2+4)/3=7/3。

標準 1

なぜこの考え方が使えるのか、前提となる条件や注意点を述べよう。

解答・解説を開く

完全一致の解がなくても誤差を最小化できる。

標準 2

公式と例題を使い、結果がどの量に依存するか説明しよう。

解答・解説を開く

観測値1,2,4を1つの定数aで近似する。Σ(yi−a)²の最小化では平均a=(1+2+4)/3=7/3。 見通し:測定値に誤差があるとき、残差の二乗和を最小にする近似解を求める。列独立のAでは正規方程式が一意解を持つ。

発展・記述 1

別の設定へ応用する際、元の条件を外した場合に検討すべき点を挙げよう。

解答・解説を開く

完全一致の解がなくても誤差を最小化できる。 測定値に誤差があるとき、残差の二乗和を最小にする近似解を求める。列独立のAでは正規方程式が一意解を持つ。

問題に添えた図は考えるための模式図です。数値や関係を判断するときは必ず問題文の条件を優先してください。

この単元の学習を記録する

例題・演習を終えたら記録しましょう。結果はこのブラウザにのみ保存され、ログインや外部送信は不要です。

未完了

関連単元・参考資料

前後の単元を続けて読むと、定義から応用までのつながりを確認できます。院試の過去問は大学の公式公開先を参照し、当サイトには独自解説・オリジナル練習問題を掲載します。

旧帝大の公式過去問と独自解説を確認