#361景気と経済指標高校生むけ
決定係数
バングラデシュのバターの生産量で、アメリカの株価の動きの75%が「説明」できた。当てはまりの良さを示す決定係数が高くても、予想に使えるとは限らないわけを、実際の実験で見ます。
ほかの呼び方：R2、R²、coefficient of determination
ひとことで言うと
決定係数（R²、アール・スクエア）は、ある数字の上がり下がり（ばらつき）のうち、別の数字を使った式でどれだけ「説明できたか」を、0から1（0%〜100%）で表したものです。
1に近いほど、式が描く線がデータの点によく重なっています。 ただし、決定係数がわかるのは「手元のデータに、どれだけうまく線を引けたか」までです。 その線で先のことを当てられるのか、片方がもう片方を動かしているのかは、決定係数だけではわかりません。
「75%を説明できる」って、どういう意味？
たとえば、10人のテストの点数がばらばらだったとします（わかりやすくするための、たとえの話です）。 一人ひとりの点数と平均点との差を2乗して、10人分たし合わせると、「もともとのばらつき」の大きさが出ます（ばらつきの測り方は標準偏差の記事でくわしく扱います）。
次に「勉強時間が長い人ほど点が高い」という直線を引き、実際の点数と、直線が予想した点数との差を、同じように2乗してたし合わせます。これが「線では説明しきれずに残ったばらつき」です。
決定係数 ＝ 1 −（説明しきれずに残ったばらつき）÷（もともとのばらつき）
残ったばらつきが、もとの4分の1まで小さくなれば、決定係数は0.75です。「勉強時間で、点数のばらつきの75%が説明できた」と言います。
| 決定係数 | 意味 |
|---|---|
| 1（100%） | すべての点が、ぴったり線の上にのっている |
| 0.75（75%） | ばらつきの4分の3が、線で説明できる |
| 0（0%） | 線を引いても、全員を平均点で当てるのと変わらない |
説明に使う数字が1つだけ（直線1本）のときは、決定係数は2つの数字の相関係数を2乗した値になります。決定係数0.75は、相関係数でいえば約0.87です。
目安として、後で紹介する研究者は「身長と体重のような強い関係で70%くらい、郵便番号と体重のように関係のないものは0」と書いています（本人が示した例えで、測った値ではありません）。
バングラデシュのバターで、アメリカの株価がわかるって本当？
1990年代のなかごろ、アメリカの研究者デビッド・ラインウェーバーは、この決定係数を使ったひとつの「実験」を見せました。 数式を使って株を運用する投資会社（ファースト・クアドラント）の仲間とつくった例で、ねらいは、データを掘りすぎることがどれほど危ないかを、運用の世界の人たちに知らせることでした。 本人は後に書いた論文で、これを「金融でのデータ・マイニング（大量のデータから関係を探すこと）の、まったくでたらめな使い方の、あからさまな例」と呼んでいます。
国連の統計を「掘る」
説明したい数字は、アメリカの代表的な株価指数S&P500の、1983年から1993年までの年末の値です。
材料を探す先に選んだのは、国連が出していたCD-ROMの統計集でした。加盟140か国の、ありとあらゆる統計が入っています。 株価を本気で予想するなら、金利や経済成長率、失業率を使うはずです。でもラインウェーバーは、わざとそうした「理由のありそうな数字」を避けて、当てはまりのよいものを探しました。
見つかったのは「バターの生産量」
いちばんよく当てはまったのは、バングラデシュのバターの生産量でした。 決定係数は0.75。乳製品ひとつで、S&P500の10年分の動きの75%が「説明」できたのです。
調子にのって、アメリカのバターの生産量とアメリカのチーズの生産量を加えると、決定係数は0.95に。 さらに、バングラデシュとアメリカの羊の頭数を加えると、0.99になりました。
材料を足すたびに上がった決定係数
説明したもの：S&P500の年末の値（1983〜1993年）
数字を表で見る（単位：%）
| 決定係数 | |
|---|---|
| バングラデシュのバター | 75 |
| ＋米国のバターとチーズ | 95 |
| ＋両国の羊の頭数 | 99 |
出典：ラインウェーバー「Stupid Data Miner Tricks: Overfitting the S&P 500」
99%。ほぼ完ぺきです。それでも本人は、こう書いています。 「当てはめた期間の外では、まったく役に立たない。1983年より前も1993年より後も、たわごとだ」 「たまたまの結びつきにすぎない。たくさんの数字を見れば、こういうものは必ず出てくる」 「ほとんど何を入れてもうまくいっただろう。ただ、私たちは羊が好きなので」
冗談のつもりが、ひとり歩きした
ラインウェーバーたちは、冗談のつもりだったので論文にはしませんでした。 ところが記者がこの話を取り上げ、スタンフォード大学のビジネススクールなどの授業でも使われるようになった、と本人は書いています。 「ありもしない論文」を求める問い合わせが続き、図はコピーのコピーでかすれていったため、あらためて書き起こしたのが、先に引用した論文（1995年に書きはじめたもの）です。
偶然でも、決定係数は高くなるの？
なります。理由は2つあります。
材料を足すほど、決定係数は上がる
決定係数には、説明に使う数字を足すと、まず下がらないという性質があります。 新しく足した数字が本当は関係なくても、手元のデータのでこぼこに、たまたま合う部分を式が使ってしまうからです。 バターに、チーズと羊を足して、0.75→0.95→0.99と上がったのは、この性質のせいです。
ラインウェーバーは、その行き着く先も見せました。羊を数えなくても、「年の数字」だけで決定係数100%の式がつくれる、というのです。 2つの点を通る直線は必ず引けます。3つの点なら放物線が引けます。同じように、1983〜1992年の10個の点には、9次式を当てはめれば、すべての点をぴったり通る線が引けます。手元のデータでは100%です。
ところが、その式で1993年末のS&P500を予想すると、答えは マイナス6万4,311。実際は466でした（論文は445と書いています）。 1993年の値を足して、11個の点に10次式を当てはめ直すと、こんどは1994年末の予想が プラス8万2,931 になりました。 論文は、この結果を2行でまとめています。「データの中では100%正確。データの外では100%でたらめ」
このため、使う数字の個数がちがう式どうしを比べるときは、個数が多いほど割り引いて計算する「自由度調整済み決定係数」を使うのがふつうです。
たくさん探せば、必ず何かが当たる
ラインウェーバーは、こうも書いています。統計で「95%の確からしさで意味がある」と判定された式を100本調べれば、そのうち5本はただの偶然で選ばれている。10万本調べれば、5,000本は見かけだけの当たりだ、と。
国連の統計集には、140か国ぶんの数えきれない数字が入っていました。その中から株価と似た動きをするものを探せば、バターでも羊でも、何かは必ず見つかります。 決定係数0.75は「1つ目でたまたま当たった数字」ではなく、「たくさん試した中のいちばん」だったことに注意が必要です。 スーパーボウルでどちらのリーグが勝つかでその年の株価がわかる、といった相場の言い伝え（アノマリー）も、ラインウェーバーは同じ仲間として挙げています。
当てはまりが高ければ、片方でもう片方を予想できるの？
決定係数が教えてくれるのは、「2つの数字が、同じ期間にいっしょに動いていた」ことだけです。 どちらがどちらを動かしたのか（因果関係）も、これから先も同じように動くのかも、決定係数は何も語りません。
ここで、理由の筋道があるかどうかで、2つの組み合わせをくらべてみます。
| 組み合わせ | 理由の筋道 | 決定係数が高いとき |
|---|---|---|
| バングラデシュのバター生産量とS&P500 | ない | たまたま。期間を変えれば崩れる |
| 円建ての原油の値段と企業物価指数 | 原油が上がると、燃料や化学製品の原料の仕入れ値が上がり、製品の値段に移っていく | 関係に意味を見いだしやすい。ただし、円安のように両方を同時に動かす別の原因がないかは確かめる |
やっかいなのは、もっともらしい材料でも同じ落とし穴があることです。ラインウェーバーは、金利やGDP、貿易、住宅着工のような数字で株価を説明するモデルを持ちこまれたら、それもバターの話と同じくらい良い数字が出て、同じくらい意味がないかもしれない、と書いています。もっともらしく聞こえるかどうかは、確かめたことにはなりません。
では、どうすればよいのか。論文が勧めているのは、次のような確かめ方です。
- データの一部を取っておく。式をつくるときには使わず、できあがった式がその「取っておいたデータ」でも当たるかを試す
- でたらめな数字で、同じ手順をやってみる。でたらめな材料でも同じくらい高い当てはまりが出るなら、その手順で見つけた関係は疑わしい
ここで書いたのは、統計の数字の読み方の話です。「決定係数が高いから、この数字で株価が当てられる」といった売買の判断に使えるものではありません。 投資には元本が減るリスクがあります。判断はご自身の責任でお願いします。
こんなふうに使われる
研究やレポートで
- 「決定係数は0.75で、モデルの当てはまりは良好だ」
- ばらつきの4分の3を式で説明できた、という意味です。ラインウェーバーがバングラデシュのバターの生産量でS&P500を「説明」したときも0.75でした。当てはまりがよいことと、先を予想できることは別の話です。
- 「説明変数の数がちがうので、自由度調整済み決定係数で比較した」
- 説明に使う数字（説明変数）を足すと、決定係数はまず下がらないので、足した数のぶん割り引いた値で比べる、という意味です。バターにチーズと羊を足して0.99まで上がったのは、割り引かずに見ると起きることでした。
データ分析の現場で
- 「変数を足したらR²が0.99？ それ、過学習を疑ったほうがいいよ」
- R²は決定係数の書き方で、「アール二乗」とも読みます。手元のデータに合わせすぎた式は、本文の9次式のように、データの外ではでたらめな予想をすることがあります。式づくりに使わなかったデータで当たるかを確かめます。
投資家どうしの会話で
- 「株価との決定係数がすごく高い指標があるらしいけど、何百も試して見つけた数字なら当てにならないよ」
- たくさん探せば、偶然でも決定係数の高い組み合わせは見つかります。バターの0.75も「たくさん試した中のいちばん」でした。決定係数が高いことは、因果関係も予想の力も意味しません。
まとめ
- 決定係数は、ばらつきのうち式で説明できた割合。0から1で表し、1に近いほど当てはまりがよい
- 1990年代、ラインウェーバーはバングラデシュのバター生産量でS&P500の動きの75%を「説明」し、チーズと羊を足して99%にしてみせた。冗談のつもりの、データの掘りすぎへの警告だった
- 材料を足すほど決定係数は上がる。年の数字だけでも100%にできるが、その式の予想は「マイナス6万4,311」だった
- たくさん探せば、偶然でも高い決定係数は見つかる。高いことは、因果関係も予想の力も意味しない
- 確かめるには、式づくりに使わなかったデータで当たるかを試す