AIによる診断や指示はイヤか？
どうも体の調子が悪いと思って病院に行き，症状などを伝えた。病院から，AIにデータを入力することで診断することもできるし，医者が診断することもできるが，どちらがよいかと尋ねられた。あなたならどちらを選ぶだろうか？ 実は，ガンなどの重大な病気の診断は，AIより人間の医者にしてもらいたいと思う人は多い。医者の立場だったらどうだろうか。自分の長年の経験による直感を頼りに診断を下すだろうか，あるいは最新のAIを頼るだろうか？
あるいはカーナビがこの先は渋滞しているけれど道を変える必要はないと指示したときに，それに従わずに「こっちの裏道を行った方が早い」と決めつけたことはないだろうか？
たいていの場合には，統計やモデルに基づく指示の方が人間の直感に頼る判断より正確なことが多い。それにもかかわらず，無視したり勝手に変更を加えたりするのが我々人間なのだ。
AIの発展に伴い，さまざまな分野でAIが行なった判断が人々の選択に対して大きな影響を及ぼすようになってきた。たとえば，企業が新規採用を行なうとき，応募者の履歴書を審査するAIがある。アマゾンの「お勧め」商品はビッグデータに基づきAIが選んでいる。
このようなAIによる判断の背後にはアルゴリズムがある。アルゴリズムとは簡単に言ってしまえば，計算手順あるいは計算ルールのことである。AIはアルゴリズムに基づいて結論を出す。一般にアルゴリズムの出す予測は，専門家の出す予測より精度が高いことがわかっている。
AIやコンピュータはアルゴリズムを用いているが，アルゴリズムはなにもそのようなデジタル装置の専売特許ではない。人が行なう判断であっても，数式で表わされるルールや規則に基づいて行なわれるならば，それはアルゴリズムである。
アルゴリズムの予測は専門家より優れている
専門家の直感的判断より統計に基づいたアルゴリズムの方がよりよい予測ができることはいろいろな領域において確かめられている。
アルゴリズムの方が優れていることについて最初に包括的に指摘したのは，アメリカの心理学者ポール・ミールである。彼は主著『臨床的予測対統計的予測－証拠の理論分析とその評価』を著わした。その出版年は1954年とかなり前であるが，彼の主張は現在でも意義を全く失っていない。カーネマンはミールの主張に全面的に賛同しており，信頼性に欠ける直感的判断よりもアルゴリズムの使用を強く推奨している。
古くは1950年代のミールから，簡単なアルゴリズムでも専門家の直感に基づく予測より正確な予測ができることがさまざまな領域で確かめられている。いくつか例を見てみよう。
・専門カウンセラーが新入生と面談して，1年後の成績を予測した。カウンセラーは45分間面接し，高校時代の成績や適性テストの結果，学生が書いた自己申告書などを参考にして予測した。一方アルゴリズムが用いたデータは，高校時代の成績と適性テストの結果だけであった。さて予測の精度はどうであったろうか？ カウンセラー14名のうち11名の予測の精度はアルゴリズムのそれを下回ったのである。
・経済学者のアッシェンフェルターによるワイン価格の予測モデルもきわめて優れている。彼は，3つの変数－夏の成長期の平均気温，収穫期の降雨量，前年の冬の降雨量－だけを投入したモデルをつくり，ワイン価格の予測を行なった。このモデル（アルゴリズム）はきわめて優れており，予測値と実際値の相関係数は0.9以上であった。これはどんな専門家の予測よりも正確であった。
・麻酔専門医のバージニア・アプガーが1950年代に考案した新生児の体調の評価方 法は現在でも使われている。新生児が危険な状態なのかどうかを判断は，それまで医師や助産婦それぞれが自分なりの基準で行なっていた。そこで，人によって はまちまちの結論が出たり，場合によってはそのために命を落とす新生児もいた。 アプガーは，5項目－心拍数，呼吸，刺激に対する反応，筋緊張度，皮膚色－を3 段階で評価する方法を案出した。これはアプガースコアと呼ばれ，現在でも新生児の危険度の判定に用いられている。
・『マネーボール』 統計データの使用という点に関しては，『マネーボール』が有名である。同書はマイケル・ルイスによるノンフィクションで，メジャー・リーグ・ベースボールの弱小チームであったオークランド・アスレチックスが統計的 手法を用いて選手を評価し，評価の高い選手を積極的に起用することで，またデータに基づいて新人をスカウトすることで強豪チームになっていくことを描いた。それまでの監督やスカウト陣の直感に頼っていたやり方を根本から変えたのである。
なぜ人の予測はアルゴリズムより劣るのか
人は統計データに弱いし，客観的に事実を見ることもできない。感情や周りの状況に左右されたりするし，経験を必要以上に重視する。カーネマンの『ファスト＆スロー』にはそのような人間の弱点についての記述が満載されている。ここで関連するのは，次のような，システム1に起因する人間の特徴である。たとえば，
・「見たものすべて」 目の前に見えていることがすべてであって，見えていないことを考慮することができない。
・一貫性のなさ 人は複雑な情報をまとめて予測を行なうときには，さまざまな情報をどう解釈し，どう重視するかに関して一貫性を欠くことが多い。時には同じ情報を1日の異なる時間に解釈するだけでも，異なる結論を導き出したりする。
・印象に残ったことの重視 人には，最近起こったこと，メディアで頻繁に報道されること，自分の身近で起こったことなどがあると，それらの頻度は高いつまりよく起こると思ってしまうというバイアスがある（利用可能性バイアス）。
・根拠のない自信 自分の判断や予測に対して根拠の薄い自信を持ってしまう。
アルゴリズムに対する人の態度
さて，このように多くの領域で人よりも正しい判断をすることが多いアルゴリズムに対して人は全面的な信頼を寄せ，その判断に喜んで従うと考えたくなるが，はたしてそうなのであろうか。実は，人のアルゴリズムに対する態度はそんな単純なものではない。ある場合にはアルゴリズムを信頼するが，ある場合には正確なアルゴリズムよりも人の判断を好むことがある。そういった一見相反する態度については，次回に「アルゴリズム回避」として，次々回に「アルゴリズム評価」として見ていこう。
参考文献
Guszcza, James and Nikhil Maddirala, 2016, Minds and Machines: The Art of Forecasting in the Age of Artificial Intelligence, Deloitte Review, Issue 19.
カーネマン，ダニエル（村井章子訳），2012，『ファスト＆スロー』早川書房
