映画『マトリックス』の世界では、人々は現実を生きているつもりで、実は精巧な仮想世界の中にいました。AI時代の意思決定にも、これと似た構図が生まれつつあります。「決めているのは自分だ」と思っている——しかし実際に選択肢を絞り、方向を定めたのはAIだった、という構図です。今回は「ミスのコスト」と「意思決定の頻度」という2軸のマトリックス(こちらは表計算のほうのマトリックスです)で、この幻想がどこに潜むのかを整理します。
第1象限:低コスト×高頻度——AIの完全制圧地帯
広告の出し分け、レコメンド、迷惑メール判定、価格の動的調整。1件の失敗はほぼ無料で、判断は1日数百万回。ここはとっくにAIの領土であり、人間には物理的に不可能な世界です。建前も実態も「AIが決める」で一致しており、誰も異議を唱えません。健全な自動化とはこういうものです。
第2象限:中コスト×高頻度——標準化と「例外処理係」の罠
ローン審査、保険金請求、不正検知。標準ケースはAIが処理し、例外だけ人間が判断する分業です。合理的に見えますが、古典的な落とし穴があります。Bainbridgeが1983年に指摘した「自動化の皮肉」——日常のケースを機械に譲った人間は、例外を判断するための日常経験そのものを失っていく、という逆説です。例外処理係の腕は、練習台をAIに譲った分だけ確実に鈍ります。例外だけ振られても、勘は育たないのです。
第3象限:低コスト×低頻度——どうでもいい象限
会議室の名前、オフィスのお菓子。コインを投げてもAIに聞いても結果は同じです。次に進みましょう。
第4象限:高コスト×低頻度——ここが「マトリックス」
M&A、数億円規模の投資、市場参入。建前は「AIは支援、決めるのは人間」。しかし現実には、AIの分析が選択肢を枠づけ、AIの推奨が議論の出発点になり、人間は熟考した気分のまま追認する——そして責任だけを引き受ける。これが「意思決定の幻想」です。
心理学ではこれを自動化バイアス(automation bias)と呼びます。証拠は不穏なほど豊富です。ある実験では、誤った自動警報に従ってエンジンを停止したパイロットは全員でした——事前のインタビューでは「そんな警報には従わない」と全員が答えていたにもかかわらず。乳がん診断の研究では、支援ツールなしなら46%発見できていた症例が、ツールが見落とした場合には21%しか発見されませんでした。人は、自信に満ちた機械に異を唱えるのが苦手なのです。しかも第4象限は、ミスが最も高くつき、人間の判断が最も必要な場所。幻想が最も危険な場所で、幻想が最も起きやすい——これがこのマトリックスの皮肉です。
赤い薬を飲む——ただしAIは手放さない
映画の主人公は、心地よい幻想(青い薬)と不都合な現実(赤い薬)の選択を迫られました。私たちの赤い薬は、AIを捨てることではありません。影響の構造を自覚した上で、目を開けてAIと付き合うことです。具体的には——AIの答えを見る前に評価基準を決めておく。AIに自分の推奨への反論を作らせる。そして「AIに賛成する」という結論にも、反対するのと同じだけの説明責任を課す。研究でも、判断の結果に説明責任を持たせることが自動化バイアスを減らすと報告されています。
第1回の記事で、AI時代の武器は「決断速度」だと書きました。ただし速く決める価値があるのは、それが本当にあなたの決断である場合だけです。次の重要な意思決定の前に、一度だけ自問してみてください——この選択肢を並べたのは、誰ですか?
---
*参考資料:*
- *Mosier, Skitka, Heers, Burdick, "Automation Bias: Decision Making and Performance in High-Tech Cockpits" (International Journal of Aviation Psychology, 1997)*
- *Parasuraman & Manzey, "Complacency and Bias in Human Use of Automation" (Human Factors, 2010)*
- *Bainbridge, "Ironies of Automation" (Automatica, 1983)*