目次を表示する

データ駆動プロダクト開発の考え方 ── 問いの立て方から判断の論理まで

エピローグ ── データと判断の文化

エピローグ ── データと判断の文化

Ch.10 章の全体像

ここまで 9 章かけて、プロダクト開発プロセスにおけるデータ分析の考え方を掘ってきた。問いの立て方、メトリクスの設計、計測の仕組み、統計的な目、実験と因果推定、判断の論理、そしてアンチパターン。

最後に残るのは、文化の話である。

技法は学べる。ツールは導入できる。アンチパターンも知ることができる。しかし組織がこれらを実際に使える状態にするには、日々の行動の積み重ね ── つまり文化が必要になる。


文化は、技法の上位にある

最初に、逆説的な主張を置く。

技法 vs 文化:

  ✅ 技法が優れていても、文化が貧しいと機能しない
  ✅ 技法が素朴でも、文化が健全なら驚くほど機能する

  → 「データ駆動」は技法の集合ではなく、文化の名前である

Ch.9 で見たアンチパターンの8 割は「文化」の問題だった。Amplitude の使い方が悪いから起きたのではなく、組織の判断習慣・コミュニケーション・責任の取り方が原因だった。

だからこそ、本書の締めくくりに「どんな文化を育てるか」を置きたい。


データ駆動文化の 7 原則

本書全体から抽出した、実践的な原則。

原則 ①:データは議論を「終わらせる」のではなく「始める」

Ch.1 で最初に置き、Ch.9 で AP2(HiPPO の復活)や AP15(データショッピング)で立ち戻ったテーマ。

❌ 「データが出たから議論終了」
   → 数字を武器にしてしまう文化
   → 反対意見が消え、判断の質が下がる

✅ 「このデータからは X が見える。どう解釈する?」
   → 数字は議論の出発点
   → 定性情報、経験、ビジョンと組み合わせる

データ駆動組織の成熟は、「データに反論する人」が尊重されるかで測れる。数字を出した側が常に勝つ組織は、データを権威化してしまっている。

原則 ②:不確実性を隠さない

Ch.5〜7 を貫くテーマ。

❌ 「A プランが勝ちました」(確定口調)
   → 実は p 値 0.049、サンプルサイズギリギリ、
     セグメントによっては負けている

✅ 「A プランが勝った可能性が高い。
     ただし次の不確実性がある:
     - 特定セグメントでの挙動は逆方向
     - 観察期間が短く、新規性バイアスの可能性
     - 効果量は小さく、実務的意義は要議論」

「確信度」と「限界」を明示する発言が、組織の判断の質を上げる。

原則 ③:判断の責任は人間に残す

Ch.8 と AP16 のテーマ。

❌ 「データがそう言っているので撤退します」
   → 判断の責任を回避

✅ 「データは◯◯を示している。
     他の情報(△△、□□)と合わせて、私は撤退を選ぶ。
     確信度は中程度。3 ヶ月後に再評価する。」

主語が人間である判断は、失敗したとき学習に繋がる。主語がデータである判断は、失敗しても「データが悪かった」で終わる。

原則 ④:失敗を公開し、学びに変える

❌ 「失敗した実験」「効かなかった施策」をレポートに載せない
   → Cherry Picking 文化(AP6)

✅ 四半期ごとに「効かなかった施策レビュー」を開く
   → 何がなぜ効かなかったかを整理
   → 次の企画の質が上がる

失敗を共有できる組織は、同じ失敗を繰り返さない。逆に、失敗を隠す組織は、同じ失敗を別の担当者が繰り返す。

原則 ⑤:ツールより、問いの立て方を鍛える

❌ 「Amplitude を入れたのに、誰も使いこなせない」
   → ツールを導入すればデータ駆動になる、の幻想

✅ 「どんな判断があるか」「何を測れば良いか」の議論が日常化
   → ツールは結果として選ばれる

Ch.2 の Decision-first thinking は、ツールより遥かに本質的である。問いが良ければ、ツールは何でも機能する。問いが悪ければ、どんな高級ツールも役に立たない。

原則 ⑥:計測への投資を後回しにしない

❌ 「今は忙しいので、計測は後で仕込もう」
   → Ch.4 で見た「後から足せない」問題が発生

✅ 「機能開発 = 計測設計 + 実装」のセットで見積もる
   → 計測なしのリリースは、存在しないも同じ

計測は投資である。初期コストはかかるが、複利で効く。計測を怠るチームは、半年後にデータが溜まっていないことに愕然とする。

原則 ⑦:「分からない」を言える文化

❌ 「専門家なのだから、答えが出せて当然」
   → 分析者が無理に結論を出そうとする

✅ 「この分析からはここまでしか言えません」
   → 知っていることと分からないことを正確に区別

Ch.7 で触れた「知っていることの境界を引く勇気」は、組織全体で尊ばれる必要がある。


データ駆動組織の成熟度モデル

組織のデータ駆動度合いは、以下のようなレベルで整理できる。

graph TD
    L1[Level 1<br/>直感駆動]
    L2[Level 2<br/>測定開始]
    L3[Level 3<br/>分析活用]
    L4[Level 4<br/>実験駆動]
    L5[Level 5<br/>学習組織]

    L1 --> L2
    L2 --> L3
    L3 --> L4
    L4 --> L5
Level 1:直感駆動
  - 数字を見ない、意思決定は経験と勘
  - HiPPO 全開
  - ダッシュボードがない

Level 2:測定開始
  - 基本的な KPI は見ている
  - だがダッシュボードは誰も見ていない
  - データを「見る」だけで「使う」までいかない

Level 3:分析活用
  - 意思決定にデータを引用する
  - ただし「分析麻痺」や「Cherry Picking」が頻発
  - データ駆動を謳うが、実態は不完全

Level 4:実験駆動
  - A/B テストが常態化
  - メトリクス設計が組織的に運用される
  - 「測って、動いて、学ぶ」が回る

Level 5:学習組織
  - 失敗が共有され、同じ失敗を繰り返さない
  - データと判断の責任が人間に戻っている
  - データが「議論を始める」道具になっている
  - 不確実性を前提に動く

多くの組織は Level 2 〜 3 で止まる。Level 4 に上がるには計測・実験基盤の投資が必要で、Level 5 に上がるには文化の成熟が必要になる。


データ駆動の「スキル」の再定義

データ駆動と聞くと、以下のようなスキルを思い浮かべる人が多い。

よく挙げられるスキル:
  - SQL を書ける
  - Python / R で分析できる
  - 統計検定の知識
  - ダッシュボードツールを扱える
  - 機械学習の基礎

しかし本書を読み終えた今、もう一つのスキルリストが浮かび上がる。

本書が扱ってきたスキル:
  - 問いの立て方(Ch.2)
  - 翻訳としてのメトリクス設計(Ch.3)
  - 計測の先読み(Ch.4)
  - 統計的な目(Ch.5)
  - 実験の論理(Ch.6)
  - 因果推定の技法(Ch.7)
  - 判断の論理(Ch.8)
  - アンチパターンへの警戒(Ch.9)

SQL を書けることと、問いを立てられることは別のスキルである。どちらも大事だが、前者だけだと「依頼を受けて納品する」仕事にしかならない。後者があって初めて、判断に貢献する仕事になる。


読者への問いかけ

このシリーズを閉じるにあたって、問いを残したい。

問 1:あなたの組織は今、どの Level にいるか?
  → Level 3 で止まっていないか
  → Level 4 / 5 に上がる妨げは何か

問 2:あなた自身の最後の「データに基づく判断」は、
     本書のどの章の教訓を守り、どこで失敗したか?
  → 問いが立っていなかったか
  → メトリクスが翻訳になっていなかったか
  → 統計的な目が曇っていたか
  → アンチパターンに陥っていたか

問 3:明日から、一つ変えるとしたら何か?
  → 全部を変えようとしない
  → 一つの習慣から始める

答えは読者ごとに違う。重要なのは、問い続けることである。データ駆動は到達点ではなく、実践の連続である。


最後に:データと人間の関係

ここまで「データ駆動」という言葉を使ってきたが、実は本書の結論はこの言葉への違和感で終わる。

「データ駆動(Data-Driven)」という言葉の罠:

  ❌ データが駆動する
     → 主体がデータ、人間は従属
     → 責任の所在が曖昧
     → 「データがそう言うから」の免罪符

  ✅ データに情報を得て、人間が判断する
     → Data-Informed、Data-Inspired と呼ぶ人もいる
     → 主体は人間、データは材料
     → 責任は人間に残る

言葉狩りをしたいのではない。重要なのは、データが「駆動」しているように見えても、実際には人間が常に判断しているという認識を失わないことだ。

データは判断の材料を増やす。視界を広げる。前提を揃える。しかし、最後の一歩 ── 不確実性の中で決断する ── は、いつまでも人間の仕事である。

ここを見失うと、組織は判断を放棄し、データを権威化し、データの名の下で判断しなくなる。それは本書が最も警戒する末期症状である。

だから最後に、もう一度書いておく。

データは議論を終わらせるものではない。始めるものである。

そして、議論の先にある判断を引き受けるのは、いつの時代も、人間である。


本書で扱ってきた地図

最後に、全体を俯瞰する。

graph TD
    Ch1[Ch.1 プロローグ<br/>データ駆動の嘘と本当] --> Ch2
    Ch2[Ch.2 問いを立てる<br/>Decision-first] --> Ch3
    Ch3[Ch.3 メトリクス設計<br/>翻訳・NSM・KPIツリー] --> Ch4
    Ch4[Ch.4 計測を仕込む<br/>Tracking Plan] --> Ch5
    Ch5[Ch.5 数字を読む<br/>統計的な目] --> Ch6
    Ch6[Ch.6 実験を設計する<br/>A/Bテストの論理] --> Ch7
    Ch7[Ch.7 因果を推定する<br/>実験できないとき] --> Ch8
    Ch8[Ch.8 判断を下す<br/>撤退・拡大・ピボット] --> Ch9
    Ch9[Ch.9 アンチパターン<br/>16の失敗] --> Ch10
    Ch10[Ch.10 エピローグ<br/>データと判断の文化]

9 章までは「考え方の技法」、10 章は「技法を支える文化」だった。どちらも欠けてはならない。


本章のまとめ

✅ 技法より文化が上位にある
   アンチパターンの 8 割は文化の問題

✅ データ駆動文化の 7 原則:
   ① 議論を「終わらせる」のではなく「始める」
   ② 不確実性を隠さない
   ③ 判断の責任は人間に残す
   ④ 失敗を公開し、学びに変える
   ⑤ ツールより、問いの立て方を鍛える
   ⑥ 計測への投資を後回しにしない
   ⑦ 「分からない」を言える文化

✅ 成熟度モデル:
   Level 1 直感 → Level 2 測定 → Level 3 活用 →
   Level 4 実験 → Level 5 学習

✅ データ駆動のスキルは二層:
   技術的スキル(SQL・統計)と
   判断のスキル(問いの立て方・判断の論理)

✅ 「Data-Driven」ではなく「Data-Informed」
   データは材料、判断は人間

参考文献・情報源

本書はツール・数式ではなく「考え方」を扱う性質上、特定の一次ソースに依存していない。ただし、本書の背景にある主要な思想は、以下の源流から来ている。

意思決定と判断

  • Daniel Kahneman『Thinking, Fast and Slow』(邦題『ファスト&スロー』)
  • Annie Duke『Thinking in Bets』
  • Jeff Bezos の Type 1 / Type 2 Decisions(Amazon Shareholder Letters)

メトリクス設計

  • Avinash Kaushik の Web Analytics 関連著作
  • Sean Ellis の “North Star Metric” 論
  • Alistair Croll, Benjamin Yoskovitz『Lean Analytics』

実験・因果推定

  • Ron Kohavi, Diane Tang, Ya Xu『Trustworthy Online Controlled Experiments』
  • Joshua Angrist, Jörn-Steffen Pischke『Mostly Harmless Econometrics』
  • Scott Cunningham『Causal Inference: The Mixtape』
  • Judea Pearl『The Book of Why』

統計的リテラシー

  • Darrell Huff『How to Lie with Statistics』
  • Edward Tufte『The Visual Display of Quantitative Information』

データ文化・組織論

  • Carl Anderson『Creating a Data-Driven Organization』
  • DJ Patil, Hilary Mason『Data Driven』
  • Cassie Kozyrkov の Decision Intelligence に関する論考

Goodhart の法則

  • Charles Goodhart(1975)のオリジナル論文、および現代的な再解釈

プロダクト開発に関わる全ての人へ。

データは、あなたの判断の「代わり」にはならない。だが、あなたの判断の「質」を、何段も引き上げてくれる。

本書がそのための小さな補助線になれば、これ以上のことはない。