実務・マーケティング

A/Bテストの読み方の練習問題

2つの案の CVR の差と、その差が偶然の範囲かどうか(有意差)を判断できる。

考え方

CVR 2.0% → 2.5% は「0.5ポイント改善」です。「25%改善」と言うと、元の CVR に対する伸び率の意味になります。

件数が少ないと、偶然でも差が出ます。差を標準誤差(偶然のばらつきの目安)で割った z が 1.96 以上なら、偶然とは考えにくいと判断します。

ポイント

CVR の差(ポイント)= B案の CVR − A案の CVR

z = CVR の差 ÷ 標準誤差(標準誤差 = p(100−p)(1nA+1nB)\sqrt{p(100-p)\left(\frac{1}{n_A}+\frac{1}{n_B}\right)}、p は合算した CVR[%])

|z| ≥ 1.96 なら、5% 水準で有意差あり

よくある間違い

練習問題でこの間違い方をしたときは、その場でお伝えします。

  • 差の見た目だけで有意差を判断するA/B テストで、CVR の差の大きさだけを見て判断し、サンプル数で決まる標準誤差(偶然のばらつき)と比べていない。差が大きく見えても、件数が少なければ偶然で起こることがあります。差 ÷ 標準誤差 で z 値を出し、1.96 と比べて判断しましょう。

見る

計算例

申込フォームの A/B テストをしました。A案(今のフォーム)は訪問2,000人で申込64件、B案(入力項目を減らしたフォーム)は訪問2,500人で申込85件でした。

A案の訪問
2,000人
A案の申込
64件
B案の訪問
2,500人
B案の申込
85件

問いB案の CVR は、A案より何ポイント高いですか?(ポイントの数字だけで答えてください)

途中の式

  1. A案の CVR: 64 ÷ 2,000 = 3.2%
  2. B案の CVR: 85 ÷ 2,500 = 3.4%
  3. 差: 3.4 − 3.2 = 0.2ポイント
  4. 「6.3%改善」と言うと、元の CVR に対する伸び率(0.2 ÷ 3.2)の意味になります。報告ではどちらかをはっきり書き分けます。

答えCVR の差は 0.2ポイント

一緒にやる

小さく分けて、一緒に解く

1つずつ答えを確かめながら進みます。間違えても大丈夫です。

申込フォームの A/B テストをしました。A案(今のフォーム)は訪問10,000人で申込250件、B案(入力項目を減らしたフォーム)は訪問4,000人で申込120件でした。

B案の CVR は、A案より何ポイント高いですか?(ポイントの数字だけで答えてください)

小さな問いに分けて、1つずつ一緒に進めます。

ステップ 1 / 3

A案の CVR は何%?

自分でやる

練習問題

数字は毎回変わります。2〜3問続けて解けたら、次の単元や元のレッスンに進みましょう。

問題を準備しています…

学び直しマップ

前後の単元

分からないところがあったら前提まで戻り、分かったら使う先へ進みましょう。

学び直しマップで、この単元のまわりを見る