A/Bテストの際によくある4つの失敗とその解決方法

4 common failures and their solutions in A/B testing

A/Bテストのスキル向上:より良い結果のための4つの主要なエラーの対処方法

Oscar Ivan Esquivel Arteagaさんによる写真 on Unsplash

A/Bテストは、ジェンガのようなもので、成功した実験の基盤を形成する相互に関連する要素の繊細なバランスです。ジェンガのゲームと同様に、間違ったブロックを取り除くと、タワー全体が崩れることがあります。A/Bテストも同様に、複数の要素が連携して機能することに依存しています。各要素はテストの重要な要素を表し、いずれかの要素が失敗すると、実験の信頼性が損なわれ、不正確な結果や逃した機会につながる可能性があります。

私の経験では、多くのデータサイエンティストが犯す非常に一般的なミスにより、素晴らしい実験のアイデアが崩れてしまいました。私自身も含めて!そこで、A/Bテストで最も一般的なミスのうち4つを共有したいと思います(それらの解決方法も含めて)。

A/Bテストに詳しくなく、データサイエンスのキャリアを追求する興味がある場合は、少なくともその概念について知識を身につけることを強くお勧めします。

以下のリンクをチェックして、A/Bテストの基礎を学ぶことができます:

データサイエンスのためのA/Bテストの簡単なガイド

データサイエンティストにとって最も重要な統計手法の1つ

towardsdatascience.com

それでは、さっそく見ていきましょう!

問題#1:統計的パワーを設定しすぎる。

統計的パワーは、真の効果を正しく検出する確率、あるいはより正確には、帰無仮説が誤っている場合に帰無仮説を棄却する条件付き確率を表します。統計的パワーは、タイプ2エラー(偽陰性)を犯す確率と逆の関係にあります。

一般的に、研究を実施する際には、パワーを80%に設定するのが一般的です。この定義によれば、パワーを80%に設定すると、帰無仮説が誤っている場合に帰無仮説を棄却しない確率は20%です。簡単に言えば、100回の実施実験の中で真の効果がある場合、100回中80回のみを検出できます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

人工知能

「トリントの創設者兼CEO、ジェフ・コフマンへのインタビューシリーズ」

ジェフ・コーフマンは、ABC、CBS、CBCニュースで30年のキャリアを持った後、Trintの創設者兼CEOとなりましたジェフは手作業の...

人工知能

「アナコンダのCEO兼共同創業者、ピーターウォングによるインタビューシリーズ」

ピーター・ワンはAnacondaのCEO兼共同創設者ですAnaconda(以前はContinuum Analyticsとして知られる)を設立する前は、ピー...

機械学習

「Prolificの機械学習エンジニア兼AIコンサルタント、ノラ・ペトロヴァ – インタビューシリーズ」

『Nora Petrovaは、Prolificの機械学習エンジニア兼AIコンサルタントですProlificは2014年に設立され、既にGoogle、スタンフ...

人工知能

「UVeyeの共同設立者兼CEO、アミール・ヘヴェルについてのインタビューシリーズ」

アミール・ヘヴァーは、UVeyeのCEO兼共同創設者であり、高速かつ正確な異常検出により、自動車およびセキュリティ産業に直面...

人工知能

「パクストンAIの共同創業者兼CEO、タングイ・シャウ - インタビューシリーズ」

タングイ・ショウは、Paxton AIの共同創設者兼CEOであり、法的研究と起草の負担を軽減するためにGenerative AIを使用するプラ...

人工知能

「ゲイリー・ヒュースティス、パワーハウスフォレンジクスのオーナー兼ディレクター- インタビューシリーズ」

ゲイリー・ヒュースティス氏は、パワーハウスフォレンジックスのオーナー兼ディレクターであり、ライセンスを持つ私立探偵、...