A/Bテストの際によくある4つの失敗とその解決方法

4 common failures and their solutions in A/B testing

A/Bテストのスキル向上:より良い結果のための4つの主要なエラーの対処方法

Oscar Ivan Esquivel Arteagaさんによる写真 on Unsplash

A/Bテストは、ジェンガのようなもので、成功した実験の基盤を形成する相互に関連する要素の繊細なバランスです。ジェンガのゲームと同様に、間違ったブロックを取り除くと、タワー全体が崩れることがあります。A/Bテストも同様に、複数の要素が連携して機能することに依存しています。各要素はテストの重要な要素を表し、いずれかの要素が失敗すると、実験の信頼性が損なわれ、不正確な結果や逃した機会につながる可能性があります。

私の経験では、多くのデータサイエンティストが犯す非常に一般的なミスにより、素晴らしい実験のアイデアが崩れてしまいました。私自身も含めて!そこで、A/Bテストで最も一般的なミスのうち4つを共有したいと思います(それらの解決方法も含めて)。

A/Bテストに詳しくなく、データサイエンスのキャリアを追求する興味がある場合は、少なくともその概念について知識を身につけることを強くお勧めします。

以下のリンクをチェックして、A/Bテストの基礎を学ぶことができます:

データサイエンスのためのA/Bテストの簡単なガイド

データサイエンティストにとって最も重要な統計手法の1つ

towardsdatascience.com

それでは、さっそく見ていきましょう!

問題#1:統計的パワーを設定しすぎる。

統計的パワーは、真の効果を正しく検出する確率、あるいはより正確には、帰無仮説が誤っている場合に帰無仮説を棄却する条件付き確率を表します。統計的パワーは、タイプ2エラー(偽陰性)を犯す確率と逆の関係にあります。

一般的に、研究を実施する際には、パワーを80%に設定するのが一般的です。この定義によれば、パワーを80%に設定すると、帰無仮説が誤っている場合に帰無仮説を棄却しない確率は20%です。簡単に言えば、100回の実施実験の中で真の効果がある場合、100回中80回のみを検出できます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

人工知能

エンテラソリューションズの創設者兼CEO、スティーブン・デアンジェリス- インタビューシリーズ

スティーブン・デアンジェリスは、エンタラソリューションズの創設者兼CEOであり、自律的な意思決定科学(ADS®)技術を用いて...

人工知能

「ゲイリー・ヒュースティス、パワーハウスフォレンジクスのオーナー兼ディレクター- インタビューシリーズ」

ゲイリー・ヒュースティス氏は、パワーハウスフォレンジックスのオーナー兼ディレクターであり、ライセンスを持つ私立探偵、...

機械学習

3つの質問:大規模言語モデルについて、Jacob Andreasに聞く

CSAILの科学者は、最新の機械学習モデルを通じた自然言語処理の研究と、言語が他の種類の人工知能をどのように高めるかの調査...

AIテクノロジー

「LXTのテクノロジーバイスプレジデント、アムル・ヌール・エルディン - インタビューシリーズ」

アムル・ヌール・エルディンは、LXTのテクノロジー担当副社長ですアムルは、自動音声認識(ASR)の文脈での音声/音響処理と機...

人工知能

キャルレールの最高製品責任者、ライアン・ジョンソンへのインタビューシリーズ

ライアンは、初期のスタートアップからフォーチュン100の組織まで、多様なテクノロジーと製品開発のリーダーシップ経験を15年...

人工知能

「ナレ・ヴァンダニャン、Ntropyの共同創設者兼CEO- インタビューシリーズ」

Ntropyの共同創設者兼CEOであるナレ・ヴァンダニアンは、開発者が100ミリ秒未満で超人的な精度で金融取引を解析することを可...