「パフォーマンスと使いやすさを向上させるための機械学習システムにおけるデザインパターンの探求」

Exploring design patterns in machine learning systems for improved performance and usability.

機械学習は、最近の進展と新しいリリースにより、ますます広まっています。AIとMLの人気と需要が高まり、製品レベルのMLモデルの開発が求められる中で、ML関連の問題を特定し、それらに対する解決策を構築することは非常に重要です。デザインパターンは、ML関連の問題の解決策を絞り込むための最良の方法です。パターンのアイデアは、問題を定義し、その問題の詳細な解決策を見つけるのに役立ち、同様の問題に何度でも再利用できます。

デザインパターンは、世界中の実践者が従えるように知識を指示にまとめたものです。さまざまなMLデザインパターンは、MLライフサイクルのさまざまな段階で使用されます。問題の構築、実現可能性の評価、またはMLモデルの開発や展開段階で使用されることもあります。最近、ツイッターのユーザーであるユージン・ヤン氏が、機械学習システムにおけるデザインパターンについての議論を行いました。彼はツイートでいくつかのデザインパターンをリストアップしています。

1. カスケード：カスケードは、複雑な問題をより単純な問題に分解し、その後のモデルを使用してより困難または具体的な問題に取り組むことを含みます。共有された例では、オンラインコミュニティプラットフォームであるStack Exchangeがスパムに対するカスケードの防御を使用していることが説明されています。スパムの検出と防止のために、複数の保護層が使用されており、各層はスパム検出の異なる側面に焦点を当てています。最初の防御ラインは、人間の可能性を超えて速く投稿された場合(HTTP 429エラー)です。2番目の防御ラインは、正規表現とルールによってキャッチされた場合(ヒューリスティクス)です。3番目の防御ラインは、シャドウテストに基づいた非常に正確なものです(ML)。カスケードは体系的かつ階層的に機能し、効果的なアプローチです。リソースはこちらからご覧ください。

1. リフレーミング：リフレーミングは、元の問題を再定義して解決しやすくすることを含みます。ツイートで挙げられた例は、大規模な電子商取引プラットフォームであるAlibabaが、次にユーザーが対話する可能性のある次のアイテムを予測するための連続的な推奨に関するパラダイムを再定義していることです。リソースはこちらからご覧ください。

1. ヒューマンインザループ：これは、ユーザー、アノテーションサービス、またはドメインエキスパートからラベルや注釈を収集し、MLモデルのパフォーマンスを向上させることを含みます。ツイートで言及されている例は、Stack ExchangeとLinkedInで、ユーザーがスパム投稿をフラグ付けできることです。これにより、ユーザーはスパムコンテンツにフィードバックを提供でき、将来のスパム検出のためにMLモデルのトレーニングに使用することができます。リソースはこちらからご覧ください。

1. データ拡張：これは、トレーニングデータの合成変動を作成し、サイズと多様性を増やしてMLモデルの一般化能力を改善し、オーバーフィッティングのリスクを減らすことを含みます。DoorDashというフードデリバリープラットフォームの例が挙げられており、データ拡張は、トレーニングデータが限られているかデータがない場合に、新しいメニューアイテムの正確な分類とタグ付けに取り組むために使用されています。リソースはこちらからご覧ください。

1. データフライホイール：これは、より多くのデータの収集がMLモデルの改善につながり、より多くのユーザーとデータを生み出す正のフィードバックループです。Teslaの例が共有されており、同社は車からセンサーデータ、パフォーマンスメトリクス、使用パターンなどのデータを収集しています。このデータは、自動運転などのタスクに使用されるモデルの改善に役立つエラーを特定しラベル付けするために使用されます。リソースはこちらからご覧ください。

1. ビジネスルール：これには、ドメイン知識やビジネス要件に基づいてMLモデルの出力を増強または調整するためのいくつかの追加ロジックや制約が含まれます。TwitterはMLモデルを使用してエンゲージメントを予測し、タイムラインでツイートの可視性を調整しています。また、MLモデルの出力に対するハンドチューニングされた重みやルールを使用して、意思決定プロセスに知識を組み込んでいます。リソースはこちらからご覧ください。

結果として、機械学習システムのデザインパターンは、モデルのパフォーマンス、信頼性、解釈可能性を向上させ、この領域の課題を解決するのに役立ちます。

• 「Co-BioNetに会ってください：モナッシュ大学の敵対的AIシステムが医療画像解析を革新し、広範な人間の注釈なしで精度を向上させています」
• 「パッチのせいかもしれませんか？ このAIアプローチは、ビジョントランスフォーマーの成功における主要な貢献要素を分析します」
• 「SUSTech VIP研究室が、高性能なインタラクティブトラッキングとセグメンテーションを実現するトラックアニシングモデル（TAM）を提案する」

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!