表現力豊かなブール式を使用した説明可能なAI

'Explainable AI using expressive Boolean expressions'

人工知能（AI）と機械学習のアプリケーションの爆発的な増加は、ほぼすべての産業や生活の一部に浸透しています。

しかし、その成長には皮肉があります。AIは意思決定やワークフローを簡素化または加速するために存在しているにもかかわらず、その方法はしばしば非常に複雑です。実際、一部の「ブラックボックス」機械学習アルゴリズムは非常に入り組んでおり、それらを作成したコンピュータサイエンティストでさえも簡単に説明することができない場合があります。

これは、金融や医療のような特定のユースケースが、AIソリューションの内部の動作に対する透明な説明を求める業界のベストプラクティスや政府の規制によって定義される場合にはかなり問題となる可能性があります。そして、これらのアプリケーションが説明要件を満たす表現力がなければ、その効果に関係なく無意味にされるかもしれません。

このジレンマに対処するために、私たちのチームであるFidelity Center for Applied Technology（FCAT）は、Amazon Quantum Solutions Labとの共同で、表現力のあるブール式に基づく解釈可能なAI（XAI）のための機械学習モデルを提案し、実装しました。このアプローチは、1つ以上のブール変数に適用できる任意の演算子を含むことができるため、より柔軟なルールベースやツリーベースのアプローチと比較して高い表現力を提供します。

• リアルワールドのMLOpsの例：Brainlyでのビジュアル検索のためのエンドツーエンドのMLOpsパイプライン
• MLモデルのパッケージング【究極のガイド】
• エンドツーエンドのMLパイプラインの構築方法

このプロジェクトの詳細については、こちらの論文をご覧ください。

私たちの仮説は、決定木などのモデルが深く解釈が難しいため、低い複雑さで高い精度を持つ表現力のあるルールを見つける必要性が解決すべき難解な最適化問題であるということでした。さらに、この高度なXAIアプローチを通じてモデルを簡素化することで、MLの倫理的かつ責任ある使用の文脈で重要なバイアスを明らかにすることができるという追加の利点を得ることができました。また、モデルのメンテナンスや改善を容易にすることもできました。

私たちは、表現力のあるブール式に基づいたアプローチを提案しました。なぜなら、それらは入力データが分類される方法に応じてチューニング可能な複雑さ（または解釈可能性）でルールを定義するからです。このような式には、AndやAtLeastなどの1つ以上のブール変数に適用できる任意の演算子を含めることができるため、より柔軟なルールベースやツリーベースの方法論と比較して高い表現力を提供します。

この問題では、アルゴリズムのパフォーマンスを最大化しながら複雑さを最小化するという2つの競合する目標があります。そのため、1つの最適化手法を適用するか、2つの目標を組み合わせるか、あるいは1つの目標を制約する従来のアプローチではなく、私たちは両方を組み込むことを選びました。これにより、一般的なパフォーマンス指標としてバランスの取れた正確さを主なメトリックとして使用しています。

また、AtLeastなどの演算子を含めることで、特定の状態を示す医療症状のチェックリストなど、高い解釈可能性が必要なチェックリストのニーズに対応するアイデアに動機付けられました。このような症状のチェックリストを使用して、陽性診断には最低限の数が存在する必要があるという方法で意思決定が行われることが考えられます。同様に、金融業界では、大きなリストからの要素の存在に基づいて銀行が顧客にクレジットを提供するかどうかを決定することがあるかもしれません。

私たちはXAIモデルを成功裏に実装し、信用、顧客の行動、医療状態のいくつかの公開データセットでベンチマークを行いました。私たちは、私たちのモデルが一般的に他のよく知られた代替手法と競争力があることを発見しました。また、私たちのXAIモデルは、高速な整数線形プログラミング（ILP）または二次制約のないバイナリ最適化（QUBO）を解くための特殊なハードウェアや量子デバイスで動作する可能性があります。QUBOソルバーの追加により、反復数が減少し、非局所的な移動の高速な提案による高速化が実現されます。

前述のように、ブール式を使用した解釈可能なAIモデルは、医療およびFidelityの金融分野（クレジットスコアリングやなぜ一部の顧客が製品を選択したのかを評価するためなど）において多くの応用があります。これらの解釈可能なルールを作成することにより、製品開発や改善、およびマーケティングキャンペーンの最適化に向けたさらなる洞察を得ることができます。

私たちの調査結果に基づいて、表現力のあるブール式を使用した解釈可能なAIは、さらなる説明可能性が求められるユースケースにおいて適切であり望ましいと結論付けました。また、量子コンピューティングが進化し続ける中で、特殊なハードウェアアクセラレーターを使用することで潜在的な高速化の機会が得られると予想しています。

今後の課題は、これらの分類器を他のデータセットに適用すること、新しい演算子を導入すること、またはこれらの概念を他のユースケースに適用することに焦点を当てることができます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!