アラウカナXAI:医療における意思決定木を用いたローカル説明性

アラウカナXAI:医療の意思決定木によるローカル説明性

ヘルスケアにおけるAI支援の意思決定の透明性を向上させるため、CARTに基づいた新しいモデルに依存しない事後のXAIアプローチを紹介します

チリのモンキーパズルツリーパインからアラウカニアという言葉が来ていますが、それはまた、美しい鶏の品種の名前でもあります。© MelaniMarfeld from Pixabay

なぜAIはこれを間違えたのか?

人工知能の領域では、複雑なAIシステムの透明性と理解可能性の不足に関する懸念が増しています。最近の研究では、ブースティング、バギング、ディープラーニング技術などの不透明なシステムの内部動作を明らかにするための説明モデルの開発に取り組まれています。

ローカルとグローバルの説明性

説明モデルは、AIシステムの動作を次の2つの異なる方法で明らかにすることができます:

  • グローバルの説明性。グローバルの説明者は、AI分類器がどのように動作するかについて包括的な理解を提供します。彼らは、異なる入力やシナリオにわたって一貫して存在する総合的なパターン、傾向、バイアス、およびその他の特徴を明らかにすることを目指しています。
  • ローカルの説明性。一方、ローカルの説明者は、単一のインスタンスに対するAIシステムの意思決定プロセスに関する洞察を提供します。モデルの予測に大きく影響を与えた特徴や入力を強調することで、ローカルの説明者は特定の決定がどのようになされたかの一部を示します。ただし、これらの説明は他のインスタンスには適用されない可能性があり、モデルの全体的な振る舞いを完全に理解するものではありません。

信頼できる透明なAIシステムへの需要の増加は、複雑なブラックボックスモデルの普及によってのみ引き起こされているわけではありません。これらのモデルはその精度で知られていますが、解釈可能性には限界があります。また、データやデータ駆動型アプリケーションの誤用から個人を保護するための新しい規制(例:人工知能法、一般データ保護規則(GDPR)、または米国国防総省の人工知能倫理原則)への遵守の必要性にも動機付けられています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

データサイエンス

「David Smith、TheVentureCityの最高データオフィサー- インタビューシリーズ」

デビッド・スミス(別名「デビッド・データ」)は、TheVentureCityのチーフデータオフィサーであり、ソフトウェア駆動型のス...

人工知能

「UVeyeの共同設立者兼CEO、アミール・ヘヴェルについてのインタビューシリーズ」

アミール・ヘヴァーは、UVeyeのCEO兼共同創設者であり、高速かつ正確な異常検出により、自動車およびセキュリティ産業に直面...

人工知能

『ジュリエット・パウエル&アート・クライナー、The AI Dilemma – インタビューシリーズの著者』

『AIのジレンマ』は、ジュリエット・パウエルとアート・クライナーによって書かれましたジュリエット・パウエルは、著者であ...

人工知能

「サティスファイラボのCEO兼共同創設者、ドニー・ホワイト- インタビューシリーズ」

2016年に設立されたSatisfi Labsは、会話型AI企業のリーディングカンパニーです早期の成功は、ニューヨーク・メッツ、メイシ...

機械学習

3つの質問:大規模言語モデルについて、Jacob Andreasに聞く

CSAILの科学者は、最新の機械学習モデルを通じた自然言語処理の研究と、言語が他の種類の人工知能をどのように高めるかの調査...

人工知能

ディープAIの共同創業者兼CEO、ケビン・バラゴナ氏- インタビューシリーズ

ディープAIの創設者であるケビン・バラゴナは、10年以上の経験を持つプロのソフトウェアエンジニア兼製品開発者です彼の目標...