TensorFlowを使用して責任あるAIを構築する方法は？

How to build responsible AI using TensorFlow?

イントロダクション

人工知能（AI）は、今週リリースされる新しいAIアプリ、機能、プラットフォームが数百あるほど、前例のない勢いで急速に発展しています。AIが発展する速度につれて、技術の安全性を確保することがますます重要になってきています。これが責任あるAIが登場する理由です。責任あるAIとは、倫理、透明性、責任を遵守し、AIシステムの持続可能な開発と利用を指します。AI企業はそれぞれ独自のルールやチェックリストを持っていますが、TensorFlowやMicrosoftのようなプラットフォームは、誰でもAIを責任あるものにするために使用できるツールのセットを提供しています。この記事では、各機械学習モデル展開フェーズで使用される、最も重要なTensorFlowツールを紹介しています。

学習目標：

• TensorFlowが、広範なツールとリソースを提供することで、責任あるAIアプリケーションの構築にどのように貢献するか理解する。
• 機械学習モデル展開の異なるフェーズについて学ぶ。
• 機械学習モデル展開プロセスの各フェーズでTensorFlowが提供するさまざまなツールを探索する。

責任あるAIとは？

責任あるAIとは、プライバシー、公正性、安全性、持続可能性などの社会的価値に合致するように、倫理的、透明的、責任を持って人工知能（AI）システムを開発および使用することを指します。責任あるAIは、AIシステムが社会全体の利益になるように設計および使用され、有害な影響を与えたり、バイアスを増幅することを防ぐことができます。

責任あるAIの主要な原則には、透明性、責任、公正性、プライバシー、安全性、持続可能性が含まれます。開発者は、AIシステムの設計、開発、展開、および継続的な監視のすべての段階でこれらの原則を適用することができます。

• Microsoft AIは、バッチサイズや帯域幅の制限に阻まれることなく、効率的な大規模モデルのトレーニングにZeROを搭載した高度な通信最適化戦略を導入しています
• CoDiに会おう：任意対任意合成のための新しいクロスモーダル拡散モデル
• AIがYouTubeの多言語吹替を開始します

今日は、TensorFlowを使って責任あるAIアプリケーションを構築する方法について探求します。

TensorFlowと責任あるAIへの貢献

TensorFlowは、機械学習モデルの構築および展開のためのオープンソースプラットフォームです。Googleによって開発されたTensorFlowは、画像認識、音声認識、自然言語処理、予測分析など、さまざまなドメインでAIアプリケーションを作成するためのさまざまなツールとリソースを提供しています。

オープンソースであるため、TensorFlowは透明性と解釈可能性の2つの重要な要素を持っています。さらに、このプラットフォームは、責任あるAIアプリケーションを構築するためのツールとガイドラインをリリースしています。ここでは、機械学習モデル展開のさまざまなフェーズで使用されるいくつかの有用なツールを探索してみましょう。

フェーズ1：問題の定義

TensorFlowには、問題定義フェーズのためのツールセットがあります。PAIR（People + AI Research）ガイドブックやPAIR Explorablesは、AIアプリケーションを計画する際に役立ちます。TensorFlowのガイドラインには、データセットの選択、モデルの選択、およびモデルのパフォーマンス評価の戦略が含まれています。これらのガイドラインに従うことで、AIアプリケーションを正確で信頼性があり、効果的にすることができます。

PAIRガイドブックは、ユーザーのニーズと価値に合わせて設計されたAI製品の包括的なガイダンスを提供しています。PAIR Explorablesは、機械学習アルゴリズムや公正性に関連する複雑なトピックなど、責任あるAIに関連する複雑なトピックを探求するためのインタラクティブなブログです。

フェーズ2：データ収集と準備

機械学習の第二フェーズは、データの収集と準備です。TensorFlowには、このフェーズを容易にするためのいくつかのツールがあります。

TensorFlowデータバリデーション（TFDV）

TensorFlowが提供する最も有用なツールの1つは、TensorFlowデータバリデーション（TFDV）です。TFDVは、トレーニングおよびサービングデータの異常を特定するために設計されています。また、データを調べて自動的にスキーマを作成することもできます。このコンポーネントは、データの異常のさまざまなクラスを検出するように設定できます。

TFDVは、データの統計情報をユーザーの期待を規定するスキーマと比較することによって、妥当性チェックを実行します。これにより、トレーニングまたはテストに使用される前に、データが特定の標準を満たしていることを確認できます。さらに、TFDVは、トレーニングおよびサービングデータの例を比較することでトレーニングとサービングのズレを検出することができます。これは、モデルが本番で遭遇するデータを表すデータでトレーニングされていることを保証するために重要です。

データを知る（KYD）

このフェーズでTensorFlowが提供するもう1つの便利なツールは、データを知る（KYD）です。KYDは、データの構造と内容を理解するためのシンプルなインターフェースを提供します。ユーザーは、データの特性をよりよく理解するために、データを迅速に探索して視覚化することができます。このツールの最も興味深い点は、そのインタラクティブなGUIです。ユーザーは、ラベルと様々な属性に基づいて、データセット内に新しいグループを作成することもできます。現時点ではベータフェーズです。

フェーズ3：構築とトレーニング

機械学習ワークフローの第三段階では、モデルの構築とトレーニングが行われます。この段階では、TensorFlowは、プライバシー保護と解釈可能な技術を使用して、モデルを効果的にトレーニングするための多数のツールを提供しています。

TensorFlow Federated（TFF）

TensorFlow Federated（TFF）は、分散データ上での機械学習のために設計されたオープンソースのフレームワークです。この機械学習のアプローチは、Federated Learningとして知られており、多数の参加クライアント間でトレーニングデータをローカルに保持しながら共有グローバルモデルをトレーニングすることを含みます。 TFFは、トレーニングプロセスを複数のデバイスに分散することでデータプライバシーを保護しながら、より効率的なトレーニングを可能にします。

TensorFlow Lattice（TFL）

TensorFlowでモデルをトレーニングするための別の有用なツールは、TensorFlow Lattice（TFL）です。このライブラリは、柔軟で制御された解釈可能な格子ベースのモデルを実装しています。 TFLを使用すると、単調性、凸性、およびペアワイズ信頼などの制約を満たす共通感覚またはポリシードリブンの形状制約を組み込むことで、学習プロセスにドメイン知識を追加できます。 TFLを使用すると、正確で解釈可能なモデルを構築でき、モデルがどのように予測に到達したかを理解することが容易になります。

フェーズ4：モデル評価

モデルを評価するためには、プライバシー、公正性、解釈可能性、セキュリティなど、いくつかの要素を考慮する必要があります。 TensorFlowは、指定されたモデルのこれらの要素を評価するためのさまざまなツールを提供しています。

Fairness Indicators

Fairness Indicatorsは、バイナリおよびマルチクラス分類器の一般的に識別される公正性メトリックを簡単に計算するためのライブラリです。このツールスイートは、モデルのパフォーマンスをサブグループ間でベースラインまたは他のモデルと比較します。また、信頼区間を使用して、統計的に有意な不均衡を提示し、複数の閾値で評価を実行します。

What-If Tool（WIT）

WITを使用すると、さまざまな入力変数の変化に伴うモデルのパフォーマンスの変化を視覚的にテストできます。これにより、ツールの主な目的である仮想的なシナリオのセットに対してAIモデルをテストできます。

TensorFlow Privacy Tests

TensorFlow Privacy Testsは、分類モデルのプライバシー特性を評価する別のライブラリです。これにより、実世界のアプリケーションに展開する前にモデルのプライバシー特性を評価できます。

フェーズ5：展開とモニタリング

機械学習（ML）および人工知能（AI）モデルが準備できたら、次のステップは展開です。ただし、本番環境でモデルを展開すると、パフォーマンスに影響を与える予期しない問題が発生する可能性があります。したがって、モデルのパフォーマンスを展開後にモニタリングして、潜在的な問題を特定および解決する必要があります。

Model Card Toolkit（MCT）

MCTは、モデルのドキュメント化を簡素化するライブラリです。モデルカードには、構築したMLおよびAIモデルに関するすべての必要な情報が含まれます。この情報には、トレーニング手法、使用されたデータセット、データ収集方法などが含まれる場合があります。 MCTを使用すると、モデルカードの生成が簡素化および自動化され、モデルの開発とパフォーマンスについての文脈と透明性が提供されます。

ML Metadata（MLMD）

MLMDは、ML開発者およびデータサイエンティストのワークフローに関連するメタデータを記録および取得する別のライブラリです。これは、TensorFlow拡張（TFX）の重要な部分ですが、独立した使用を想定して設計されています。本番のMLパイプラインの実行ごとに、様々なパイプラインコンポーネント、その実行（例：トレーニング実行）、および生成されたアーティファクト（例：トレーニングモデル）に関する情報を含むメタデータが生成されます。予期しないパイプラインの動作やエラーが発生した場合、このメタデータはパイプラインコンポーネントのラインナップを分析し、問題をデバッグするのに役立ちます。このメタデータは、ソフトウェア開発のログと同等のものと考えてください。

まとめ

責任あるAIアプリケーションの構築により、AIシステムが倫理的かつ透明に設計および使用されることが保証されます。 TensorFlowは、さまざまなドメインで責任あるAIアプリケーションを作成するための数多くのツールとリソースを提供することで、機械学習モデルの構築と展開に優れたプラットフォームです。 AIシステムのライフサイクル全体で透明性、説明責任、公正性、プライバシー、安全性、および持続可能性の原則に従うことにより、開発者は、モデルが社会全体に利益をもたらし、有害性を最小限に抑え、バイアスを助長しないことを保証できます。 TensorFlowの問題定義、データ収集と準備、構築とトレーニング、モデル評価、および展開とモニタリングのためのツールセットを使用することで、開発者は責任あるかつ効果的なAIアプリケーションを作成するために必要なすべてのものにアクセスできます。

キーポイント：

• TensorFlowは、問題定義、データ準備、トレーニング、評価、展開、モニタリングのツールを備え、画像認識、音声認識、自然言語処理、予測分析などの領域で責任あるAIを可能にします。
• TensorFlowのツールとガイドラインは、透明性、説明責任、公正性、プライバシー、安全性、持続可能性を促進し、社会に利益をもたらす効果的なアプリケーションの実現を可能にします。

よくある質問

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!