「安全で、安心で信頼性のあるAIフレームワークを開発するための専門家の洞察」

専門家による安全性と信頼性を重視したAIフレームワークの開発に向けた洞察

著者：ドクター・チャールズ・ヴァーデマン、ドクター・クリスト・スウィート、ドクター・ポール・ブレナー

バイデン大統領の最近の「執行命令」に基づき、安全で安全性が確保され、信頼できるAIを強調することで、私たちは研究プロジェクトの進捗状況に2年間の信頼できるAI（TAI）の学習結果を共有します。下の図で視覚化されたこの研究イニシアチブは、厳格な倫理的およびパフォーマンス基準を満たすAIを操作化することに焦点を当てています。特に国家安全保障のような敏感な分野において、AIシステムにおける透明性と責任を高める産業のトレンドに合致しています。この記事では、信頼が重要なAIのアプローチから従来のソフトウェアエンジニアリングへの移行について考察しています。

MLパイプラインとAIデベロップメントサイクルに適用されるTAIの次元

• 「架空の世界から現実へ：ChatGPTと真のAI会話のSF夢」
• ユーザーインターフェースの進化：GUIから音声およびジェスチャーコントロールへ
• AdCreative.aiレビュー：広告のための最高のAIマーケティングツールは？

ソフトウェアエンジニアリングからAIエンジニアリングへの移行

「ソフトウェア1.0から2.0および3.0の概念への移行」は、AIに対する信頼を概念化し、実際に遵守するための信頼性のあるインフラストラクチャを必要とします。下の図に示すような、単純な例のMLコンポーネントでも、各レベルで信頼に関する懸念を解決するために理解しなければならない複雑さが示されています。TAIフレームワークサブプロジェクトは、TAI研究製品のソフトウェアとベストプラクティスを統合する統合ポイントを提供することで、このニーズに応えています。こうしたフレームワークは、TAIの実装への障壁を低くします。セットアップを自動化することで、開発者や意思決定者は初期の複雑さに苦戦するのではなく、イノベーションと戦略に取り組むことができます。これにより、信頼は後ろ倒しではなく前提条件となり、データ管理からモデルの展開までの各フェーズが倫理的および運用基準と一致します。その結果、技術的に優れ、倫理的に優れ、戦略的に信頼性の高い高リスク環境向けのAIシステムを展開するための簡素化されたパスが実現します。TAIフレームワークプロジェクトは、既存のオープンソースで持続可能なコミュニティを持つソフトウェアツールとベストプラクティスを調査し、既存の運用環境で直接活用することで、このニーズに応えます。

エクサピットAIフレームワークのコンポーネントと悪用

GitOpsとCI/CD

GitOpsは、特にTAIの枠組みの中でAIエンジニアリングに不可欠な存在となっています。これは、ソフトウェア開発および運用ワークフローの管理方法が進化し、インフラストラクチャやアプリケーションのライフサイクル管理において宣言的なアプローチを提供するものです。この方法論は、AIシステムにおける継続的な品質と倫理的責任を確保する上で重要です。TAIフレームワークプロジェクトは、コードから展開までの開発パイプラインを自動化し合理化するための基盤として、GitOpsを活用しています。このアプローチにより、ソフトウェアエンジニアリングのベストプラクティスが自動的に遵守され、不変の監査トレイル、バージョン管理された環境、シームレスなロールバック機能が可能となります。これによって、複雑な展開プロセスが簡素化されます。さらに、GitOpsは、倫理的考慮事項を統合することにより、倫理的チェックをCI/CDパイプラインの一部として自動化するための構造を提供します。AI開発におけるCI/CDの採用は、品質の維持に関するものだけでなく、AIシステムが信頼性があり、安全で期待どおりに動作することを保証することに関係しています。TAIは、AIの独特な課題、特に生成型AIやプロンプトベースのシステムの時代に入るにつれて、AIの動作の正確さだけでなく、その関連性と安全性も評価できる自動テストプロトコルを推奨しています。テストは、静的なコード分析と単体テストにとどまらず、生成モデルの出力やプロンプトの効果など、AIの振る舞いの動的な検証にまで拡張されます。自動テストスイートは、応答の正確さだけでなく、その関連性と安全性も評価する能力を持つ必要があります。

データ中心および文書化

 

TAIを追求する上で、データ中心のアプローチは基盤となります。このアプローチは、アルゴリズムの複雑さよりもデータの品質と明瞭さを優先し、信頼性と解釈可能性を確立します。このフレームワークの中で、データの整合性と追跡可能性を保つためのさまざまなツールが利用可能です。dvc（データバージョン管理）は特にGitOpsフレームワークとの一致性があり、Gitをデータと実験の管理に拡張します（こちらに代替手法があります）。これにより、コードに対するGitのように、データセットとモデルの正確なバージョン管理が容易になります。これは効果的なCI/CDのために不可欠であり、AIシステムのエンジンに正確で監査可能なデータが一貫して供給されることを保証します。私たちは、nbdevを活用しています。これはJupyter Notebookを文書化されたコードへのVoAGI（可読性の高いプログラミングおよび探索的プログラミング）に変換し、探索的な解析から適切に文書化されたコードへの移行を効率化します。ソフトウェア開発の性質はこのような「プログラミング」スタイルへと進化しており、AIアプリケーションのドキュメンテーションと構築の支援を行うAI「Co-Pilots」の進化によって加速されています。ソフトウェアボールマテリアル（SBoM）やSPDXなどのオープンスタンダードで提唱されるAIボールマテリアルは、このエコシステムに不可欠です。これらはdvcとnbdevを補完し、AIモデルの由来、構成、コンプライアンスをカプセル化した詳細な記録となります。SBoMは、AIシステムの各要素が確認および検証されることを保証する、コンポーネントの包括的なリストを提供します。AIボールマテリアルは、データソースと変換プロセスを含めることで、AIアプリケーションのモデルとデータの透明性を提供します。これらを組み合わせることで、AIシステムの由来を完全に理解し、ステークホルダー間で信頼を築き、理解を促進します。

 

TAIの重要性

 

倫理的でデータ中心のアプローチは、TAIにおいて効果的かつ信頼性のあるAIシステムを確保します。私たちのTAIフレームワークプロジェクトは、データバージョン管理のdvcや文書化可能なプログラミングのnbdevなどのツールを活用しています。これはAIのニュアンスに対応したソフトウェアエンジニアリングの変化を反映しています。これらのツールは、AI開発プロセスの初めからデータの品質、透明性、倫理的考慮を統合するという大きなトレンドの象徴です。民間および国防部門においても、TAIの原則は一貫しています：システムの信頼性は、それが構築されるデータと倫理的なフレームワークに依存します。AIの複雑さが増すにつれて、この複雑さを透明かつ倫理的に処理できる堅牢なフレームワークへのニーズも高まります。AIの将来、特にミッションクリティカルなアプリケーションにおいては、これらのデータ中心および倫理的アプローチの採用にかかっており、あらゆる領域におけるAIシステムへの信頼を確固たるものにすることでしょう。

 

著者について

 

チャールズ・ヴァードマン、クリス・スウィート、ポール・ブレナーは、ノートルダム大学研究コンピューティングセンターの研究科学者です。彼らは科学ソフトウェアやアルゴリズムの開発における数十年の経験を持ち、技術移転のための応用研究に焦点を当てています。データサイエンスおよびサイバーインフラストラクチャの領域で、多数の技術論文、特許、資金提供された研究活動を持っています。週ごとにTAIに関連した学生の研究プロジェクトに連動した情報を見つけることができます。

[Dr. チャールズ・ヴァードマン](https://www.linkedin.com/in/charles-vardeman-7897759)は、ノートルダム大学研究コンピューティングセンターの研究科学者です。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!