Diffusersライブラリの開発に関する倫理ガイドライン

'Diffusersライブラリの倫理ガイドラインの開発'

私たちは、一つひとつのコミットによって、私たちのライブラリをより責任あるものにする旅に出ています！

Diffusersライブラリのドキュメンテーションの一部として、倫理的なフレームワークの公開をお知らせできることを誇りに思っています。

拡散モデルの現実のケースアプリケーションと社会への潜在的な負の影響を考慮すると、このイニシアチブは、Diffusersライブラリのメンテナによるコミュニティの貢献に関する技術的な意思決定を導くことを目的としています。私たちは、意思決定の方法について透明性を持ち、何よりも、それらの意思決定を導く価値観を明確にすることを目指しています。

私たちは、倫理を、ガイドとなる価値観、具体的な行動、そして継続的な適応というプロセスとして捉えています。そのため、私たちはガイドラインを時間と共に調整することにコミットし、Diffusersプロジェクトの進化と、それを生かし続けるコミュニティからの価値あるフィードバックに従います。

• 制御ネット（ControlNet）は、🧨ディフューザー内での使用です
• StackLLaMA：RLHFを使用してLLaMAをトレーニングするための実践ガイド
• UnityゲームをSpaceにホストする方法

• 透明性：私たちは、PRの管理やユーザへの選択の説明、技術的な意思決定について透明性を持つことにコミットしています。
• 一貫性：私たちは、プロジェクトの管理においてユーザに同じレベルの注意を保証し、技術的に安定した一貫性を持つことにコミットしています。
• シンプルさ：Diffusersライブラリの使用と活用を容易にするため、プロジェクトのゴールをシンプルで一貫性のあるものにすることにコミットしています。
• アクセシビリティ：Diffusersプロジェクトは、技術的な専門知識を持たないコントリビュータでも実行できるようにすることで、研究成果をコミュニティによりアクセスしやすくするお手伝いをします。
• 再現性：Diffusersライブラリを介して提供されるアップストリームのコード、モデル、データセットの再現性について透明性を持つことを目指しています。
• 責任：コミュニティとチームワークを通じて、この技術の潜在的なリスクと危険を予測し、軽減するために、私たちはユーザに対して共同の責任を持ちます。

さらに、Hugging Faceチームと広くコミュニティによって実装された安全機能とメカニズムの非網羅的なリストを提供しています。

• コミュニティタブ：プロジェクトについて議論し、より良いコラボレーションを図るためのコミュニティタブです。

• タグ機能：リポジトリの作成者は、コンテンツを「一般公開しない」とタグ付けすることができます。

• バイアスの探索と評価：Hugging Faceチームは、Stable DiffusionとDALL-Eのバイアスを対話的にデモンストレーションするスペースを提供しています。この意味で、バイアスの探求と評価をサポート・奨励しています。

• デプロイメントにおける安全性の促進

  • 安全なStable Diffusion：ウェブクロールされたデータセットでトレーニングされたStable Diffusionなどのモデルが不適切な退化に苦しむという問題を緩和します。関連論文：Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models。

  • ハブでの段階的リリース：特に敏感な状況では、一部のリポジトリへのアクセスを制限する必要があります。この段階的リリースは、リポジトリの作成者がその使用に対してより多くの制御を持つための中間ステップとなります。

• ライセンス：OpenRAILsは、より責任ある使用を保証する一連の制限を持ちながら、無料でのアクセスを確保する新しいタイプのライセンスです。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!