Hugging FaceモデルをGradio 2.0で使用して混在させる

Hugging FaceモデルをGradio 2.0で使用

Gradioブログからの転載。

Hugging Face Model Hubには、ユーザーによって提出された10,000以上の機械学習モデルがあります。フィンランド語と英語の翻訳や中国語の音声認識など、あらゆる種類の自然言語処理モデルが見つかります。最近では、ハブは画像分類や音声処理のためのモデルも含めるように拡大しました。

Hugging Faceは常にモデルをアクセス可能で使いやすくすることに取り組んできました。 transformersライブラリを使用すると、わずか数行のコードでモデルを読み込むことができます。モデルを読み込んだ後、新しいデータに対してプログラム上で予測を行うことができます。しかし、機械学習モデルを使用しているのはプログラマーだけではありません！機械学習におけるますます一般的なシナリオは、異分野のチームにモデルをデモすることや、非プログラマーがモデルを使用すること（バイアスや不具合箇所の発見などのため）です。

Gradioライブラリを使用すると、機械学習開発者は機械学習モデルから簡単にデモやGUIを作成し、Googleドキュメントのリンクを共有するのと同じくらい簡単に共有することができます。そして、Gradio 2.0ライブラリを使用すると、たった1行のコードでほぼどんなHugging FaceモデルでもGUIをロードして使用することができます。以下に例を示します：

• Hugging Face HubでのSentence Transformers
• Hugging Face Hubへようこそ、spaCyさん
• スケールにおけるトランスフォーマーの最適化ツールキット、Optimumをご紹介します

デフォルトでは、これはHuggingFaceのホステッド推論APIを使用します（独自のAPIキーを提供するか、APIキーなしでパブリックアクセスを使用できます）。また、pip install transformersを実行してモデルの計算をローカルで実行することもできます。

デモをカスタマイズしたいですか？Interfaceクラスのデフォルトパラメータをオーバーライドすることができます。

しかし、まだまだあります！Model Hubには既に10,000以上のモデルがありますが、それらは単体のコードとしてではなく、より洗練されたアプリケーションやデモを作成するためのレゴブロックのようなものと見なしています。

例えば、Gradioを使用すると複数のモデルを並列に読み込むことができます（Hugging Faceの4つの異なるテキスト生成モデルを比較して、使用ケースに最適なモデルを見つけたい場合などを想像してください）：

また、モデルを直列に配置することもできます。これにより、複数の機械学習モデルから構築された複雑なアプリケーションを簡単に構築することができます。例えば、次のようなアプリケーションを3行のコードで作成することができます：フィンランドのニュース記事を翻訳して要約するアプリケーションです。

さらに、複数のモデルを並列に比較しながらシリーズに混ぜることもできます（ぜひ試してみてください！）。これらのいずれかを試すには、Gradioをインストール（pip install gradio）し、試したいHugging Faceモデルを選択してください。GradioとHugging Faceでビルドを始めましょう 🧱⛏️

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!