ペンシルバニア大学の研究者が、軽量で柔軟、モデルに依存しないオープンソースのAIフレームワーク「Kani」を導入し、言語モデルアプリケーションの構築を行います

Pennsylvania University researchers will introduce the lightweight, flexible, model-independent open-source AI framework Kani and build language model applications.

大規模言語モデルの応用は人気が高まっています。その驚異的な能力により、ますます洗練されてきています。ツールの使用追跡や検索の強化などの機能を組み込むことで、これらのモデルは人工知能コミュニティで注目を浴びています。このようなアプリケーションを構築するための既存のフレームワークは、開発者に対してプロンプトのフォーマットやカスタマイズの制限を指示することで、意見のあるアプローチを取っています。

これらの問題に対処するために、ペンシルベニア大学の研究チームは最近、Kaniという軽量で拡張可能なモデル非依存のオープンソースフレームワークを導入しました。Kaniはチャットインタラクションのコア要素をサポートすることで、開発者がさまざまな複雑な機能を追加できるように設計されています。モデルのインタラクション、チャットの管理、堅牢な関数呼び出しは、そのいくつかです。

Kaniのビルディングブロックを使用して言語モデルアプリケーションを作成することで、開発者は事前定義された構造や制限に制約されることなく、柔軟性とカスタマイズ性を備えたアプリケーションを作成できます。すべてのKaniの基本機能は簡単に変更できるように作成されており、チームは広範なドキュメントも提供しています。これにより、開発者はフレームワークの機能を変更して、独自の要求や要件に合わせることができます。

Kaniは学術研究者、アマチュア、ビジネスパーソンなど、さまざまな人々にとって有用なツールです。Kaniは、研究者が作業の再現性を向上させるために、細かい制御を可能にしながら、言語モデルアプリケーションの作成を支援します。GPT-4などの強力なモデルでも、ユーザーはわずかなコードでアプリの設計を迅速に開始するためにKaniを使用できます。Kaniの柔軟性と耐久性は、特にチャットの管理や関数の管理などの分野で、産業労働者にも有利です。

KaniはPython 3.10+を必要とし、言語モデルのインストールとクエリの簡素化を実現します。pipを介してインストールでき、OpenAIエンジンなどのコア依存関係とオプションの拡張機能を提供します。Kaniフレームワークの基本処理ユニットは「Kani」と呼ばれます。Kaniを使用してアプリケーションを構築する際に、ユーザーはさまざまなKaniオブジェクトと操作することになります。これらのオブジェクトには、推論エンジン、チャット履歴、関数コンテキストの3つの基本要素が含まれます。

推論エンジンを介して、Kaniオブジェクトは言語モデルと通信します。この対話により、アプリケーションのコードを変更することなく、開発者は異なるモデル間をスムーズに移行することができます。Kaniはトークンの総数とトピックの切り替えを追跡します。対話の文脈がモデルの範囲内にとどまり、過度にならないようにします。最後に、言語モデルはKaniを介して呼び出し可能な関数にアクセスできます。Kaniは関数呼び出しを検証し、適切なコードを実行し、結果を推論エンジンに送信します。

まとめると、Kaniは言語モデルアプリケーション開発者が直面する問題に対する解決策として提示されています。基本的なビルディングブロックを提供することで、カスタマイズ、柔軟性、信頼性を備えた信じられないほどのアプリケーションを作成する方法を開発者に提供することで、コントロールと相互運用性を維持します。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

AIニュース

「LangChainとOpenAI APIを使用した生成型AIアプリケーションの構築」

イントロダクション 生成AIは、現在の技術の最先端をリードしています。画像生成、テキスト生成、要約、質疑応答ボットなど、...

機械学習

「FANToMとは:相互作用における機械心理理論のストレステストのためのベンチマーク」

会話型AIでは、心の理論(ToM)を問いに答えることで評価することが重要な基準となっています。しかし、受動的な物語はToMの...

AI研究

メタスの新しいテキストから画像へのモデル - CM3leon論文の説明

メタは最近、Stable-Diffusion [2]、Midjourney、またはDALLE [3]のような拡散に基づかない最新のテキストから画像へのモデル...

機械学習

学習率のチューニングにうんざりしていますか?DoGに会ってみてください:堅牢な理論的保証に裏打ちされたシンプルでパラメータフリーの最適化手法

テルアビブ大学の研究者は、学習率パラメータを必要とせず、経験的な量のみに依存する調整フリーの動的SGDステップサイズ公式...

機械学習

「Amazon SageMaker Model Registry、HashiCorp Terraform、GitHub、およびJenkins CI/CDを使用して、マルチ環境設定でのパイプラインの促進を行う」

「機械学習運用(MLOps)プラットフォームを組み立てることは、人工知能(AI)と機械学習(ML)の急速に進化する状況において...

AIニュース

「人工知能AIを搭載したトップのChrome拡張機能」

AI技術の進歩により、機械が代わりに文章を作成するというアイデアは、科学小説から現実に移りました。現在では、いくつかの...