ペンシルバニア大学の研究者が、軽量で柔軟、モデルに依存しないオープンソースのAIフレームワーク「Kani」を導入し、言語モデルアプリケーションの構築を行います

Pennsylvania University researchers will introduce the lightweight, flexible, model-independent open-source AI framework Kani and build language model applications.

大規模言語モデルの応用は人気が高まっています。その驚異的な能力により、ますます洗練されてきています。ツールの使用追跡や検索の強化などの機能を組み込むことで、これらのモデルは人工知能コミュニティで注目を浴びています。このようなアプリケーションを構築するための既存のフレームワークは、開発者に対してプロンプトのフォーマットやカスタマイズの制限を指示することで、意見のあるアプローチを取っています。

これらの問題に対処するために、ペンシルベニア大学の研究チームは最近、Kaniという軽量で拡張可能なモデル非依存のオープンソースフレームワークを導入しました。Kaniはチャットインタラクションのコア要素をサポートすることで、開発者がさまざまな複雑な機能を追加できるように設計されています。モデルのインタラクション、チャットの管理、堅牢な関数呼び出しは、そのいくつかです。

Kaniのビルディングブロックを使用して言語モデルアプリケーションを作成することで、開発者は事前定義された構造や制限に制約されることなく、柔軟性とカスタマイズ性を備えたアプリケーションを作成できます。すべてのKaniの基本機能は簡単に変更できるように作成されており、チームは広範なドキュメントも提供しています。これにより、開発者はフレームワークの機能を変更して、独自の要求や要件に合わせることができます。

Kaniは学術研究者、アマチュア、ビジネスパーソンなど、さまざまな人々にとって有用なツールです。Kaniは、研究者が作業の再現性を向上させるために、細かい制御を可能にしながら、言語モデルアプリケーションの作成を支援します。GPT-4などの強力なモデルでも、ユーザーはわずかなコードでアプリの設計を迅速に開始するためにKaniを使用できます。Kaniの柔軟性と耐久性は、特にチャットの管理や関数の管理などの分野で、産業労働者にも有利です。

KaniはPython 3.10+を必要とし、言語モデルのインストールとクエリの簡素化を実現します。pipを介してインストールでき、OpenAIエンジンなどのコア依存関係とオプションの拡張機能を提供します。Kaniフレームワークの基本処理ユニットは「Kani」と呼ばれます。Kaniを使用してアプリケーションを構築する際に、ユーザーはさまざまなKaniオブジェクトと操作することになります。これらのオブジェクトには、推論エンジン、チャット履歴、関数コンテキストの3つの基本要素が含まれます。

推論エンジンを介して、Kaniオブジェクトは言語モデルと通信します。この対話により、アプリケーションのコードを変更することなく、開発者は異なるモデル間をスムーズに移行することができます。Kaniはトークンの総数とトピックの切り替えを追跡します。対話の文脈がモデルの範囲内にとどまり、過度にならないようにします。最後に、言語モデルはKaniを介して呼び出し可能な関数にアクセスできます。Kaniは関数呼び出しを検証し、適切なコードを実行し、結果を推論エンジンに送信します。

まとめると、Kaniは言語モデルアプリケーション開発者が直面する問題に対する解決策として提示されています。基本的なビルディングブロックを提供することで、カスタマイズ、柔軟性、信頼性を備えた信じられないほどのアプリケーションを作成する方法を開発者に提供することで、コントロールと相互運用性を維持します。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

データサイエンス

AIと機械学習のためのReactJS:強力な組み合わせ

このブログ記事では、ReactJSとAI/MLが組み合わされることで、パワフルでインタラクティブなウェブアプリケーションを構築す...

データサイエンス

「ChatGPTのリリースはオープンデータの生産に影響を与えているのか? 研究者が調査し、人気を集めるLLMがStackOverflowのコンテンツの大幅な減少をもたらしていることを検証」

大規模言語モデル(LLM)は、新しいアップデートや新しいリリースごとに人気が高まっています。BERT、GPT、PaLMなどのLLMは、...

機械学習

ベイジアンマーケティングミックスモデルの理解:事前仕様に深く入り込む

ベイジアン・マーケティング・ミックス・モデリングは、特にLightweightMMM(Google)やPyMC Marketing(PyMC Labs)などのオ...

AIニュース

AIを使用して、自分の目で直接拡張現実(AR)を体験してみましょう

技術の飛躍により、Brilliant Labsは最先端のオープンソースARレンズ「Monocle」で拡張現実市場を変革しました。この革新的な...

機械学習

「取得した文書の圧縮は言語モデルのパフォーマンスを向上させることができるのか?このAIの論文では、圧縮と選択的な拡張によって検索増強型LMを改良するためのRECOMPを紹介しています」

計算リソースを管理しながらパフォーマンスを最適化することは、ますます強力な言語モデルの時代における重要な課題です。テ...

データサイエンス

MusicGenを再構築:MetaのAI音楽における地下進化

2023年2月、Googleは彼らの生成音楽AI MusicLMで波風を立てましたその時点で、二つのことが明確になりました 多くの人が次の...