ペンシルバニア大学の研究者が、軽量で柔軟、モデルに依存しないオープンソースのAIフレームワーク「Kani」を導入し、言語モデルアプリケーションの構築を行います

Pennsylvania University researchers will introduce the lightweight, flexible, model-independent open-source AI framework Kani and build language model applications.

大規模言語モデルの応用は人気が高まっています。その驚異的な能力により、ますます洗練されてきています。ツールの使用追跡や検索の強化などの機能を組み込むことで、これらのモデルは人工知能コミュニティで注目を浴びています。このようなアプリケーションを構築するための既存のフレームワークは、開発者に対してプロンプトのフォーマットやカスタマイズの制限を指示することで、意見のあるアプローチを取っています。

これらの問題に対処するために、ペンシルベニア大学の研究チームは最近、Kaniという軽量で拡張可能なモデル非依存のオープンソースフレームワークを導入しました。Kaniはチャットインタラクションのコア要素をサポートすることで、開発者がさまざまな複雑な機能を追加できるように設計されています。モデルのインタラクション、チャットの管理、堅牢な関数呼び出しは、そのいくつかです。

Kaniのビルディングブロックを使用して言語モデルアプリケーションを作成することで、開発者は事前定義された構造や制限に制約されることなく、柔軟性とカスタマイズ性を備えたアプリケーションを作成できます。すべてのKaniの基本機能は簡単に変更できるように作成されており、チームは広範なドキュメントも提供しています。これにより、開発者はフレームワークの機能を変更して、独自の要求や要件に合わせることができます。

Kaniは学術研究者、アマチュア、ビジネスパーソンなど、さまざまな人々にとって有用なツールです。Kaniは、研究者が作業の再現性を向上させるために、細かい制御を可能にしながら、言語モデルアプリケーションの作成を支援します。GPT-4などの強力なモデルでも、ユーザーはわずかなコードでアプリの設計を迅速に開始するためにKaniを使用できます。Kaniの柔軟性と耐久性は、特にチャットの管理や関数の管理などの分野で、産業労働者にも有利です。

KaniはPython 3.10+を必要とし、言語モデルのインストールとクエリの簡素化を実現します。pipを介してインストールでき、OpenAIエンジンなどのコア依存関係とオプションの拡張機能を提供します。Kaniフレームワークの基本処理ユニットは「Kani」と呼ばれます。Kaniを使用してアプリケーションを構築する際に、ユーザーはさまざまなKaniオブジェクトと操作することになります。これらのオブジェクトには、推論エンジン、チャット履歴、関数コンテキストの3つの基本要素が含まれます。

推論エンジンを介して、Kaniオブジェクトは言語モデルと通信します。この対話により、アプリケーションのコードを変更することなく、開発者は異なるモデル間をスムーズに移行することができます。Kaniはトークンの総数とトピックの切り替えを追跡します。対話の文脈がモデルの範囲内にとどまり、過度にならないようにします。最後に、言語モデルはKaniを介して呼び出し可能な関数にアクセスできます。Kaniは関数呼び出しを検証し、適切なコードを実行し、結果を推論エンジンに送信します。

まとめると、Kaniは言語モデルアプリケーション開発者が直面する問題に対する解決策として提示されています。基本的なビルディングブロックを提供することで、カスタマイズ、柔軟性、信頼性を備えた信じられないほどのアプリケーションを作成する方法を開発者に提供することで、コントロールと相互運用性を維持します。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

機械学習

Google AIは、高いベンチマークパフォーマンスを実現するために、線形モデルの特性を活用した長期予測のための高度な多変量モデル、TSMixerを導入します

近年、正確な時系列予測の重要性は、多くの現実世界のアプリケーションにおいて極めて重要となっています。需要トレンドの予...

データサイエンス

Pythonを使用したデータのスケーリング

モデル構築に適したデータをスケーリングする方法

機械学習

2024年のインフラストラクチャー予測

企業はAIの導入の転換点を見ているランサムウェアの脅威が罰則と衝突し、ハイブリッドクラウドアーキテクチャが主流となり、...

データサイエンス

「分析的に成熟した組織(AMO)の構築」

組織の分析の成熟度を理解することは、データ関連のプロとして強力な競争力を持つことができますそれにより、「非分析的」な...

機械学習

「AWS reInvent 2023での生成的AIとMLのガイド」

はい、AWS reInventの季節がやってきましたいつものように、場所はラスベガスです!カレンダーに印をつけ、ホテルを予約し、...

データサイエンス

分子の言語を学び、その特性を予測する

このAIシステムは、分子の特性を予測するためにわずかな量のデータしか必要としませんこれにより、薬物の発見や材料の開発を...