Learn more about Search Results Lamini

「LangChain、Google Maps API、Gradioを使用してスマートな旅行スケジュール案内ツールを作る（パート1）」

2022年の後半にChatGPTがリリースされて以来、大規模な言語モデル（LLM）とそれらの応用に対する興味が、チャットボットや検索などの消費者向け製品において爆発的に増えてきました...

「BlindChat」に会いましょう：フルブラウザおよびプライベートな対話型AIを開発するためのオープンソースの人工知能プロジェクト

BlindChatは、MithrilSecurityによって立ち上げられたオープンソースでプライバシー重視のChatGPTの代替案です。BlindChatは、第三者のアクセスなしで完全にウェブブラウザ内で動作する世界初の対話型AIを作成することを目指すオープンソースのAIイニシアチブです。現在の一般的なAIソリューションでは、AIモデルの使用と引き換えにユーザーデータをAIサービスプロバイダーと共有することが一般的です。これを許可すると、ユーザーデータが盗まれるリスクがあります。データはLLMの強化に貴重なリソースですので、いくつかの手法はユーザーデータを暗黙的に調整してモデルの学習をより良くすることがあります。ユーザーは、このような方法でLLMが個人情報を記憶する危険にさらされます。 BlindChatは、ローカル推論を実行するか、セキュアな環境であるセキュアエンクレーブを使用することにより、ユーザーデータが常にプライベートに保たれ、ユーザーが完全なコントロールを保持することを保証します。 BlindChatには、主に2つの対象者がいます： 消費者：ユーザープライバシーを優先する新しい、より安全なオプションを提供します。現在、ほとんどの消費者はデータをAIサービスに提供していますが、プライバシー設定が明確でないか存在しないことがよくあります。 BlindChatチームは、開発者がより簡単にプライバシーに配慮した対話型AIを提供できるように、プラットフォームの構成と展開の簡素化に幅広い作業を行っています。 MithrilSecurityは、ブラウザが通常サーバーが行う機能を実行できるようにプログラムを変更しました。したがって、AIサービスプロバイダーは信頼モデルに含まれておらず、プライバシーが保護されます。 透明かつ安全なAIは、機能をサーバーからユーザー側のブラウザに移動することで実現されます。これにより、エンドユーザーの個人情報が保護され、データに対する主体性が与えられます。たとえば、トランスフォーマーを使用すると、推論をローカルで実行することができ、JavaScriptを使用することで、チャットはユーザーのブラウザ履歴に保存されます。その結果、AIサービスの管理者はユーザーの情報を見ることができません。このため、このサービスは「BlindChat」と呼ばれています。 リモートエンクレーブモードがアクティブになっている場合、データはサーバーにのみ送信されます。この設定では、サーバーはエンクレーブという検証済みで安全なコンテナ内に展開され、完全な周辺防御を提供し、外部からのアクセスをブロックします。エンクレーブのAIプロバイダーの管理者でさえ、ユーザー情報にアクセスすることはできません。 MithrilSecurityには、ユーザーに利用可能な2つの異なるプライバシーオプションがあります： オンデバイス設定では、モデルがユーザーのブラウザにローカルにダウンロードされ、推論がローカルで処理されます。 利用可能な帯域幅と処理能力の制約のため、このモードはより複雑なモデルには適しています。 ゼロトラストAI APIを使用する場合、情報はモデルが保存されている安全な場所であるエンクレーブに送信され、リモートで推論されます。これらの設定は、強力な分離と検証により包括的なセキュリティを提供します。AIサービスプロバイダーはユーザーデータに対して暗号化されていないアクセス権を持ちません。 このプロジェクトは、3つの主要な部分で構成されています： ユーザーインターフェース：チャットとのやり取り時にユーザーが見る画面です。チャットウィンドウがあり、将来的にはドキュメントの読み込みや音声制御などのためのウィジェットやプラグインが追加されます。 開発者は、ユーザー要求を処理するために使用するプライベートLLMを完全に制御します。現在のソリューションはローカルモデルまたはリモートエンクレーブであり、透明性と機密性のある推論を提供します。 チャットログなどのデータの保存に使用されるストレージのタイプは、開発者によって設定可能です。 MithrilSecurityは現在、LaMini-Flan-T5の推論のみを許可しています。370Mがリリースされた後、パフォーマンス向上のためにMicrosoft phi-1.5を統合する予定です。クライアント側でLlamaIndex-TSの統合も開発中であり、RAGを使用してブラウザ内で機密なドキュメントをクエリすることができます。

ラミニAIに会ってください：開発者が簡単にChatGPTレベルの言語モデルをトレーニングすることができる、革命的なLLMエンジン

LLMをゼロから教えることは難しいです。なぜなら、微調整されたモデルがなぜ失敗するのかを理解するのには時間がかかり、小さなデータセットに対する微調整の反復サイクルは通常数ヶ月かかるからです。一方、プロンプトの調整の反復サイクルは数秒で行われますが、数時間後には性能が安定します。倉庫のギガバイトのデータはプロンプトのスペースに収まりません。 Laminiライブラリのわずか数行のコードを使うことで、機械学習に精通していない開発者でも、巨大なデータセット上でChatGPTと同等の高性能LLMをトレーニングすることができます。Lamini.aiによってリリースされたこのライブラリの最適化は、プログラマが現在利用できるものを超えており、RLHFなどの複雑な技術や幻想抑制などの簡単な技術も含まれています。OpenAIのモデルからHuggingFaceのオープンソースのモデルまで、Laminiは1行のコードでさまざまなベースモデルの比較を実行することを簡単にします。 LLMを開発するための手順： Laminiは、微調整されたプロンプトとテキストの出力が可能なライブラリです。 Laminiライブラリを使用して簡単に微調整やRLHFを行う これは、指示に従うLLMをトレーニングするために必要なデータを作成するために商業利用が承認された最初のホストされたデータジェネレータです。 上記のソフトウェアを使用して指示に従うためのデータを作成するための最小限のプログラミング作業で無料でオープンソースのLLMを使用できます。 ベースモデルの英語の理解力は、一般の使用には十分です。しかし、自分の業界の専門用語や標準を教える場合、プロンプトの調整だけでは不十分であり、ユーザーは独自のLLMを開発する必要があります。 LLMは、以下の手順に従うことでChatGPTのようなユーザーケースを処理できます： ChatGPTのプロンプトの調整または他のモデルの使用。 チームは使いやすさを最適化し、LaminiライブラリのAPIを使用してモデル間を素早くプロンプト調整し、1行のコードでOpenAIとオープンソースのモデルを切り替えることができます。 大量の入出力データを作成。 これにより、それが受け取ったデータにどのように反応すべきかを示します。Laminiライブラリを使用してわずか100個から50,000個のデータポイントを生成するための数行のコードを含むリポジトリをリリースしました。このリポジトリには、パブリックで利用可能な50,000のデータセットが含まれています。 豊富なデータを使用して開始モデルを調整。 データジェネレータに加えて、合成データでトレーニングされたLamini調整LLMも共有しています。 微調整済みモデルをRLHFに通す。 Laminiは、RLHFを操作するために大規模な機械学習（ML）および人間のラベリング（HL）スタッフを必要としなくなります。 クラウドに置く。 アプリケーションでAPIのエンドポイントを呼び出すだけです。 37,000個の生成された指示（70,000個のフィルタリング後）でPythia基本モデルをトレーニングした後、オープンソースの指示に従うLLMをリリースしました。Laminiは、従来の手間をかけずにRLHFと微調整の利点をすべて提供します。まもなく、手続き全体を管理するようになるでしょう。 チームは、エンジニアリングチームのトレーニングプロセスを簡素化し、LLMのパフォーマンスを大幅に向上させることに興奮しています。反復サイクルをより速く効率的に行うことができれば、より多くの人々がプロンプトの調整だけでなく、これらのモデルを構築できるようになることを願っています。

GPT4Allは、あなたのドキュメント用のローカルChatGPTであり、無料です！

あなたのラップトップにGPT4Allをインストールし、AIにあなた自身のドメイン知識（あなたのドキュメント）について尋ねる方法... そして、それはCPUのみで動作します！

Find the right Blockchain Investment for you

Web 3.0 is coming, whether buy Coins, NFTs or just Coding, everyone can participate.

Advertising with us