「BlindChat」に会いましょう：フルブラウザおよびプライベートな対話型AIを開発するためのオープンソースの人工知能プロジェクト

BlindChat'は、フルブラウザで動作するプライベートな対話型AIを開発するオープンソースプロジェクトです

BlindChatは、MithrilSecurityによって立ち上げられたオープンソースでプライバシー重視のChatGPTの代替案です。BlindChatは、第三者のアクセスなしで完全にウェブブラウザ内で動作する世界初の対話型AIを作成することを目指すオープンソースのAIイニシアチブです。現在の一般的なAIソリューションでは、AIモデルの使用と引き換えにユーザーデータをAIサービスプロバイダーと共有することが一般的です。これを許可すると、ユーザーデータが盗まれるリスクがあります。データはLLMの強化に貴重なリソースですので、いくつかの手法はユーザーデータを暗黙的に調整してモデルの学習をより良くすることがあります。ユーザーは、このような方法でLLMが個人情報を記憶する危険にさらされます。

BlindChatは、ローカル推論を実行するか、セキュアな環境であるセキュアエンクレーブを使用することにより、ユーザーデータが常にプライベートに保たれ、ユーザーが完全なコントロールを保持することを保証します。

BlindChatには、主に2つの対象者がいます：

• 「コンテキストに基づくドキュメント検索の強化：GPT-2とLlamaIndexの活用」
• 「AIはどれくらい環境に優しいのか？人間の作業と人工知能の二酸化炭素排出量を比較する」
• 大規模言語モデル：RoBERTa — ロバストに最適化されたBERTアプローチ

• 消費者：ユーザープライバシーを優先する新しい、より安全なオプションを提供します。現在、ほとんどの消費者はデータをAIサービスに提供していますが、プライバシー設定が明確でないか存在しないことがよくあります。
• BlindChatチームは、開発者がより簡単にプライバシーに配慮した対話型AIを提供できるように、プラットフォームの構成と展開の簡素化に幅広い作業を行っています。

MithrilSecurityは、ブラウザが通常サーバーが行う機能を実行できるようにプログラムを変更しました。したがって、AIサービスプロバイダーは信頼モデルに含まれておらず、プライバシーが保護されます。

透明かつ安全なAIは、機能をサーバーからユーザー側のブラウザに移動することで実現されます。これにより、エンドユーザーの個人情報が保護され、データに対する主体性が与えられます。たとえば、トランスフォーマーを使用すると、推論をローカルで実行することができ、JavaScriptを使用することで、チャットはユーザーのブラウザ履歴に保存されます。その結果、AIサービスの管理者はユーザーの情報を見ることができません。このため、このサービスは「BlindChat」と呼ばれています。

リモートエンクレーブモードがアクティブになっている場合、データはサーバーにのみ送信されます。この設定では、サーバーはエンクレーブという検証済みで安全なコンテナ内に展開され、完全な周辺防御を提供し、外部からのアクセスをブロックします。エンクレーブのAIプロバイダーの管理者でさえ、ユーザー情報にアクセスすることはできません。

MithrilSecurityには、ユーザーに利用可能な2つの異なるプライバシーオプションがあります：

• オンデバイス設定では、モデルがユーザーのブラウザにローカルにダウンロードされ、推論がローカルで処理されます。
• 利用可能な帯域幅と処理能力の制約のため、このモードはより複雑なモデルには適しています。

ゼロトラストAI APIを使用する場合、情報はモデルが保存されている安全な場所であるエンクレーブに送信され、リモートで推論されます。これらの設定は、強力な分離と検証により包括的なセキュリティを提供します。AIサービスプロバイダーはユーザーデータに対して暗号化されていないアクセス権を持ちません。

このプロジェクトは、3つの主要な部分で構成されています：

• ユーザーインターフェース：チャットとのやり取り時にユーザーが見る画面です。チャットウィンドウがあり、将来的にはドキュメントの読み込みや音声制御などのためのウィジェットやプラグインが追加されます。
• 開発者は、ユーザー要求を処理するために使用するプライベートLLMを完全に制御します。現在のソリューションはローカルモデルまたはリモートエンクレーブであり、透明性と機密性のある推論を提供します。
• チャットログなどのデータの保存に使用されるストレージのタイプは、開発者によって設定可能です。

MithrilSecurityは現在、LaMini-Flan-T5の推論のみを許可しています。370Mがリリースされた後、パフォーマンス向上のためにMicrosoft phi-1.5を統合する予定です。クライアント側でLlamaIndex-TSの統合も開発中であり、RAGを使用してブラウザ内で機密なドキュメントをクエリすることができます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!