CipherChatをご紹介します：安全なアライメントの一般化を非自然言語、具体的には暗号に対して体系的に検証するためのAIフレームワーク

CipherChatの紹介：AIフレームワークで暗号の安全性を体系的に検証

I had trouble accessing your link so I’m going to try to continue without it.

人工知能（AI）システムは、大規模言語モデル（LLM）の導入により、大きな進歩を遂げています。OpenAIによってリリースされたChatGPT、GoogleのBard、Llama-2などの主要なLLMは、革新的なアプリケーションの実行能力を示し、ツールの利用支援や人間の評価の向上から人間の対話行動のシミュレーションまで幅広い応用において優れた能力を発揮しています。これらのLLMの広範な展開は、非常に優れた能力によって可能になりましたが、それには応答の安全性と信頼性を確保するという重要な課題が伴います。

非自然言語、特に暗号に関連して、最近の研究チームによる研究では、LLMの理解と応用を進めるためにいくつかの重要な貢献が紹介されています。これらのイノベーションは、特定の言語的環境でのLLMの相互作用の信頼性と安全性を向上させることを目的として提案されています。

• PDFとのチャット | PythonとOpenAIによるテキストの対話力の向上
• 組合せ最適化によるニューラルネットワークの剪定
• 「ペンの向こう側：視覚的な原型からの手書きテキスト生成におけるAIの芸術性」

チームは、非自然言語の領域から自然言語の領域への安全性の整合性手法の適用性を評価するために明示的に作成されたフレームワークであるCipherChatを紹介しています。CipherChatでは、人間が暗号ベースのプロンプト、詳細なシステムの役割割り当て、簡潔な暗号化されたデモンストレーションを通じてLLMと対話します。このアーキテクチャにより、LLMの暗号の理解、会話への参加、不適切なコンテンツへの感度が徹底的に検証されます。

この研究は、非自然言語（暗号など）で作業する際に、基礎となるLLMの能力に合わせて安全性の整合性手法を作成する必要性を強調しています。LLMは人間の言語の理解と生成において驚異的なスキルを示してきましたが、研究によれば、彼らは非自然言語の理解においても予想外の能力を発揮しています。この情報は、これらの非伝統的なコミュニケーション形態と伝統的な言語学の範囲内に含まれるコミュニケーションの安全規制の開発の重要性を強調しています。

CipherChatやGPT-4などの現代のLLMを用いて、さまざまな現実的な人間の暗号を用いた一連の実験が行われ、CipherChatの性能を評価しました。これらの評価は11の異なる安全トピックをカバーし、中国語と英語の両方で利用可能です。その結果、特定の暗号はGPT-4の安全性整合手続きを回避することができ、一部の安全ドメインではほぼ100%の成功率を示しました。この経験的な結果は、非自然言語（暗号など）に対してカスタマイズされた安全性整合メカニズムを作成する緊急の必要性を強調しています。これにより、さまざまな言語的状況でLLMの回答の堅牢性と信頼性を保証することができます。

チームは、研究がLLM内に秘密の暗号の存在を明らかにしています。他の言語モデルで観察される秘密言語の概念との類似点を引きながら、チームはLLMが特定の符号化入力を解読する潜在能力を持つ可能性があると仮説を立てています。これに基づいて、SelfCipherというユニークで効果的なフレームワークが導入されました。SelfCipherは、役割プレイシナリオと自然言語での限られた数のデモンストレーションにのみ依存し、LLM内の潜在的な秘密暗号能力を引き出して活性化することにより、符号化された入力の解読と意味のある応答の生成のLLMの性能向上の可能性を示しています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!