ネゲヴのベン・グリオン大学の研究者たちは、社会的規範の違反を特定するAIシステムを設計しました

Researchers from Ben-Gurion University in the Negev have designed an AI system to identify social norm violations.

社会心理学辞典によれば、社会的規範は特定の社会的文脈内で典型的かつ適切な行動を示す社会的に決定された基準です。これらの規範は、文化を横断して広く適用される場合と、特定の文化的環境に特有の場合があります。

社会的規範は文化や状況によって異なりますが、社会的規範の違反はしばしばいくつかの一般的なカテゴリに分類されます。これらのカテゴリは、文化的な境界を超える共通のテーマを捉えています。

社会的な規範とその違反の自動識別は、重要な課題です。この課題に効果的に取り組むためには、社会的規範の違反が起きた時を示す特徴、信号、または変数を特定することが第一歩です。

• 中国からの新しいAI研究は、機械学習の手法と質問を組み合わせることで、指導者と学生の関係のつながりに新たな次元を明らかにします
• 「人間の知能の解読：スタンフォードの最新のAI研究は、生来の数の感覚は学びのスキルなのか、自然の贈り物なのかを問いかける」
• RLHF（Reinforcement Learning from Human Feedback）において本当に強化学習（RL）は必要ですか？スタンフォード大学の新しい研究では、DPO（Direct Preference Optimization）を提案していますこれは、RLを使用せずに言語モデルを好みに基づいて訓練するためのシンプルなトレーニング方法です

ネゲヴ大学の研究者は、社会的規範の違反の自動識別について研究し、研究者が社会的規範の違反を検出できるAIシステムを設計しました。この研究は、社会科学とデータサイエンスの両方を統合することで、人間の行動と社会的ダイナミクスについてより深い洞察を得る可能性を認識することを目的としています。

研究者は、ゼロショットテキスト分類（ゼロショット分類は、与えられたクラスラベルがテキストの前提から推論されるか否かを判断する自然言語推論の特殊形式です）、GPT-3（合成データの生成および人間のドメイン知識に基づいた違反した社会的規範の識別に使用）および自動ルール発見を使用して、このシステムを構築しました。彼らが作成したシステムは、十の社会的感情をバイナリとして使用しています。社会的規範の数が非常に多いため、研究者はそれらを限られた数の社会的感情にグループ化しました。

研究者は、システムを訓練して以下の十の感情を検出できるようにしました：能力、礼儀、信頼、規律、思いやり、協調性、成功、従順、品位、忠誠心。彼らが作成したシステムは、与えられたテキストをこれらの感情のいずれかに分類することができ、さらにそれらを肯定的または否定的に分類することもできました。

研究者はまず、ゼロショット分類を使用して短いテキストデータ内の社会的感情を自動的に識別しました。次に、GPT-3を使用して合成データを生成し、人間のドメイン知識を通じて違反した社会的規範を識別しました。これにより、十のトップレベルカテゴリで表される規範の高レベルな分類が得られました。さらに、社会的感情、規範の違反、およびその他の要素を測定する特徴に基づいた七つのシンプルなモデルを開発しました。これらのモデルは、規範の違反または確認を含むケースを分類するために二つの別々の大規模な短いテキストデータセットでテストされました。

システムの性能は非常に印象的であり、ゼロショット分類器のトップエモーションと人間の被験者が識別したエモーションの一致率は64％でした。研究者は、この結果を達成するためにEmpatheticDialoguesデータセットを利用しました。このデータセットには32種類の異なる感情が付けられた約25,000の会話が含まれています。彼らの焦点は規範の違反や感情を含む状況にありました。

ラベル付きデータを活用することで、彼らはモデルを訓練して社会的規範を自動的に識別し、上位のグループに分類しました。その結果、規範の違反を検出する際の正確さは約94％、適合率は約96％でした。

この研究について話すと、研究者はこれが予備的な研究であるが、彼らのアプローチが正しいことを強力に示しており、さらに多くの社会的規範を含めるためにスケーリングアップできる可能性があると述べました。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!