「ケンブリッジの研究者たちは、機械学習システムに不確実性を組み込むことを開発しています」

Cambridge researchers are developing machine learning systems with built-in uncertainty.

不確かな人間の洞察力の世界で、不確実性を受け入れることは、機械と人間がより効果的かつ信頼性の高い方法で協力するのに役立つかもしれません。現在のシステムは、人間の介入が常に正確で自信に満ちていると想定してプログラムされていますが、この研究ではそのような相互作用における不確実性を考慮しています。ケンブリッジ大学の研究チームは、「UElic」というプラットフォームを作成しました。これは実世界の人間の不確実性データを収集し、モデルが不確実性を扱う能力を向上させる価値を示すものです。これにより、人間が不確実性を表現することで、機械学習モデルの信頼性を向上させることが強調されています。

研究者たちは、解釈性を高め、エラーを修正するための人間の介入を可能にするコンセプトベースのモデルを紹介しています。これには、入力（x）、コンセプト（c）、および出力（y）を使用した教師付き学習が含まれます。コンセプトはバイナリまたはカテゴリーであり、不確実性を含む場合もあります。彼らは画像分類データセットを使用しており、人間が特定の画像にラベル付けする際にフィードバックを提供し、不確実性を示すことができます。これらのモデルは、ニューラルネットワークを使用してコンセプトを予測し、コンセプトの埋め込みモデル（CEMs）に焦点を当てたコンセプトボトルネックモデル（CBMs）の拡張を行っています。

研究では、コンセプトベースのモデルがテスト時に人間の不確実性をどのように扱い、どのように人間の不確実性をサポートし、不確実性のレベルを向上させるかを探求しました。研究者は、不確実性の異なるベンチマーク機械学習データセットを使用しました。胸部X線を分類するためのChexpertデータセットと、MNISTの数字で形成されたデジット分類に使用されるUMNISTです。これにより、研究者は鳥のデータセットを使用して不確実性をシミュレートし、人間の参加者が鳥を赤色またはオレンジ色と分類することで確実性を示しました。

• ボストン大学の研究者たちは、プラチプスファミリーと称されるファインチューニングされたLLMsを公開しました：ベースLLMsの安価で高速かつパワフルな改良を実現するために
• IBMの研究者が、深層学習推論のためのアナログAIチップを紹介：スケーラブルなミックスドシグナルアーキテクチャの重要な構成要素を披露
• アップルとブリティッシュコロンビア大学のAI研究者が提案する「FaceLit：ニューラル3D再点灯可能な顔のための革新的なAIフレームワーク」

この研究では、制御されたシミュレーションと実際の人間の不確実性、粗視化された不確実性表現と細かい不確実性表現を調査しました。離散的な不確実性スコアの処理における設計の選択は、パフォーマンスに影響を与え、マッピングの考慮、広範囲な不確実性と狭い不確実性、インスタンスレベルと集団レベルの不確実性について検討されました。研究者たちは、人間の不確実性をコンセプトベースのモデルに組み込む重要性と、CUB-Sのような包括的なデータセットがこれらの課題を研究するために必要であることを強調しています。この研究から得られたいくつかのオープンな課題には、(1)人間と機械の不確実性の相補性、(2)人間の（誤）補正の扱い、(3)不確実性の導出のスケーリングがあります。研究者たちは、人間の不確実性介入に関するさらなる研究を促進するために、UElicインターフェースとCUB-Sデータセットを紹介しています。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!