これらの新しいツールは、AIビジョンシステムのバイアスを軽減するかもしれません

「これらの新しいツールは、AIビジョンシステムのバイアスを軽減する可能性があります」

コンピュータービジョンシステムはどこにでも存在しています。ソーシャルメディアのフィード上の画像の分類とタグ付け、画像や動画でのオブジェクトと顔の検出、および関連する要素の強調などに役立ちます。しかし、これらのシステムにはバイアスがあり、画像に黒人や茶色人種、女性が表示される場合には正確性が低下します。さらに、現在の研究者がこれらのシステムのバイアスを見つける方法自体もバイアスがかかっており、人々を広く分類して存在する人間の複雑さを適切に考慮していません。

ソニーとMetaの研究者による2つの新しい論文では、コンピュータービジョンシステムのバイアスを測定する方法を提案し、人間の豊かな多様性をより完全に捉えることを目指しています。どちらの論文も10月のコンピュータービジョンカンファレンスICCVで発表される予定です。開発者はこれらのツールを使用してデータセットの多様性を確認でき、より優れた多様なAIの訓練データにつながることが期待されます。これらのツールはまた、生成AIによって作成された人間のイメージの多様性を測定するためにも使用できます。

従来、コンピュータービジョンにおける肌のトーンのバイアスは、フィッツパトリックスケールを使用して測定されます。このスケールは、白人の皮膚の日焼けを測定するために開発されましたが、現在では共通のツールとして広く採用され、民族性を判断するためにも使用されています。ソニーのAI倫理研究者であるウィリアム・トン氏は、例えば明るい肌と暗い肌の人々に対してAIモデルの正確性を比較することで、コンピューターシステムのバイアスを測定するために使用されていると述べています。

しかし、人々の肌を一次元のスケールで説明することは誤解を招くものです。ソニーのAI倫理のグローバルヘッドであるアリス・シャンさんは、この粗いスケールに基づいて人々をグループ分けすることにより、アジア人などのバイアスが見落とされていると指摘しています。アジア人は西洋のAIデータセットで過小評価されており、明るい肌色と暗い肌色の両方に分類されることがあります。また、人々の肌の色調が変化するという事実も考慮されていません。たとえば、アジア人の肌は年齢とともにより暗く、より黄色くなる一方、白人の肌は年齢とともにより暗く、より赤みを帯びると研究者が指摘しています。

• 「JavaとGradleを使用したAIアプリケーションの開発」
• 「アメリカの機械学習エンジニアの給与」
• 機械学習エンジニアのためのLLMOps入門ガイド

MITテクノロジーレビューからの記事をご覧ください。全文を見る

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!