AIが迷走するとき：現実世界での注目すべき機械学習のミスハップ

AIのミスハップ：現実世界で注目すべき機械学習の問題

世界の注目を浴びた悪名高い機械学習の失敗とミスのツアー

人工知能（AI）と機械学習の変革的な可能性は、しばしばニュースで話題になり、医療から金融まで多岐にわたる分野でのポジティブな影響についての報告が数多くあります。

しかし、どんな技術にもミスはつきものです。成功事例は機械学習の素晴らしい能力を描写していますが、その影響の全体像を理解するためには、その落とし穴も同様に重要なのです。

本記事では、高名な機械学習のミスについて多数取り上げ、より情報に基づいた実装のための教訓を得ることを目指します。

目次

具体的には、以下のカテゴリごとに注目すべき事例を取り上げます:

• 「ディープラーニングを用いたナノアレイの開発：特定の構造色を生み出すことができるナノホールアレイを設計する新しいAI手法」
• 思っているベイダーではありません 3D VADERは3Dモデルを拡散するAIモデルです
• 「コンテキストの解読：NLPにおける単語ベクトル化技術」

(1) クラシックな機械学習(2) コンピュータビジョン(3) 予測(4) 画像生成(5) 自然言語処理(6) 推薦システム

ハイプロファイルな機械学習ミスの包括的なコンピレーションは、「Failed-ML」というGitHubリポジトリにあります:

GitHub — kennethleungty/Failed-ML: ハイプロファイルな実世界の例のコンピレーション

github.com

(1) クラシックな機械学習

ヘッドライン

AmazonのAI採用システム: AmazonのAIによる自動採用システムは、女性候補者への差別の証拠が見つかったため中止されました。

詳細

Amazonは、10年分の履歴書から優れた候補者を特定するためのAIによる採用ツールを開発しました。しかし、テクノロジー業界は主に男性が占めているため、システムは女性応募者に対してバイアスを示しました。

例えば、「women’s」という言葉を含む履歴書や、女子大学の卒業生の履歴書を低評価し、一方で特定の言葉（例: ‘executed’）を好意的に評価しました…

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!