自動化への満足感：人間をループに戻す方法

自動化への満足感：人間をループに戻す方法' Satisfaction with Automation How to Bring Humans Back into the Loop

劇的な出来事の中で、人の運転手がいない自動運転車で乗客を拾うロボタクシーが最近、サンフランシスコで解禁されました。激論の7時間に及ぶ公聴会の末、カリフォルニア州公益事業委員会によってこの決定が確定しました。抗議はありましたが、避けられない感じが漂っています。カリフォルニアは2022年初頭以来、制限を緩和し続けてきました。新しい規則により、許可を持つ2社、アルファベットのWaymoとGMのクルーズは、高速道路以外の7平方マイルの都市内のどこにでもこれらのタクシーを送り、利用客に料金を請求することができます。

自動運転タクシーのアイデアは、2つの相反する感情を引き起こす傾向があります: 興奮（「格段に安いタクシー！」）と恐怖（「私や子供たちにぶつかるのではないか？」）。そのため、規制当局はしばしば、事故が発生する前に介入し、制御を管理できる乗客を利用して車両をテストすることを要求します。残念ながら、リアルタイムでシステムをオーバーライドできるように警戒している人間を持つことは、安全性を保証するための最善の方法ではありません。

実際には、アメリカでの自動運転車の事故での18人の死者（今年2月時点）のすべてが、車内またはリモートであるかのいずれかの形で人間の制御がありました。これには、2018年にアリゾナ州テンピの広い郊外道路で夜遅くに発生した最も有名な事故も含まれています。Uberの自動化テスト車両が、自転車と共に道路を渡るために走っていたエレイン・ハーズバーグさんという49歳の女性を轢き殺しました。助手席の人間オペレーターは下を向いており、車が衝突する約1秒前まで警告されませんでした。彼らは遅すぎてハンドルを握りました。この事故により、Uberは自動運転車のテストを中止しました。最終的に、自動化された車両部門を売却しました。これは同社のビジネス戦略の重要な部分でした。

オペレーターは自動化の慢心のために刑務所に入りましたが、これはパイロットの訓練初期の最初に発見された現象です。AIシステムでは、過信は頻繁に起こるダイナミックです。システムがより自律的になるほど、人間のオペレーターはそれを信頼し、十分な注意を払わなくなります。私たちはこれらのテクノロジーを見守っているうちに退屈になります。事故が実際に起こりそうになると、私たちはそれを予想しておらず、時間内に反応しません。

• 「LLMによるエンティティ認識：完全な評価」
• 効率的な開発者ですか？それならAIがあなたの仕事を狙っています
• ラマインデックスを使って、独自のパンダAIを作りましょう

リスクの専門家であるロン・デンボが「リスク思考」と呼ぶものは、最も洗練された機械学習でもまだ真似することができない思考の方法です。これは、明らかな答えがない場合に、私たちはスローダウンしたり停止したりすべきだと認識する能力です。リスク思考は自動化システムにとって重要であり、それがジレンマを引き起こします。人間は自分たちが制御しているという感覚を持ちたいのですが、自動化システムに対して過度に依存している場合、実際には事態を悪化させる可能性があります。

では、自動化システムの開発者は、サンフランシスコで行われているような実験を成功裏に終わらせるために、どのようにしてこのジレンマを解決できるのでしょうか？その答えは、衝突の瞬間だけでなく、設計と開発の初期段階での追加の注意です。すべてのAIシステムは、チェックされていないとリスクを伴います。自動運転車は、平均的には人間の運転する車よりも安全であるとしても、リスクから免れるわけではありません。

Uberの事故は、われわれが意図的にリスク思考を行わないとどのような結果になるかを示しています。これを行うためには、複数の人間の視点を取り入れて、これらのシステムがリリースされるはるか前に考える必要があります。言い換えれば、AIシステムの応用だけでなく、その影響を直接受けるコミュニティの視点が必要です。

Waymoとクルーズの両社は、統計的確率の観点から自社の車両の安全記録を弁護しています。それにもかかわらず、この決定によりサンフランシスコは生きた実験場となります。結果が集計される際には、正しいデータを収集し、成功と失敗を共有し、専門家や政治家、ビジネスの人々とともに関係するコミュニティも意見を述べることが非常に重要です。言い換えれば、すべての人間をループに保つことです。さもないと、非常に大規模な自動化慢心-意思決定をAIシステムに委任する意思-のリスクが生じます。

ジュリエット・パウエルとアート・クライナーは、新刊の共著者です 『The AI Dilemma: 7 Principles for Responsible Technology』。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!