「公正なAIアルゴリズムを活用した先進テクノロジーを展開する都市の取り組み」
Efforts of cities in deploying advanced technology utilizing fair AI algorithms
現在、私たちの生活のほとんどすべてがオンラインネットワークの一部に触れています。これにより、手の中に持つ情報を提供できるハンドヘルドデバイスなど、生活のさまざまな分野が改善されている一方で、特定のリスクも存在します。
これらのリスクは、例えば銀行口座への伝統的なハッキングやデータの侵害を超えて、人工知能（AI）によって使用されるアルゴリズムによって私たちの生活に影響を与えるという点にあります。私たちは、このAIが私たちの最善の利益を追求するアルゴリズムを内在的に活用していると想定しています。しかし、誤ったバイアスがこれらのアルゴリズムに入り込んだ場合、どのような影響があるのでしょうか？それが特定の結果にどのような影響を与えるのでしょうか？
バイアスのあるアルゴリズムがAIシステムに浸透すると何が起こるのか？
別の例を挙げると、YouTubeではAIアルゴリズムがほとんどの動画をおすすめします。InstagramやTikTokのようなソーシャルメディアプラットフォームでは、その割合はさらに高くなります。これらのAIアルゴリズムは、ユーザーが興味を持つコンテンツを見つけるのに役立ちますが、深刻なプライバシー問題を引き起こし、オンラインで人々が消費する一部のおすすめコンテンツが誤情報を含んでいたり、ある特定の視点を潜在的に人々の政治的思考や信念に影響を与えるようなものであることが増えているという証拠があります。
バランスの取れた適応型AIの作成は、技術的にも社会的にも困難な試みですが、極めて重要です。
AIが社会的な規範やオンライン利用パターンに負の影響を与える可能性がある一方で、その技術のポジティブな効果にも焦点を当てることは理解できます。オンラインソースは私たちの社会に大きな影響を与え、オンラインアルゴリズムのバイアスは意図せずに不正義を助長し、人々の信念を形成し、誤った情報を広め、さまざまなグループ間での紛争を引き起こすことになります。
ここで、不要でまたは不公平なバイアスに関連する「悪いAI」が真に重大な結果をもたらす可能性があります。
バイアスのあるAIが交通信号に逆効果をもたらす方法
交通信号を例に挙げると、長時間の信号待ちは、全国の市場で展開されている新しいAI技術のおかげで過去のものとなりつつあります。これらの交通優先ソリューションは、リアルタイムの交通データを活用して信号を変化する交通パターンに合わせて調整し、交通の流れを維持し渋滞を軽減します。
これらのシステムは深層学習を使用しており、プログラムは自身のパフォーマンスが悪いと認識し、異なる行動を試したり、進展がある場合は改善を続けることができます。
素晴らしいアイデアのように思えますね。ただし、時間の経過とともに、交通センサー技術に埋め込まれたAIアルゴリズムが、特定の種類の車を優先するようなバイアスのあるアルゴリズムに基づいて、より高価な車両を他の車両よりも優先するようになった場合はどうでしょうか？
ここで、「悪いAI」が私たちの生活の非常に重要な部分に逆効果をもたらす可能性があります。
例えば、これらのAIパワードの交通優先システムは、連結車両技術の力を活用した大規模なインテリジェント輸送システム（ITS）の一部です。ITSシステムの質は、それらが運用されるアグノスティックなクラウドベースのデータ共有プラットフォームにかかっており、すべてが同じように作成されているわけではありません。
AIアルゴリズムにおけるバイアスの排除
これらのデータ共有プラットフォームは非常に効果的であることが実証されていますが、交通システムを監督する都市や自治体が適切なデータ共有のためにこれらをオープンにする場合にのみ、バイアスのあるアルゴリズムが関与しないようになります。残念ながら、多くの自治体は「オープンアーキテクチャ」の下で運営していると主張するハードウェアやデバイスの提供業者との契約に縛られており、オープンデータプラットフォームの下で作業することを拒否しています。これにより、これらの都市はクラウドベースのプラットフォームが提供する真の可能性から制約を受けます。
クラウドベースの交通優先システムはシステム全体のグローバルな状況を考慮し、バイアスのないデータ中心の機械学習を使用して、トランジット車両に緑信号を適切なタイミングで与える最適な時刻を予測します。これにより、交差するルートとの干渉を最小限に抑え、連続した走行の確率を最大化します。さらに重要なのは、アグノスティックなクラウドベースのプラットフォームが、望ましくない情報源からのバイアスを排除して都市が連続的に更新されたシステムを活用できるようにすることです。
この技術がすでに利用可能であるため、都市、開発者、自治体は、地域のすべての人々に公平かつ公正に利益をもたらすために、インテリジェントトランジットネットワークの構築を適切に加速するために必要な技術を手に入れています。
サンホゼ市のような地域では、AIを活用して住民へのサービスの提供を改善しています。市がますますAIツールを使用するようになるにつれて、そのAIシステムが効果的かつ信頼性のあるものであることはこれまで以上に重要です。デジタルプライバシーオフィス（DPO）は、ツールで使用されるアルゴリズムをレビューすることにより、市のAIパワードテクノロジーの調達が正確でバイアスが最小限で信頼性があることを確認しています。市の部門がAIツールを調達する場合、DPOは特定のレビュープロセスに従って、該当するAIシステムの利点とリスクを評価します。
この特定の地域では、公正なアルゴリズムのため、Googleなどの企業と共に、都市全体の技術導入に参加する数少ないAIベンダーの1つとして誇りに思っています。さらに多くのAI技術が開発されていくにつれて、地元自治体のサービスの公正かつ公平な利用のために、公正なアルゴリズムを持たないように構築されていることが特に重要になります。
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
