Search Results ガードレール

AIに倫理を注入する

規制の代わりに、企業は人工知能の使用を制御するために独自のガイドラインを開発し始めています

Google Researchにおける責任あるAI：パーセプションの公平性

Google ResearchのPerception Fairnessチームの共同リーダーであるSusanna RiccoとUtsav Prabhuが投稿しました。 Googleの責任あるAI研究は、異なるバックグラウンドと専門知識を持つチーム間、研究者と製品開発者間、そして最終的には広範なコミュニティとの協力の基盤の上に築かれています。パーセプションフェアネスチームは、コンピュータビジョンと機械学習（ML）のフェアネスに関する深い専門知識と、Googleをはじめとする製品にパワーを与える知覚システムを構築する研究者との直接的なつながりを組み合わせることで進歩を推進しています。私たちはGoogleのAI原則に基づいて、システムを包括的に設計するために協力して取り組んでいます。パーセプションフェアネス研究は、Googleの製品をパワーにする最新の基盤と生成モデルを含む高度なマルチモーダルモデルの設計、開発、展開にわたります。私たちのチームのミッションは、特に基盤モデルと生成AIに関連するマルチモーダルMLシステムにおける公平性と包括性のフロンティアを推進することです。これには、分類、ローカリゼーション、キャプション付け、検索、ビジュアルな質問応答、テキストから画像またはビデオの生成、生成画像とビデオの編集などの中核技術コンポーネントが含まれます。私たちは、これらのアプリケーションにおいて公平性と包括性を最優先のパフォーマンス目標とすることができると信じています。私たちの研究は、開発サイクル全体でこれらの目標を積極的に設計するための新しい分析と緩和策を開放することに焦点を当てています。私たちは、次のような核心の問いに答えます：MLをどのように使用して、人種、文化、社会的アイデンティティの人々の知覚を責任を持ってモデル化し、公平性と包括性を促進することができるのか？どのようなシステムのバイアス（例：特定の肌の色の人物の画像でのパフォーマンスの低下）を計測することができ、これらの指標を使用してより良いアルゴリズムを設計することができるのか？より包括的なアルゴリズムとシステムを構築し、障害が発生した場合に迅速に対応するにはどうすればよいのか？メディアにおける人々の表現の測定画像やビデオを編集、キュレーション、または作成することができるMLシステムは、世界中の視聴者の信念を形成または強化することができます。これには、ステレオタイプの強化、人々のグループの傷つけや消去などの表現上の害を減らすための研究は、コンテンツと社会的な文脈の両方を深く理解することにかかっています。これは、異なる観察者が自分自身や自分のコミュニティをどのように捉え、他者がどのように表現されているかにかかっています。責任を持って行われるべき社会的カテゴリの研究とその方法については、この分野で大いに議論があります。私たちの研究は、社会学と社会心理学に基づき、人間の知覚に合致し、問題の主観性を受け入れ、微妙な測定と緩和を可能にするスケーラブルなソリューションに向けて取り組んでいます。例として、私たちはMonk Skin Toneスケールを使用した画像の肌のトーンの人間の知覚と注釈の違いに関する研究を行っています。私たちのツールは、大規模なコンテンツコレクションにおける表現を研究するためにも使用されています。Media Understanding for Social Exploration（MUSE）プロジェクトを通じて、私たちは学術研究者、非営利団体、主要な消費者ブランドと提携して、主流メディアや広告コンテンツのパターンを理解しています。この研究は、2017年に最初に発表され、ハリウッド映画のジェンダー平等を分析した共著研究で始まりました。それ以来、私たちは分析のスケールと深さを増してきました。2019年には、270万本以上のYouTube広告に基づく調査結果を公開しました。最新の研究では、12年以上にわたる人気のある米国のテレビ番組における知覚される性別プレゼンテーション、知覚される年齢、肌のトーンの交差点での表現を調査しています。これらの研究は、コンテンツクリエーターや広告主に洞察を提供し、私たち自身の研究をさらに進めています。メディアコレクションにおける表現パターンを明らかにするためにスケールで分析できるコンピュータシグナルのイラスト（実際のデータではありません）。[ビデオコレクション/ゲッティイメージズ] 進んでいくにつれて、私たちはMLの公平性に焦点を当てる概念と、それが責任を持って適用される領域を拡大しています。人々の写真の写実的なイメージを超えて、私たちはイラストや抽象的な人型のキャラクターの表現をモデル化するツールの開発に取り組んでいます。さらに、人間の姿が全くない画像さえも含めて、コミュニティや文化の表現をモデル化するツールを開発しています。最後に、描かれているのは誰だけでなく、それらがどのように描かれているかについても考える必要があります。周囲の画像コンテンツ、関連するテキスト、そして広範な文化的文脈を通じて伝えられる物語は何かを推論する必要があります。知覚システムのバイアス特性の分析高度なMLシステムの構築は複雑であり、製品の動作を決定するさまざまな利害関係者が情報を提供しています。全体的な品質は、ユーザーエクスペリエンスのプロキシとしてテストデータセット上の要約統計（全体的な正確度など）を使用してこれまでに定義され、測定されてきました。しかし、すべてのユーザーが同じ方法で製品を経験するわけではありません。知覚の公平性は、要約統計を超えた微妙なシステムの振る舞いの実測を可能にし、これらの指標をシステムの品質に直接関連付けて製品の動作とローンチの意思決定に重要な役割を果たします。これは思っているよりもはるかに難しいことです。複雑なバイアスの問題（例：交差するサブグループ間のパフォーマンスの不均衡やステレオタイプの強化のインスタンス）を重要なニュアンスを失うことなく、わずかな数の指標に凝縮することは非常に困難です。また、公平性の指標と他の製品の指標（ユーザー満足度、正確性、レイテンシなど）の相互作用のバランスを取ることも課題です。これらはしばしば相反するとされながらも互換性があるとされるものです。広範なユーザーの満足度は、公平性と包含の目標を達成することに一致しているにもかかわらず、研究者が自分の仕事を「正確性と公平性のトレードオフの最適化」と表現するのは一般的です。私たちは、Open Imagesの一部としてMIAPデータセットを構築し、複雑なシステムの社会的に関連する概念の知覚とバイアスの検出の研究を活用して、コンピュータビジョンにおけるMLの公平性研究を推進するリソースを作成しました。オリジナルの写真クレジット…

「アナリストとデータサイエンティストにとっての5つの一般的なデータガバナンスの課題」

私はオーストラリアの銀行大手でエンジニアとデータサイエンティストとして半十年間働いた経験を活かして、この激しい論争の両側に立つ privilege を持っています

「ジェネラティブAIおよびMLモデルを使用したメールおよびモバイル件名の最適化」

「ジェネレーティブAIとMLモデルを併用して、最大のエンゲージメントを得るために、トーンと対象読者に合わせた魅力的な件名やタイトルを自動的に作成する」

『ジュリエット・パウエル&アート・クライナー、The AI Dilemma – インタビューシリーズの著者』

『AIのジレンマ』は、ジュリエット・パウエルとアート・クライナーによって書かれましたジュリエット・パウエルは、著者であり、彼女の経歴には9,000回の生放送番組の制作と、技術者や社会学者としての活動も含まれています彼女はまた、ブルームバーグTV/ビジネスニュースネットワークの解説者でもあり、エコノミストや国際金融公社が主催する会議で講演もしています[…]

「サプライチェーンにおける生成型AIの役割」

2020年にサプライチェーンの混乱が取締役会で頻繁に議論されるようになったのと同様に、2023年には生成AIが急速に注目の的となりましたなぜなら、OpenAIのChatGPTは最初の2か月で1億人以上のユーザーに達し、これは史上最も急成長した消費者向けアプリケーションの採用となりましたサプライチェーンは、ある程度まで、適していると言えます

「人々はAIを恐れていますが、AppleのChatGPTはAIをみんなの友達にするかもしれません」

「以前からMP3プレーヤーは存在しましたが、iPodのようなものではありませんでした以前からタッチスマートフォンも存在しましたが、iPhoneのようなものではありませんでしたそして、以前から基于大規模言語モデルのAIチャットボットも存在しましたが、歴史が教えるように、Appleの今後のインテリジェントチャットボットは既に使用されているものとは全く異なり、[…]を提供するでしょう」

パーシステントシステムは、Amazon CodeWhispererと共にソフトウェアエンジニアリングの未来を形作っています

グローバルなデジタルエンジニアリングプロバイダーであるPersistent Systemsは、Amazon CodeWhispererとのいくつかのパイロット実験と形式的な研究を実施しましたそれにより、ソフトウェアエンジニアリング、生成AI主導の近代化、責任あるイノベーションなどにおける変化が示唆されましたこの記事では、PersistentのAmazon CodeWhispererの実験から浮かび上がった4つのテーマについて紹介しますそれは私たちが知っているソフトウェアエンジニアリングを変える可能性があります

「大規模言語モデル（LLM）を実世界のビジネスアプリケーションに移す」

大規模な言語モデルはどこにでも存在します顧客との会話やVCの提案において、LLM技術の準備がどの程度進んでいるか、そして将来の応用にどのように貢献するかについての質問が含まれます私は以前の投稿でそれについていくつかのパターンを取り上げましたここでは、Persistent Systemsが製薬業界向けのアプリケーションについて実際のパターンについて話します

「分析ストリーム処理への控えめな紹介」

「基礎は揺るぎない、壊れることのない構造物の土台です成功したデータアーキテクチャを構築する際には、データがシステム全体の中心的な要素です...」

Learn more about Search Results ガードレール - Page 7