AIがトランスコミュニティに与える悪影響を明らかにする

Revealing the negative impact of AI on transcommunity.

ジェンダー認識ソフトウェア、不適切な医学モデル、トランスフォビックなコンテンツの拡散による危険性

AIのリスクについての議論はしばしば人工汎用知能（AGI）の仮説上の危険性や終末のシナリオに向かうが、現在のレベルのAIは現実的なリスクをもたらす。特に、この技術に影響を受けているトランスジェンダーやジェンダーノンコンフォーミングのコミュニティにとってはさらに危険である。

以下の点に焦点を当て、このコミュニティに対する危険性を説明する。

• 自動ジェンダー認識
• 医学モデルの制限
• ソーシャルメディア上でのトランスフォビックなコンテンツの拡散

トランスコミュニティは直面しているが、これらの危険性は私たち全員に影響する。これらは憎悪を広げ、多様性の豊かさを制限し、私たちの共同体の自己表現能力を制限する。私たちの役割が、テックプロフェッショナルとしてトランスの人々を支援し、より強い社会を作り上げる方法を理解する必要がある。

私たちは、多くのデータと計算能力を持っているため、AIを規模化できる段階にいる。懸念されるのは、AIが倫理的な課題に対応していないことである。

• 構造方程式モデリングにおける複数グループ分析
• 一度言えば十分です！単語の繰り返しはAIの向上に役立ちません
• Rのggvancedパッケージを使用したスパイダーチャートと並列チャート

— アレックス・ハンナ

フェイスフィルター

表面的には深刻ではないような例から、危険性を緩和する。ソーシャルメディアを利用している場合、フェイスフィルターを知っているはずだ。機械学習を使用して、顔を変形させたり、年をとらせたり、あなたの犬をディズニーキャラクターに変えたりする。これらは単なる無害な楽しみだと多くの人が考えるだろう。しかし、ジェンダーに関しては、事情が複雑になることがある。ただし、否定的な影響は過大評価されてはならない。

私はただの支援者であり、トランスの人々を代表することはできない。ジェンダー変換フィルターの影響については、トランスコミュニティでも議論が分かれるようである。あなたのジェンダーのアイデンティティと表現を探ることができる一方で、性別のステレオタイプを強制したり、ノンバイナリーの人々を排除する可能性もある。遷移プロセスを嘲笑するツールとして使用する人さえいる。

ジェンダーや割り当てられた性別と異なる性別を探求することは良いことであり、私はそれを奨励します。あなた自身について新しいことを学び、トランスの人々に対してより親切になることができます。

— チャーリー・ナイト

このタイプのテクノロジーについて議論する際には、性別を選択させるアプリケーションと予測しようとするアプリケーションの区別を明確にする必要がある。たとえば、Pixarフィルターのコンピレーションの最初のビデオを見てみると、このアルゴリズムは伝統的な男性または女性の特徴を持たない場合に苦戦する。

これにより、このタイプのアプリケーションの問題が明らかになる。根本的な技術は、誰かのジェンダーアイデンティティを予測できるという前提に基づいている。これは偽科学である。この前提を他のアプリケーションにも適用することは、重大な影響をもたらす可能性がある。

自動ジェンダー認識（AGR）

AGRまたはジェンダー認識ソフトウェアは、機械学習の一種であり、人のジェンダーを予測しようとするものである。これは、顔の特徴、体形、服装、音声パターン、または行動特性を分析することによって行われる。しかし、ジェンダーは複雑で、これらの側面で完全に捉えることはできない。特に、トランスの人々に関してはそのことが当てはまる。

図1に示すように、4つのAGRシステムについての研究は、平均してトランス女性を12.7％、トランス男性を29.5％誤認識したことを示している[1]。これに対し、cis女性と男性の場合は1.7％と2.4％である。これらのシステムは、他のジェンダーグループを完全に無視している。

トランスジェンダーの人々を誤った性別で呼ぶことは失礼です。それには深刻なメンタルヘルスの影響があるかもしれません。自分が認識しない性別で一貫して呼ばれることは、疲れ果てることであり、意気消沈することでもあります。これが私たちの日常システムに自動化され、組み込まれた世界を想像してみてください。

考える必要はありません。これらのシステムは既に展開されています：

• 男性向けのピザと女性向けのサラダを宣伝するために、ある会社が看板を自動化しました
• ベルリンの公共交通機関事業者が女性旅行者に21%の割引を提供しました
• トランス女性を拒否する「女性のみ」のソーシャルネットワーキングアプリGiggle
• トランスのUberドライバーが顔認識セキュリティシステムによってアカウントが停止された

このようなタイプのシステムによる害はよく知られています。EUではこれらのシステムを禁止するよう求められています。

ジェンダーに依存する医療モデル

ジェンダーがターゲット変数となる機械学習においては、AGRを使用します。また、ジェンダーをモデルの特徴として含めると問題が発生します。具体的には、性別（出生時に割り当てられたジェンダー）とジェンダー（社会的に構築された役割）の区別がない場合です。この問題は医療モデルで広く見られます。

医療において、性別とジェンダーはしばしば混同されます。実際、トランスやその他のジェンダーグループをカテゴリとして考慮したデータはほとんど収集されていません。その結果、単一のバイナリ機能（男性/女性）を使用してモデルがトレーニングされ、出生時に割り当てられた性別が両方の性別とジェンダーのプロキシとして使用されています。

性別とジェンダーがバイナリ、静的、一致しているという誤った前提は、医療システムに深く根付いています。

— Kendra Albert、Maggie Delano

問題は、性別とジェンダーの相互作用が重要な診断や治療が多数存在することです。これは、HIV予防、生殖健康、ホルモン補充療法、メンタルヘルスにも当てはまります。性別とジェンダーを1つの変数に組み合わせることで、医療システムでトランスジェンダーの人々を無視しています。その結果、彼らのcisgenderの対応者と比較して、医療が悪化しています。

ソーシャルメディア上でのトランスフォビックコンテンツの拡大

これまでは、より直接的な影響に焦点を当ててきました。ジェンダーの期待を確立し、モデルのパフォーマンスを低下させることで、AIはトランスジェンダーの人々にとって否定的な経験をもたらす可能性があります。AIには、より直接的でない影響もあります。それは、他の人々のトランスジェンダーに対する意見に影響を与えることです。

ソーシャルメディアの推奨アルゴリズムには、プラットフォームに留まることが唯一の仕事です。残念ながら、特定のグループに向けた怒りは、特にあなた自身に属さないグループに対して、エンゲージメントを促進するのに効果的です。また、アルゴリズムが既存の信念を強制する可能性もあります。つまり、過去に関与したコンテンツに似たコンテンツのみを推奨することで。

ジェンダーは、現代社会の規範と期待に中心的な役割を果たしています。トランスジェンダーの存在はこれらに挑戦することがあります。一部の人々にとって、これは恐怖、怒り、そして科学的な事実を受け入れることに対する意欲の欠如に対応するものです。これらは増加したエンゲージメントとトランスフォビックなエコーキャンバスを作り出すのに適した状況です。

Facebookでこれを見ました。ここでは、ユーザーはトランスジェンダーに影響を与える問題についてバイアスがかかった事実に反する理解を得ています。右派のページに関するトランス問題の投稿は、図2に示されるように、ほぼ2倍のインタラクションがあります。これらの投稿の大部分は、反トランスのウェブサイトが作成したものです。

Facebookだけが問題を抱えているわけではありません。トランスフォビックなコンテンツに関わった後、TikTokは過激主義、憎悪、暴力の兎穴に導きます。YouTubeショートでトランスフォビックなコンテンツを推奨された経験は、私がこの記事を書くことを促したものであり、他の人々と共有された経験でもあります。

これらのプラットフォーム上のコンテンツは、トランスジェンダーがイデオロギーまたは精神疾患であるという虚偽の物語を推し進めようとしています。そうではありません。また、平等の追求を児童への攻撃として再構築しようとする最も悪質なものがあります。

トランスコミュニティは子供たちにリスクをもたらしません。しかし、このコンテンツは彼らに重大なリスクをもたらします。2023年には、アメリカで79の反トランス法案が可決されました。ソーシャルメディアがこれらの政策変更に貢献したと考えられています。トランスフォビアのコンテンツは、社会的な悪影響ももたらします。

トランスジェンダーの82％が自殺を考えたことがあり、40％が自殺を試みたことがあるとされています。この数字に寄与する最も重要な要因は、日常的な侮辱や軽蔑的な言動です[7]。反トランスのコンテンツが標準化し、促進する行動と同じです。

人間関係におけるマイクロアグレッションは、生涯自殺未遂に統計的に有意な貢献をしました。

— アシュリー・オースティンら

これらの結果に基づき、ソーシャルメディアプラットフォームは、このコンテンツを制限することが倫理的に求められます。少なくとも、それを偽りであり、科学的でないものとしてラベル付けすべきです。私たちはみな、トランスフォビアを拒否するべきです。テック業界の労働者として、私たちはまた、強い影響力を持つ特別な地位を利用する必要があります。私たちはトランスジェンダーとは何かについての知識を深めることから始めることができます。包括的なトレーニングデータや多様なチームを推進することができます。AIシステムの透明性、説明可能性、人間の監視を増やすための規制を提唱することもできます。その際、私たちは仮説上の破滅的なシナリオに惑わされることなく、AIの直接的なリスクに焦点を当てるべきです。

本記事からのVoAGIパートナーシップ資金はTGEUに寄付されます。トランスジェンダーについて学びたい場合や、より良い味方になる方法について学びたい場合は、以下の動画をご覧ください。 プライド月間おめでとうございます 🙂

トランスジェンダーとは何ですか？

トランスジェンダーであることの脳科学

トランスジェンダーに味方する方法

私についてはMastodon | Twitter | YouTube | Newsletterで見つけることができます。無料でPython SHAPコースにアクセスするためにサインアップしてください。

Conor O’Sullivanの紹介リンクでVoAGIに参加する

VoAGIメンバーとして、あなたの会費の一部があなたが読んだ作家に寄付され、すべてのストーリーにフルアクセスできます…

conorosullyds.medium.com

参考文献

[1] Scheuerman, M.K., Paul, J.M. and Brubaker, J.R., 2019. How computers see gender: An evaluation of gender classification in commercial facial analysis services . Proceedings of the ACM on Human-Computer Interaction , 3 (CSCW), pp.1–33 https://docs.wixstatic.com/ugd/eb2cd9_963fbde2284f4a72b33ea2ad295fa6d3.pdf

[2] Campesi, I., Montella, A., Seghieri, G. and Franconi, F., 2021. The person’s care requires a sex and gender approach . Journal of Clinical Medicine , 10 (20), p.4770. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8541070/

[3] Chen, I.Y., Pierson, E., Rose, S., Joshi, S., Ferryman, K. and Ghassemi, M., 2021. Ethical machine learning in healthcare . Annual review of biomedical data science , 4 , pp.123–144. https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8362902/

[4] Albert, K. and Delano, M., 2022. Sex trouble: Sex/gender slippage, sex confusion, and sex obsession in machine learning using electronic health records . Patterns , 3 (8), p.100534. https://www.sciencedirect.com/science/article/pii/S2666389922001313

[5] Rathje, S., Van Bavel, J.J. and Van Der Linden, S., 2021. Out-group animosity drives engagement on social media. Proceedings of the National Academy of Sciences , 118 (26), p.e2024292118. https://www.pnas.org/doi/abs/10.1073/pnas.2024292118

[6] Jiang, R., Chiappa, S., Lattimore, T., György, A. and Kohli, P., 2019年1月. レコメンドシステムにおける退化したフィードバックループ. 2019 AAAI/ACM AI、倫理、社会会議の論文集 (pp. 383–390). https://arxiv.org/pdf/1902.10730.pdf

[7] Austin, A., Craig, S.L., D’Souza, S. and McInroy, L.B., 2022年. トランスジェンダー青少年における自殺傾向：対人リスク要因の解明. 対人暴力のジャーナル, 37 (5-6), pp.NP2696-NP2718. https://pubmed.ncbi.nlm.nih.gov/32345113/

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!