「AWSは責任ある生成AIへの取り組みを再確認する」

Reaffirming AWS's commitment to responsible AI development.

AWSは人工知能（AI）と機械学習の先駆者として、生成型AIの開発と展開に責任を持って取り組んでいます。

時代を超えた最も変革的なイノベーションの一つである生成型AIは、世界の想像力を引きつけ続けており、私たちは引き続き責任を持ってそれを活用することに取り組んでいます。責任あるAI専門家チームと、エンジニアリングおよび開発組織の補完を受けて、私たちは製品とサービスを継続的にテストし、評価し、正確性、公平性、知的財産、適切な使用、有害性、およびプライバシーに関する懸念を定義し、測定し、緩和するための取り組みを行っています。今日すべての答えを持っているわけではありませんが、私たちは他の人々と協力して、これらの新興の課題に対処するための新しいアプローチと解決策を開発しています。私たちは、お客様と消費者を保護するために必要な保護策を実施しながら、AIのイノベーションを推進できると信じています。

AWSでは、生成型AI技術とその使用方法が引き続き進化し、新たな課題が追加の注意と緩和策を必要とすることを知っています。そのため、AmazonはNIST、ISO、責任あるAI研究所、パートナーシップAIなど、次世代AIシステムの責任ある開発に焦点を当てた組織や標準化団体と積極的に協力しています。実際、先週、ホワイトハウスで、AmazonはAI技術の安全で責任ある効果的な開発を促進するための自主的な取り組みに署名しました。私たちは、政策立案者、学者、市民社会と知識を共有することを熱望しており、生成型AIによって引き起こされる独特の課題には持続的な協力が必要であることを認識しています。

この取り組みは、私たち自身の生成型AIサービスの開発手法と一致しています。私たちは、包括的な開発プロセスの各段階で責任あるAIを念頭に置いて基盤モデル（FM）を構築しています。設計、開発、展開、および運用のすべての段階で、私たちは正確性（例：要約が元の文書とどれだけ一致しているか、伝記が事実に合っているか）、公平性（例：出力が人種・民族グループを同様に扱っているかどうか）、知的財産および著作権の考慮事項、適切な使用（例：法的助言、医療診断、違法活動に関するユーザーの要求をフィルタリングするかどうか）、有害性（例：憎悪表現、卑語、侮辱）およびプライバシー（例：個人情報と顧客のプロンプトの保護）など、さまざまな要素を考慮しています。これらの問題に対処するためのソリューションを、トレーニングデータの取得プロセス、FM自体、およびユーザープロンプトの前処理および出力の後処理に組み込んでいます。すべてのFMについて、機能の改善に積極的に投資し、新しいユースケースを試行する顧客から学びます。

• 新しいAI搭載のSQLエキスパートは、数秒でSQLクエリを構築します
• 「組織内で責任ある効果的なAI駆動文化を作るための5つの方法」
• 「ODSC APAC 2023の最初のセッションが発表されました」

例えば、AmazonのTitan FMは、顧客がカスタマイズのために提供するデータから有害なコンテンツを検出および削除し、不適切なコンテンツをユーザーの入力から拒否し、不適切なコンテンツ（憎悪表現、卑語、暴力など）をモデルの出力からフィルタリングするために構築されています。

開発者が責任を持ってアプリケーションを構築できるようにするために、Amazon CodeWhispererはコードの推奨事項のライセンス情報を表示し、必要に応じて対応するオープンソースリポジトリへのリンクを提供する参照トラッカーを提供しています。これにより、開発者はプロジェクトでコードを使用するかどうかを簡単に判断し、適切なソースコードの帰属を行うことができます。さらに、Amazon CodeWhispererは、有害なフレーズを含むコードの推奨事項やバイアスを示す推奨事項をフィルタリングします。

これらの革新的なサービスを通じて、私たちは顧客が生成型AIの利点を実現し続ける一方で、公共および私的セクター全体で協力して責任を持って取り組んでいきます。私たちは、この変革的な新技術を善の力として活用することで、顧客と広く一般の信頼を築いていきます。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!