Search Results ガードレール

DEF CONでハッカーたちがいたずらをしてAIの脆弱性を暴露

ラスベガスで開催されるDEF CONハッキングカンファレンスでは、知恵とテクノロジーの魅力的な衝突が行われます。ハッカーたちは、Google、Meta Platforms、OpenAIなどの業界の巨人が開発した大規模な言語モデル（LLM）の欠陥やバイアスを明らかにするため、悪戯なトリックを駆使してAIアルゴリズムをテストします。このホワイトハウスの支援を受けた前例のないコンテストは、AI開発者が生成型AIシステムに悩まされる複雑な課題に対処できるガードレールの構築に一歩近づくことを目指しています。また読む：OpenAIのAI検出ツールはAI生成コンテンツの74％を検出できません「悪い数学」の解明：AIの脆弱性を解き明かすジョージア州サバンナ出身の学生、ケネディ・メイズは、AIアルゴリズムに挑戦するミッションに乗り出しました。彼女は魅力的な対話の末に、アルゴリズムを「9 10 = 21」と宣言させることに成功しました。軽いいたずらに見えるこの行為には、AIシステム内に潜む制限やバイアスを明らかにするというより深い目的があります。また読む：数学の方程式が線形回帰モデルの構築にどのように使われるかタイタンの戦い：人間対AI DEF CONのハッカーたちは、156台のラップトップを手に、世界でも最も先進的なAIモデルに勝つためのクエストに乗り出しました。これらの8つのモデルは、ハッカーがさまざまな問題を解明しようとする中で、些細な問題から潜在的に危険な問題までを抱えています。ハッカーたちは、これらのモデルに人間らしさを主張させたり、誤った情報を広めたり、虐待を推奨したりすることを試みています。また読む：人工知能対人間の知能：トップ7の違いガードレールの探求：AIビーストの制御大規模な言語モデルは、産業やプロセスを再構築する可能性を持っています。しかし、それらはまた、世界的な規模で不正確さや不正義を引き起こすことができる固有のバイアスや欠陥を抱えています。ホワイトハウスの支持を受けたDEF CONのコンテストは、LLMに関連する問題を抑制するためのセーフガードの確立を企業に促すことを目指しています。バイアスの解明：トリッキーな数学以上の懸念ケネディ・メイズにとって、課題は「悪い数学」よりも深いレベルで続きます。AIモデルに内在するバイアスは、特に人種差別などの問題の文脈で、重大な懸念を引き起こします。メイズの実験は、AIモデルが偶然にも憎悪に満ちた差別的な発言を支持する可能性があり、偏見の拡散の懸念が生じることを示しました。また読む：FraudGPT：AIパワードサイバー犯罪ツールの驚異的な台頭「責任あるAI」の追求バイデン政権のディープリー・ナショナル・サイバー・ディレクターであるカミール・スチュワート・グロスターは、AIの乱用や操作を防ぐことの重要性を強調しています。ホワイトハウスの取り組みは、AIのためのブループリントやAIに関する行政命令などのイニシアチブを含んでいます。目標は、安全で透明性のある安全なAIシステムの開発を促進することです。また読む：AI信頼カーブに先んじて：オープンソースの責任あるAIツールキットが公開されました脆弱性の暴露：協力の呼びかけ…