「研究者がChatGPTを破った方法と、将来のAI開発に与える可能性」
Researcher's breakthrough in defeating ChatGPT and its potential for future AI development
![カーネギーメロン大学とAI安全センターの研究者は、ChatGPT、Google Bard、ClaudeなどのAIチャットボットに脆弱性を見つけました。 ¶ クレジット:ゲッティイメージズ](https://cacm.acm.org/system/assets/0004/6036/072823_gettyimages-Chat_AI.large.jpg?1690563530&1690563530)
私たちの多くが日常的に人工知能ツールを使用するようになるにつれて、疑問を持ち続けることを忘れずにいる価値があります。何も完全に安全でセキュリティ上の脆弱性がないわけではありません。それでも、最も人気のある生成型AIツールの背後にある企業は、不正確で有害なコンテンツの生成と拡散を防ぐために安全対策を常に更新しています。
カーネギーメロン大学とAI安全センターの研究者は、ChatGPT、Google Bard、ClaudeなどのAIチャットボットに脆弱性を見つけるために協力しました。そして、成功しました。
大規模言語モデル(LLM)の自動攻撃に対する脆弱性を調査するための研究論文では、著者らは、モデルが攻撃に耐性があると言われていても、コンテンツフィルタを回避し、有害な情報、誤情報、ヘイトスピーチを提供するようにだまされる可能性があることを示しました。これにより、これらのモデルは脆弱性があり、AIの誤用につながる可能性があります。
「これは、我々がこれらのシステムに構築している防御の脆弱性を非常に明確に示しています」と、ハーバード大学のバークマン・クライン・センターの研究者であるアヴィヴ・オバディヤ氏はニューヨークタイムズに語りました。
- 「KAISTの研究者がFaceCLIPNeRFを紹介:変形可能なNeRFを使用した3D顔のテキスト駆動型操作パイプライン」
- 『ChatGPTや他のチャットボットの安全コントロールに研究者が問題点を指摘』
- RT-2 新しいモデルは、ビジョンと言語をアクションに変換します
ZDNetから全文記事を表示
We will continue to update VoAGI; if you have any questions or suggestions, please contact us!
Was this article helpful?
93 out of 132 found this helpful
Related articles
- DeepMindの研究者たちは、正確な数学的定義を用いて、連続した強化学習を再定義しました
- イギリスのインペリアル・カレッジ・ロンドンとディープマインドの研究者たちは、AIフレームワークを設計しましたこのフレームワークは、言語をRLエージェントの中核的な推論ツールとして使用します
- CMUの研究者が「WebArena」を導入:有用なエージェントのベンチマーキングを行うための4つ以上の現実的で再現可能なWeb環境となる4つ以上の現実的なWebアプリを備えたもの
- 「INDIAaiとMetaが連携:AIイノベーションと共同作業の道を開く」
- 研究者たちは「絶対的に安全な」量子デジタルペイメントを実証
- ロボットが太陽エネルギー研究を推進
- スタンフォード大学の研究者たちは、「ギスティング:言語モデルにおける効率的なプロンプト圧縮のための新しい技術」というものを紹介しました