「OpenAIのAI検出ツールは、AIによって生成されたコンテンツの74％を検出できない」

OpenAI's AI detection tool cannot detect 74% of content generated by AI.

OpenAIは、画期的な生成型AIチャットボットChatGPTの製造元であり、最近、AI分類ツールの提供を中止したことで話題となりました。このツールは、人間による文章とAIによる文章を区別するために設計されていましたが、低い正確性のために中止されることになりました。この記事では、この開発の影響について探求し、誤情報、教育、そしてOpenAIの現在の課題について考察します。

また読む：IIT卒業生のAI生成カバーレターが笑いを誘う

AI分類器の正確性の問題

OpenAIは、AI分類ツールの提供を正式に中止し、低い正確性率を主な理由として挙げました。同社は改善の必要性を認め、フィードバックの収集とテキストの出所を検証するためのより良い技術の探求に取り組むことを強調しました。AI分類器は正確性に苦戦し、AIによって書かれたテキストを「おそらくAIによる」と正しく識別できるのは26％のみでした。さらに、人間によって書かれたテキストをAI生成と誤って分類することが9％ありました。これらの制限が最終的な中止につながりました。

また読む：AIディテクターがアメリカ憲法をAI生成と判定

• 「ショートGPTと出会おう：コンテンツ作成の自動化とビデオ制作プロセスの効率化のためのパワフルなAIフレームワーク」
• ショッピファイの従業員がAIによるレイオフと顧客サービスの危機を暴露
• 「カスタムGPT-4チャットボットの作り方」

誤情報とAI生成コンテンツ

OpenAIのChatGPTの登場は大きな影響を与え、AI生成のテキストやアートの悪用の懸念が高まりました。研究によると、ツイートを含むAI生成のコンテンツが人間によるコンテンツよりも説得力があることが明らかになりました。これは誤情報の拡散についての疑問を呼び起こします。

また読む：PoisonGPT：Hugging Face LLMがフェイクニュースを拡散

教育上の懸念とChatGPT

教育関係者は、学生が宿題を完成させるためにChatGPTに過度に頼ることに懸念を表明し、積極的な学習を妨げ、学業の不正行為を促進する可能性があると危惧しました。これに対して、ニューヨークの学校など、特定の教育機関は自社施設でのChatGPTへのアクセスを大胆に禁止しました。

また読む：BYJU’sがAIを使って教育の旅をカスタマイズ

AI生成コンテンツの規制

OpenAIのAI革命により、コンピュータ生成のテキストやメディアが殺到したため、政府はAI生成コンテンツの規制に直面しました。包括的な規制戦略がない中、さまざまなグループや組織が誤情報に対抗するためのガイドラインを開発するための主導権を取りました。

また読む：ChatGPTが自分自身を規制するための法律を制定

OpenAIの苦悩

先進的なAI企業であるOpenAIですら、AIと人間によるコンテンツの区別について包括的な解決策を欠いていることを認めました。この課題はますます困難になっており、信頼性と安全性の責任者の離任や連邦取引委員会によるOpenAIのデータ審査手法の調査が、同社の課題に追い打ちをかけました。OpenAIはAI検出ツールを引退させる一方で、AI生成音声や映像コンテンツの検出メカニズムの開発に注力しています。この焦点の変化は、AIアプリケーションの進化する風景と、合成コンテンツの増殖によってもたらされる課題に対処する必要性を反映しています。

また読む：OpenAIとMetaが著作権侵害で訴えられる

私たちの意見

OpenAIがAI検出ツールを引退するという決定は、AI生成コンテンツの進化する複雑さを強調しています。誤情報への懸念、教育における課題、堅固な規制の必要性は大きな障壁です。AIの風景が進化し続ける中で、OpenAIや他の組織は、インターネット上のコンテンツの信頼性を維持するために、より高い正確性と責任を追求する必要があります。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!