研究者たちは、AIシステムを取り巻くガードレールはあまり堅牢ではないと述べています

『AIシステムのガードレールは不十分であると研究者らが指摘』

昨年、サンフランシスコのスタートアップ企業OpenAIは、A.I.チャットボットChatGPTをリリースする前に、憎悪表現やディスインフォメーションを生成するなどの不適切な行動を防ぐためのデジタルな庇護装置を装着しました。GoogleもそのBardチャットボットに同様のことをしました。

しかし、プリンストン大学、バージニア工科大学、スタンフォード大学、IBMの研究者からなるチームが発表した論文によると、これらの庇護装置はA.I.開発者が考えているほど堅固ではないとのことです。

この新たな研究は、企業がA.I.の誤用を抑制しようとしている一方で、それが依然として有害なコンテンツを生成する方法を見落としているという広範な懸念に迫っています。新しいチャットボットの基盤となる技術は非常に複雑であり、これらのシステムにより多くのことが要求されるにつれて、その振る舞いを制御することはますます困難になっています。

記事全文はThe New York Timesのこちらをご覧ください

• UCバークレーの研究者たちは、「リングアテンション：トランスフォーマーのメモリ要件を削減するためのメモリ効率の良い人工知能アプローチ」という提案を行っています
• 「マイクロソフトの研究者たちはDeepSpeed-VisualChatを提案：スケーラブルなマルチモーダル言語モデルの訓練の大きな進歩」というタイトルで、記事の内容を日本語に翻訳すると、以下のようになります
• このAI研究は、事前のイメージングなしで物体のエッジを検出するためのノイズ耐性のある方法を開発しました

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!