オープンAIのイリヤ・サツキバーは、超知能AIを抑制するための計画を持っています

美容とファッションのエキスパートであるイリヤ・サツキバーが、超知能AIを抑制するための計画を持っています

オープンAIによって発表された研究論文は、優れたAIモデルをより賢いものにすることなく、劣ったAIモデルが行動を導く方法を実験するための結果を推進しています。¶ クレジット:Eugene Mymrin / Getty Images

オープンAIは、AIが創造者以上に賢くなった場合でも、全ての人類に利益をもたらす人工知能を開発するという約束のもとに設立されました。昨年のChatGPTの登場以来、そして最近のガバナンス危機の間、同社の商業的な目標がより顕著になっています。今、同社は、将来の超賢いAIを取り組む新しい研究グループが成果を上げ始めたと述べています。

「AGIは非常に迫っています」と、7月に設立されたスーパーアライメント研究チームに参加しているオープンAIの研究者であるレオポルド・アッシェンブレナーは述べています。「私たちは超人的なモデルを見ることができます。彼らは広範な能力を持っており、非常に危険かもしれませんが、まだそれを制御する方法を持っていません。」オープンAIは、スーパーアライメントプロジェクトに利用可能な計算能力の5分の1を割り当てると述べています。

Wiredからフル記事を見る

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

AIニュース

「巨大な望遠鏡が知能化されたメンテナンスロボットを採用」

「五つの「知能化」ロボットシステムとプラットフォームが、中国の五百メートル口径球面電波望遠鏡(FAST)の維持管理をするた...

機械学習

Pixis AIとは、コードを書かずにAIソリューションを提供する新興のスタートアップです

AIモデルのトレーニングには膨大な情報が必要です。しかし、すべての情報が同じではありません。モデルをトレーニングするた...

機械学習

「インプレッションGPT:放射線学報告書要約のためのChatGPTベースの反復最適化フレームワークに会いましょう」

効果的かつ正確なテキスト要約モデルの必要性は、一般的および医療分野のデジタルテキスト情報のボリュームが驚くほど拡大す...

人工知能

SalesforceのLive Call Analyticsによる統合でエージェントの生産性を向上させる

コンタクトセンターエージェントとして、生産的な顧客との会話に集中することが好きですか?それとも、さまざまなシステムに...

機械学習

「SEINEをご紹介します:シーン間のスムーズでクリエイティブなトランジションがある高品質な拡張ビデオのためのショートトゥロングビデオ拡散モデル」

テキストから画像を生成する拡散モデルの成功を受けて、ビデオ生成技術が急速に発展し、この領域での興味深い応用が見られる...

AI研究

Covid-19の多様な変異株に対応する多目的ワクチンの作成

機械学習の助けを得て、科学者たちは、すべてのSARS-CoV-2株に対して有効なワクチンを開発するために取り組んでいます