オープンAIのイリヤ・サツキバーは、超知能AIを抑制するための計画を持っています

美容とファッションのエキスパートであるイリヤ・サツキバーが、超知能AIを抑制するための計画を持っています

オープンAIによって発表された研究論文は、優れたAIモデルをより賢いものにすることなく、劣ったAIモデルが行動を導く方法を実験するための結果を推進しています。¶ クレジット:Eugene Mymrin / Getty Images

オープンAIは、AIが創造者以上に賢くなった場合でも、全ての人類に利益をもたらす人工知能を開発するという約束のもとに設立されました。昨年のChatGPTの登場以来、そして最近のガバナンス危機の間、同社の商業的な目標がより顕著になっています。今、同社は、将来の超賢いAIを取り組む新しい研究グループが成果を上げ始めたと述べています。

「AGIは非常に迫っています」と、7月に設立されたスーパーアライメント研究チームに参加しているオープンAIの研究者であるレオポルド・アッシェンブレナーは述べています。「私たちは超人的なモデルを見ることができます。彼らは広範な能力を持っており、非常に危険かもしれませんが、まだそれを制御する方法を持っていません。」オープンAIは、スーパーアライメントプロジェクトに利用可能な計算能力の5分の1を割り当てると述べています。

Wiredからフル記事を見る

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!

Share:

Was this article helpful?

93 out of 132 found this helpful

Discover more

データサイエンス

「AIと大学フットボールの未来」

大学のスポーツ界は、再びお金とフットボールのおかげで変動しましたSECが最初に動き、テキサスとオクラホマを獲得し、それに...

AI研究

Airbnbの研究者がChrononを開発:機械学習モデルの本番用機能を開発するためのフレームワーク

機械学習の絶え間なく進化する風景において、特徴管理はAirbnbのMLエンジニアにとって重要な課題となっています。彼らはさま...

データサイエンス

NumpyとPandasを超えて:知られざるPythonライブラリの潜在能力の解放

Pythonでのデータ操作と計算について話すとき、一般的にはPandasとNumpyを思い浮かべます他にも3つの強力なライブラリを見つ...

データサイエンス

初心者向けの生成AIの優しい紹介

ここ数ヶ月間、いわゆる「生成AI」の台頭が見られますその基礎を理解する時が来ました

データサイエンス

AIの新たなフロンティアを探る:Google DeepMindのReSTEM自己学習による機械学習の進化に関する研究

大型の言語モデル(LLMs)は、人間レベルのテキストを生成し、さまざまな言語タスクを実行する驚異的な能力によって、ディー...

機械学習

NLPの探索 - NLPのキックスタート(ステップ#1)

今学期、私はカリキュラムの一部としてNLPを受講していますやったー!さて、この科目の今後の評価の一環として、与えられた教...