Learn more about Search Results ML - Page 361

コンピュート最適な大規模言語モデルトレーニングの経験的分析

私たちは次の問いに取り組みます「与えられた計算予算に対して、最適なモデルのサイズとトレーニングトークンの数は何か?」この質問に答えるために、私たちはさまざまなサイズのモデルをトレーニングし、さまざまなトークンの数で推定を行います私たちの主な結論は、現在の大規模言語モデルは、計算予算に対して非常に大きすぎる上に、十分なデータでトレーニングされていないということです

Perceiver AR(パーシーバーAR):汎用、長文脈の自己回帰生成

私たちはPerceiver ARを開発していますこれは自己回帰型であり、モダリティを問わないアーキテクチャで、クロスアテンションを使用して長距離の入力を少数の潜在変数にマッピングすると同時に、エンドツーエンドの因果的マスキングを維持しますPerceiver ARは、手作りの疎なパターンやメモリメカニズムの必要なしに、10万以上のトークンに直接アテンションを注ぐことができ、実用的な長文脈の密度推定を可能にします

AIバイアス:課題と解決策

人工知能のバイアスはどこから来るのか一度それを見つけたら、どのようにしてそれを減らしたり、排除したりすることができるのでしょうか?

AI研究の善循環

最近、私たちはDeepMindの研究科学者であるペタル・ヴェリチコビッチさんに取材しましたペタルさんは共著者とともに、彼の論文「The CLRS Algorithmic Reasoning Benchmark」をアメリカのメリーランド州ボルチモアで開催されるICML 2022で発表します

科学者が本当のスーパーヒーローであることを実感する

私たちのマルチエージェント研究チームの研究エンジニアであるエドガー・ドゥエニェス・グスマンにお会いください彼は、ゲーム理論、コンピュータサイエンス、社会進化の知識を活用して、AIエージェントがより良く協力するための取り組みを行っています

システムにエージェントが存在するかを発見する

私たちは、意図した目標を追求する安全で適合した人工汎用知能(AGI)システムを構築したいと考えています因果関係図(CIDs)は、エージェントのインセンティブについて推論することができる意思決定状況をモデル化する方法ですトレーニングの設定とエージェントの行動を形成するインセンティブを関連付けることで、CIDsはエージェントをトレーニングする前に潜在的なリスクを明らかにし、より良いエージェントの設計にインスピレーションを与えることができますしかし、CIDがトレーニングの設定の正確なモデルであるかどうかをどのように知ることができるでしょうか?

AIを活用した亀の顔認識による保全の推進

私たちは、Zindiと出会いましたZindiは、補完的な目標を持つ専門のパートナーであり、アフリカのデータサイエンティストの最大のコミュニティであり、アフリカの最も切迫した問題を解決するために焦点を当てた競技会を開催しています私たちの科学チームの多様性、公正性、包括性(DE&I)チームは、Zindiと協力して、保全活動を進め、AIへの参加を促進することができる科学的な課題を特定しましたZindiのバウンディングボックスカメの課題に触発され、私たちは実際の影響を持つ可能性のあるプロジェクトに着地しました:カメの顔認識です

私のDeepMindインターンからメンターへの道のり

元インターンであり、現在はインターンマネージャーとして活躍するリチャード・エベレット氏は、DeepMindへの道のりを語り、DeepMindを志す人々に対してのアドバイスやヒントを共有しています2023年のインターンシップ応募は9月16日に開始されますので、詳細についてはhttps//dpmd.ai/internshipsatdeepmindをご覧ください

安全な対話エージェントの構築

私たちの最新の論文では、Sparrowという対話エージェントを紹介しますこのエージェントは有用であり、危険な回答や不適切な回答のリスクを軽減します私たちのエージェントはユーザーと話し、質問に答え、必要に応じてGoogleを使用してインターネットを検索し、回答に基づく根拠を提供します

ビデオゲームの世界でインタラクティブなエージェントを構築する

ほとんどの人工知能(AI)の研究者は、現在、状況に即した相互作用の微妙なニュアンスを捉えることができるコンピュータコードを書くことは不可能だと考えていますその代わり、現代の機械学習(ML)の研究者は、このような相互作用についてデータから学ぶことに焦点を当てています人間の指示を理解し、開放的な条件下で安全に行動できるエージェントを迅速に構築するために、私たちはビデオゲーム環境内での研究フレームワークを作成しました今日、私たちは [リンクを挿入] ペーパーと、ビデオのコレクションを公開しており、それらは私たちが人間の曖昧な概念を理解できるビデオゲームAIの構築における初期のステップを示していますしたがって、それらは人々と自分たちの言葉で相互作用を始めることができます

Find the right Blockchain Investment for you

Web 3.0 is coming, whether buy Coins, NFTs or just Coding, everyone can participate.

Advertising with us