Search Results A

「ゼロ冗長最適化（ZeRO）：Pythonによる短い紹介」

ゼロ冗長最適化器がデータ並列処理を変換する方法を明らかにし、メモリと計算効率を向上させます

大規模言語モデル（LLM）は、近年、さまざまな自然言語処理（NLP）、自然言語理解（NLU）、自然言語生成（NLG）のタスクで驚くべき結果を達成してきました。これらの成功は、さまざまなベンチマークで一貫して文書化されており、これらのモデルは言語理解の能力において印象的な実績を示しています。推論から望ましくない不一致な行動の強調まで、LLMは大きな進歩を遂げています。LLMは大きく進化しましたが、偽のがしかしも可能性がある情報の作成、誤った論理の使用、有害または損害を与える出力の作成など、依然として利用価値を損なう不適切で一貫性のない行動があります。これらの制約に対処するための1つのアプローチは、自己修正のアイデアです。LLMは、自己生成情報の問題を修正するように促されたりガイドされたりします。最近、LLM自体からまたは他のシステムから得られる自動フィードバック機構を利用する方法には、多くの関心が寄せられています。これらの技術は、人間のフィードバックに依存を減らすことにより、LLMベースのソリューションの実現可能性と有用性を向上させる可能性があります。自己修正アプローチにより、モデルは自動生成されたフィードバック信号から反復的に学習し、その行動の効果を理解し、必要に応じて行動を変えることができます。自動フィードバックは、LLM自体、トレーニングされた独立したフィードバックモデル、外部ツール、Wikipediaやインターネットなどの外部情報源など、さまざまなソースから得ることができます。LLMを自動フィードバックによって修正するために、セルフトレーニング、生成してランク付け、フィードバックによるデコーディング、反復的な事後修正など、さまざまな技術が開発されています。これらの方法は、推論、コード生成、毒素検出など、さまざまなタスクで成功しています。カリフォルニア大学サンタバーバラ校の最新の研究論文は、この新興のアプローチグループの包括的な分析に焦点を当てています。チームは、これらの戦術を利用した多数の現代の研究プロジェクトを徹底的に調査し分類しました。訓練時の修正、生成時の修正、事後修正の3つの主要なセルフ修正技術のカテゴリが調査されました。モデルの訓練フェーズ全体で入力にさらされることにより、訓練時の修正が向上されました。チームは、これらの自己修正技術が成功しているさまざまな設定を強調しています。これらのプログラムは、推論、コード生成、毒性検出など、さまざまなトピックをカバーしています。この論文は、これらの技術の実用的な意義と、これらの技術の広範な影響を提供することで、さまざまな文脈での適用の可能性について洞察を提供しています。チームは、生成時の修正は、コンテンツ生成プロセス中のリアルタイムのフィードバック信号に基づいて出力を洗練することを意味します。事後修正は、すでに生成されたコンテンツを後続のフィードバックを使用して修正することを含みます。したがって、この分類は、これらの技術がどのように操作され、LLMの動作の改善にどのように貢献するかを理解するのに役立ちます。セルフ修正手順の発展には改善と成長の機会があり、これらの問題に取り組み、これらのアプローチを改善することにより、フィールドはさらに進展するかもしれず、リアルワールドの状況でより一貫した振る舞いをするLLMとその応用を実現することができるでしょう。

「ジョンズ・ホプキンス大学の研究者たちは、がんに関連するタンパク質フラグメントを正確に予測することができる深層学習技術を開発しました」

ジョンズ・ホプキンス大学のエンジニアとがん研究者は、最先端の深層学習技術を駆使して、個別のがん治療における画期的な突破を共同で成し遂げました。この革新的な技術であるBigMHCは、免疫系の反応を促す可能性があるがん関連のタンパク質の断片を正確に予測することで、この分野を革新する可能性を秘めています。この成果は、Nature Machine Intelligenceジャーナルに掲載され、個別の免疫療法やがんワクチンの開発における重要なハードルを克服することが期待されています。ジョンズ・ホプキンス大学内のさまざまな部門のエンジニアとがん研究者からなるチームは、BigMHCががん細胞上に存在するタンパク質断片を特定する能力を持っていることを示しました。これらの断片は、がん細胞を排除するための免疫反応を引き起こす可能性があります。この認識プロセスは、T細胞が細胞表面上のがん特異的なタンパク質断片に結合することによって実現され、がん免疫療法において重要なフェーズとなります。深層学習の力を活用することで、この技術は免疫療法の反応の理解とカスタマイズされたがん治療の開発を加速することを約束しています。免疫反応を引き起こすタンパク質断片は、しばしばがん細胞内の遺伝的変異に由来しており、ミュータント関連新抗原として知られています。各患者の腫瘍内のこれらの新抗原の固有のセットは、腫瘍と健康な細胞との類似性の度合いを決定します。免疫反応を引き起こす最も効力のある新抗原を特定することは、効果的ながんワクチンや免疫療法のカスタマイズ、およびこれらの治療の患者選択を指示するために重要です。しかし、このような免疫反応を引き起こす新抗原を特定し検証するための従来の技術は、労力がかかり、費用がかかるため、時間のかかる湿式実験に大きく依存しています。新抗原の検証に必要なデータ量が限られているため、リソースの消費が多いため、研究者たちはBigMHCのトレーニングには2段階の転移学習アプローチを採用しました。まず、BigMHCは細胞表面上に提示される抗原を識別することを学びます。これは免疫反応のフェーズであり、多くのデータが利用可能です。その後、T細胞の認識を予測するために、データの利用可能性が限られた後のフェーズに対して微調整が行われます。この戦略により、研究者たちは抗原提示の包括的なモデルを構築し、効果的に免疫原性のある抗原を予測することができました。 BigMHCの経験的なテストでは、広範な独立したデータセットでの予測の正確性が、他の既存の手法と比較して優れていることが明らかになりました。さらに、研究者が提供したデータに適用した場合、BigMHCはT細胞の反応を引き起こす新抗原の特定において、他の7つの代替手法よりも優れた性能を発揮しました。この成果は、BigMHCの驚異的な予測精度だけでなく、がん免疫療法を個別化するという重要な臨床的ニーズに対するその潜在能力を示しています。チームはBigMHCの有用性をさまざまな免疫療法の臨床試験全般に拡大して調査を進める中で、免疫反応の有望な新抗原の特定を効率化する可能性がますます明らかになっています。究極の目標は、BigMHCを活用して複数の患者に適用可能な免疫療法の開発、または個々の患者のがん細胞に対する免疫反応を高めるためのカスタマイズされたワクチンの開発を進めることです。 BigMHCなどの機械学習ベースのツールを活用することにより、研究者たちは将来の展望を描いています。医師やがん研究者は効率的に膨大なデータセットを処理し、より効率的で費用対効果の高い個別のがん治療手法を実現する道を開くことができるようになるでしょう。この先駆的な研究によって示されるように、深層学習を臨床がん研究と実践に統合することは、革新的な技術と学際的な協力を通じてがんを克服するための重要な一歩となります。

XGBoost 最終ガイド（パート2）

前の記事では、XGBoostアルゴリズムについて説明し、擬似コードでその実装を示しましたこの記事では、Pythonを使用してアルゴリズムをゼロから実装します提供された...

「PythonとLinuxでのポスト量子暗号化」

もしエドワード・スノーデンの言葉を信じるなら、暗号化は「監視に対する唯一の真の保護手段」[1]ですしかし、量子技術の進歩によって、この安全装置が危険にさらされる可能性があります本記事では、その理由について議論します...

エンティティの解決実装の複雑さ

エンティティの解決は、データセット内の2つ以上のレコードが同じ現実世界のエンティティ（しばしば人や会社）を参照しているかどうかを判断するプロセスです一見すると、エンティティの解決は...

ビジュアルエフェクトマルチプライヤー：ワイリー社、24倍のリターンを得るためにGPUレンダリングに全力投球

ビジュアルエフェクトスタジオは長い間、計算負荷の高い複雑な特殊効果のために、レンダーファーム（膨大な数のサーバー）に頼ってきましたが、その風景は急速に変わりつつあります。これらのサーバー施設では、高いシリコンとエネルギーコストがかかり、Mooreの法則によるパフォーマンスの向上が制約されることで、スタジオの利益を減少させ、制作時間を増加させています。それらの課題を回避するために、Oscar受賞作品『デューン』、マーベルのタイトル、HBO、Netflixの作品を手掛けるビジュアルエフェクトスタジオであるWylie Co.は、GPUレンダリングに全力を注いでいます。写実的なビジュアルエフェクトやスタイライズされたアニメーションのレンダリングには、年間約100億CPUコア時間が必要とされます。単一のアニメーション映画をレンダリングするためには、レンダーファームには5万以上のCPUコアが300億以上のCPUコア時間を稼働することが必要です。これらのリソースは、著しい炭素効果と物理的な足跡を作り出すことができます。多くのスタジオが既にレンダリングプロセスの一部にGPUを使用していますが、Wylie Co.は最終的なレンダリングやワイヤリムーバーなどのAI、コンポジットやビジュアルエフェクトワークフローの多くの側面において、すべての作業にGPUを使用しています。 GPUへの移行によるパフォーマンスの向上 24倍レンダーファームによって、ビジュアルエフェクトスタジオは大量の画像、シーン、または映画全体のファイルをオフロードし、これらの作業には数時間または数週間かかるため、スタジオのリソースを開放することができます。多くのスタジオは、以前にレンダーファームに送信されていた一部のタスクを処理できるマルチGPUワークステーションに移行しています。これにより、スタジオはより迅速に反復することができ、制作時間とコストを圧縮することができます。 Wylie Co.は、さまざまな領域でGPUに移行し、CPUと比較して総合的に24倍のパフォーマンス向上を実現しました1。 GPUはエネルギー使用量を10倍低減スタジオは、このような計算負荷の高いレンダリングタスクのコストを削減したいと考えていますが、現実的には、エネルギーとスペースのコストの低下も低い炭素足跡の利益をもたらします。ビジュアルエフェクトレンダリングパイプラインで使用されるGPUは、パフォーマンスを最大46倍に向上させる一方、エネルギー消費を5倍、資本費を6倍低減します。 GPUへの切り替えにより、業界全体での調達コストを9億ドル、CPUベースのレンダーファームを使用した場合に比べて消費されるエネルギー量を215ギガワット時間削減できる見込みです。 NVIDIAのデジタルレンダリングの省エネソリューションについて学ぶ 1 NVIDIA Quadro…

「挑戦受けた：GeForce NOWが究極の挑戦とベセスダゲームをクラウドで始動させる」

おはようございます、目を覚ましてください — GeForce NOWアルティメットKovaaKの挑戦が本日のQuakeConゲーミングフェスティバルで開催されます。240フレーム/秒の超高速ストリーミングで、ゲーマーは究極の潜在能力を発揮するチャンスを得ることができます。トップスコアを獲得した方には、240Hzのゲーミングモニターなど、素敵な賞品が贈られます。 Bethesdaの受賞歴のあるタイトル、Doom Eternal、Quake、Wolfenstein: The New Order、Wolfenstein II: The New Colossus、Wolfenstein: Youngbloodが今週、GeForce NOWライブラリに加わり、クラウドを熱く盛り上げます。さらに、Baldur’s Gate 3はメンバーに大好評です。今日UltimateとPriorityメンバーシップにアップグレードして、無料メンバーよりも待ち時間をスキップして、より早くゲームを楽しんでください。究極のパワー、究極の勝利注意：GeForce NOW Ultimateメンバーシップは非常に優れているため、ゲーマーはもはやハードウェアのせいに敗北を嘆くことはありません。 Ultimateアップグレードの完了を祝して、GeForce NOWはUltimate…

「研究者がオンラインプライバシーについて子供たちと話すためのベストプラクティスを探求する」

NISTの研究者は、幼い時から高校時代までの子供たちにオンラインプライバシーとセキュリティについて話すための良い戦略を提案しています

「３歳のロボットの子育て」

カーネギーメロン大学とMeta AIの研究者によって開発されたオープンソースのAIエージェントは、ロボットに3歳の子供と同等の操作能力を与えます

Learn more about Search Results A - Page 710