Search Results 報告書

「DevOps 2023年の状況報告書：主要な調査結果と洞察」

年次調査の結果が発表されました画期的な発見がありますこのレポートは、AIとドキュメンテーションが生産性と仕事の満足度に与える影響を詳しく調査しています

「マイクロソフトの研究者が提案するMAIRA-1：胸部X線写真（CXR）から放射線報告書を生成するための放射線学専用マルチモーダルモデル」

Microsoftの研究チームは、MAIRA-1と呼ばれる放射線学に特化したマルチモーダルモデルを開発することで、胸部X線画像（CXR）のための高品質なレポートの生成問題に取り組みました。このモデルは、CXRに特化した画像エンコーダと、Vicuna-7Bに基づく微調整されたLLMを利用し、Findingsセクションに焦点を当てたテキストベースのデータ増強を行います。この研究は、課題を認識し、将来のバージョンでは現在と過去の研究情報を取り入れて情報の錯覚を減らすことを提案しています。研究で探求されている既存の手法は、PaLMやVicuna-7Bなどのマルチモーダル機能を持つLLMを使用して、胸部X線写真から叙述的な放射線学のレポートを作成することです。評価プロセスには、ROUGE-LやBLEU-4といった従来のNLPメトリックや、臨床的に関連のある側面に焦点を当てた放射線学固有のメトリックが含まれます。この研究は、所見の詳細な説明を提供することの重要性を強調しています。現在の評価手法の制約にも対処しながら、機械学習が放射線学のレポート生成において持つ可能性を示しています。 MAIRA-1の方法は、ビジョンと言語モデルを組み合わせて、胸部X線写真から詳細な放射線学レポートを生成します。このアプローチは、臨床的なレポート生成の特定の課題に対応し、品質と臨床的な関連性を測定するメトリックを使用して評価されます。研究結果は、MAIRA-1の方法が放射線学レポートの正確さと臨床的な有用性を向上させることができることを示しており、医学画像の機械学習における進歩を表しています。提案されたMAIRA-1は、胸部X線写真のための放射線学に特化したマルチモーダルモデルです。このモデルは、CXR画像エンコーダ、学習可能なアダプタ、および微調整されたLLM（Vicuna-7B）を利用して、画像と言語を融合させ、レポートの品質と臨床的な有用性を向上させます。さらに、追加のレポートのためにGPT-3.5を使用したテキストベースのデータ増強を行います。評価メトリックには、従来のNLP指標（ROUGE-L、BLEU-4、METEOR）と放射線学固有の指標（RadGraph-F1、RGER、ChexBertベクトル）が含まれ、臨床的な関連性を評価します。 MAIRA-1は、胸部X線レポートの生成において、RadCliQメトリックや放射線科医に合致した語彙メトリックの向上を示しました。モデルの性能は所見のクラスによって異なり、成功と課題が観察されました。MAIRA-1は、通常の評価手法では捉えられない微妙な不具合モードを効果的に解明し、言語上と放射線学固有の側面をカバーする評価メトリックによって示されました。MAIRA-1は胸部X線レポートの包括的な評価を提供します。まとめると、MAIRA-1は、ドメイン固有の画像エンコーダと的確かつ正確に微妙な所見を特定する能力を備えた既存のモデルを上回る、胸部X線レポートの生成において非常に効果的なモデルです。ただし、既存の手法の制約と臨床的な文脈の重要性を評価することも重要です。モデルの改善のためには、多様なデータセットと複数の画像を考慮する必要があります。 MAIRA-1の将来の発展では、GPT-3.5と前回の作業で示されているように、現在のおよび以前の研究からの情報を取り入れてレポートの錯誤を軽減することができるようになるかもしれません。クリニカルエンティティの抽出における外部モデルへの依存に対処するために、将来の取り組みでは強化学習アプローチを検討することができます。より大規模かつ多様なデータセットでの強化トレーニングや複数の画像と視点の考慮を進め、MAIRA-1の性能をさらに高めることが推奨されます。

報告書：OpenAIがGPT-VisionというマルチモーダルLLMをリリースするための取り組みを加速中

「The Information」の報告によると、ライバルのGoogleに先駆けて高度なマルチモーダルLLMを発表するため、OpenAIは報道によるとGPT-Vision（コードネーム：Gobi）のリリースを加速させているようですこれは、GoogleのマルチモーダルLLMであるGeminiが先週、一部の企業にリリースされた1週間後のことです...

「NVIDIAの収益報告書がAI革命での優位性を明らかに」

近年、AIは技術の進歩の中心であり、イノベーションを促進し、産業を再構築していますグラフィック処理の能力で知られるNVIDIAは、AIの台頭に伴う広範な経済的および技術的な利益の証として高くそびえ立っています彼らの最近の財務報告は、この企業がどれだけ重要な存在になっているかを明らかにしています

NVIDIA

「インプレッションGPT：放射線学報告書要約のためのChatGPTベースの反復最適化フレームワークに会いましょう」

効果的かつ正確なテキスト要約モデルの必要性は、一般的および医療分野のデジタルテキスト情報のボリュームが驚くほど拡大するにつれて増加しています。テキストの要約は、長い文章を簡潔な概要にまとめながら、その内容の意味と価値を保持することを意味します。これは、自然言語処理（NLP）の研究の中心テーマとなっています。ニューラルネットワークとディープラーニングの技術、特にエンコーダ・デコーダアーキテクチャを使用したシーケンス・トゥ・シーケンスモデルを導入することで、良好な結果が報告されました。これらのアプローチによって生成される要約は、ルールベースや統計ベースの方法と比較して、より自然で文脈に適したものでした。治療の現場での精度を求めるというニーズと、このような結果の文脈的および関係的な特徴を保持する必要性が、この取り組みをさらに困難にしています。研究者は、放射線報告書の要約にChatGPTを使用し、改善しました。ChatGPTの文脈学習能力を最大限に活用し、相互作用を通じて継続的に改善するために、迅速なエンジニアリングを用いて新しい反復的最適化手法を開発し、実装しました。より具体的には、類似性検索アルゴリズムを使用して、意味的および臨床的に比較可能な既存の報告書を組み込んだ動的なプロンプトを作成します。これらの並行した報告書でChatGPTを訓練し、類似した画像表現のテキスト説明と要約を理解するようにします。主な貢献類似性検索により、データがスパースである言語モデル（LLM）の文脈学習が可能になります。コーパス内で最も比較可能なケースを特定し、LLMに最も関連性の高いデータを含む動的なプロンプトを作成します。反復的最適化手法に対する動的なプロンプトシステムの作成。反復プロンプトは最初にLLMが生成した回答を評価し、その後の反復ではさらにその方法についての指示を与えます。既存のLLMからドメイン固有のモデルを迅速かつ効果的に開発する際に活用する、ドメイン固有の情報を最大限に活用する新しいアプローチ。提案された手法は、大量の医療テキストデータを事前学習に使用する他の手法と比較して優れた性能を発揮しています。この研究は、現代の人工汎用知能において、さらなるドメイン固有の言語モデルを構築するための基盤としても役立ちます。手法可変プロンプト動的なサンプルは、入力の放射線報告書に類似した例を取得するために意味的検索を使用します。最終的なクエリは、同じ予め定義された問い合わせと、テスト報告書の「所見」部分を組み合わせたものであり、タスクの説明が役割を表しています。反復による最適化反復的最適化コンポーネントを使用することで、興味深いことができます。このアプローチの目的は、ChatGPTが反復的なプロンプトを使用して回答を継続的に改善できるようにすることです。高リスクな放射線報告書の要約などの応用に重要な役割を果たし、また回答の品質を確認するための応答レビュー手順も必要です。少数のトレーニングサンプルと反復的な手法に基づいて入力プロンプトを改善することで、大規模言語モデル（LLM）を用いた放射線報告書の要約における使用の実現可能性を調査しました。コーパスから適切なインスタンスを探し出し、文脈の中でLLMを学習するために使用し、対話的な手がかりを提供するために使用しました。さらに出力を向上させるために、反復的最適化手法を使用しました。この手続きでは、自動評価フィードバックに基づいて、LLMにとって良いとされる応答と悪いとされる応答を教えることが含まれています。大量の医療テキストデータを事前トレーニングに使用する他の手法と比較して、私たちの戦略は優れていることが証明されています。また、この研究は、さらなるドメイン固有の言語モデルの構築の基礎としても利用できます。 ImpressionGPTの反復フレームワークで作業をしている間に、モデルの出力応答の品質を評価することが重要であるが困難なタスクであることに気付きました。研究者は、ドメイン固有と一般ドメインのテキスト間の大きな変動が、スコアの観察される相違に寄与していると考えています。そのため、得られた結果の詳細を検証するために、細かい評価尺度を用いることで、結果の詳細を検討しています。将来的には、データのプライバシーと安全性の問題に対処しながら、公共およびローカルのデータソースからドメイン固有のデータをより良く組み込むための迅速な設計の最適化を続けます。特に多くの組織と取り組む場合には。また、プロンプトの設計を現在のドメイン知識に適応させるために、ナレッジグラフを使用することも検討しています。最後に、放射線科医などの人間の専門家を、プロンプトの最適化プロセスに組み込み、システムによって提供される結果に対する客観的なフィードバックを提供することを計画しています。人間の専門家の判断と視点を組み合わせることで、より正確な結果を得ることができます。

報告書：中国、生成AIサービスの統治ルールを最終決定

木曜日、中国の規制当局は、生成AIに関する新しい規則を最終化したと発表しましたCNBCの報道によると、中国のサイバースペース管理局は、他の規制機関と協力して、生成AIサービスのための重要な新たな規則を起草したと述べました新しい規制は...

米国AI国家研究リソース暫定報告書に関するコメント

2022年6月下旬、Hugging Faceは、米国大統領府科学技術政策局と国立科学財団の「国家人工知能研究リソース（NAIRR）タスクフォースの中間報告結果を実装するためのロードマップ」に関する情報提供依頼に回答しました。私たちは、機械学習を民主化し、あらゆるバックグラウンドがAIに貢献できるようにすることを目指すプラットフォームとして、NAIRRの取り組みを強く支持しています。私たちの回答では、タスクフォースに以下の点を提案しています：技術的および倫理的な専門家をアドバイザーとして指名すること倫理的なイノベーションの実績を持つ技術的専門家をアドバイザーとして優先的に指名するべきです。彼らはNAIRRが技術的に実現可能で実施可能であり、AIシステムに必要なだけでなく、有害なバイアスや他の悪意のあるAIシステムの使用を悪化させない方法について調整することができます。Margaret Mitchell博士は、AI分野で最も優れた技術的専門家および倫理の実践者の一人であり、Hugging FaceのChief Ethics Scientistです。リソース（モデルおよびデータ）のドキュメンテーション基準 NAIRRが提供するシステムおよびデータセットのドキュメンテーションの基準とテンプレートは、アクセシビリティを向上させ、チェックリストとして機能します。この標準化により、さまざまな対象者やバックグラウンド間での読みやすさが確保されるべきです。モデルカードは、AIモデルのドキュメンテーションのための広く採用されている構造であり、強力なテンプレートとなる可能性があります。異分野の非技術的な専門家に対して機械学習を利用可能にすること NAIRRは、AIモデルのトレーニングなどの複雑なタスクを実行するための教育リソース、理解しやすいインターフェース、低コードまたはノーコードのツールを提供するべきです。例えば、Hugging FaceのAutoTrainは、技術的なスキルに関係なく、自然言語処理（NLP）モデルのトレーニング、評価、展開を行うことができるようにします。悪用および悪意のある使用の可能性のあるオープンソースおよびオープンサイエンスの監視 NAIRRとアドバイザーによって被害が定義され、継続的に更新されるべきですが、それは顕著な有害なバイアス、政治的なディスインフォメーション、ヘイトスピーチを含むべきです。NAIRRはまた、リソースの誤用が発生した場合に対策を講じるために法的な専門知識に投資するべきです。多様な研究者の視点をアクセス可能なツールとリソースによって強化することツールとリソースは、異なる学問分野だけでなく、責任あるイノベーションを推進するために必要な多言語と多様な視点に対して利用可能でアクセス可能でなければなりません。これは、少なくとも最も話されている言語に基づいて複数の言語でのリソース提供を意味します。Hugging Faceとフランス政府が主催する異なる学問分野からの1000人以上の研究者からなるコミュニティであるBigScience Research Workshopは、最も強力なオープンソースの多言語言語モデルの構築のために60以上の国からの視点を取り入れる良い例です。私たちのメモは、各提案についてさらに詳細に説明しています。私たちは、責任ある方法でAIを幅広く利用できるように、さらなるリソースに熱心に取り組んでいます。

「2023年のAI タイムライン」

はじめに人工知能（AI）は、技術的な進歩が人間のつながりの本質と共鳴する形で私たちの日常生活と交差する魅力的な領域です。今年は、単なるアルゴリズムを超えてAIを身近に感じる革新の物語が展開されました。2023年のAIの素晴らしいハイライトを探索しながら、この旅に参加しましょう。 AI 2023年のハイライト 2023年のAIの世界で行われた最大の発見、進歩、および世界的な変革の一部を紹介します。これらの進歩がどのように、技術が私たちの人間の体験にシームレスに統合される未来を形作っているのか、探求してみましょう。 2023年1月のAIハイライトこの年は、AIが医療と健康の分野で重要な進展を示しました。MITの研究者はマサチューセッツ総合病院と連携し、CTスキャンに基づいて患者の肺がんのリスクを評価できるディープラーニングモデルを開発しました。また、革命的な進歩として、研究者たちはAIを使ってゼロから人工的な酵素やタンパク質を作り出すことが可能なAIを開発しました。他にも多くのイノベーションの中で、人工知能は視覚障害のある人々が食料品を見つけるのを手助けするために手杖に統合されました。一方、ビジネスのフロントでは、OpenAIがMicrosoftとの数年間にわたる数十億ドルの取引を通じてAIの開発に大きく投資しました。 2023年2月のAIハイライト 2023年2月には、OpenAIのChatGPTに関する話題が最も盛り上がりました。このAI搭載のチャットボットは、アメリカ合衆国医師資格試験（USMLE）に合格し、その人気は1億人以上のユーザーにまで急上昇しました。 ChatGPTの現象に応えて、GoogleはAI会話の領域に新しい要素となるBard A.I.を導入しました。また、MicrosoftもChatGPTと統合された新しいBing検索エンジンの導入に重要な一歩を踏み出しました。 Metaは、Metaエコシステム内でAIの能力を向上させるというLLaMAを発表しました。一方、Amazon Web Services（AWS）は、一流のAIプラットフォームであるHugging Faceと提携し、AI開発者を支援しました。画期的な成果として、オックスフォードの研究者たちはRealFusionを示し、単一の画像から完全な360°写真モデルを再構築することができる最新のモデルを実証しました。 2023年2月には、AIの世界は音楽生成の領域にも足を踏み入れました。Google ResearchはMusicLMを紹介し、さまざまなジャンル、楽器、概念で曲を作成できるトランスフォーマーベースのテキストからオーディオへのモデルを提供しました。一方、Baiduの研究者はERNIE-Musicを発表し、拡散モデルを使用して、波形領域での最初のテキストから音楽を生成するモデルを開発しました。これらのモデルは、AIと創造的表現の融合における重要な進歩を示しています。 2023年3月のAIハイライト 2023年3月には、創造的なAIはいくつかの興味深い進展を見せました。AdobeはFireflyというAIをバックアップする画像生成および編集ツールの範囲でGenAIの領域に参入しました。一方、Canvaはユーザー向けにAIパワードの仮想デザインアシスタントとブランドマネージャーを導入しました。テックジャイアンツのAIプロジェクトは、第1四半期終盤に向けて全力で進展していました。OpenAIはChatGPTとWhisperというテキストから音声へのモデルのためのAPIを発売しました。OpenAIはまた、ChatGPTのためのいくつかのプラグインをリリースし、最も高度なAIモデルであるGPT-4を正式に発表しました。 HubSpotはユーザー向けにChatSpot.aiとContent Assistantという2つの新しいAIパワードツールを導入しました。ZoomはスマートコンパニオンのZoom…

『ジェネラティブAIの電力消費の定量化』

更新日：2023年12月11日—アナウンスメントにおいてAMDが予想する売上高の倍増を反映するため、アナウンスメントの付録に改訂された分析Generative AIにはグラフィックス処理ユニット（GPU）が必要であり、それらはたくさん必要とされます計算が…

『UC BerkeleyがAIフィードバックから強化学習を使って訓練されたオープンなLLMを発表』

新しいレポートでは、UCバークレーの研究者がReinforcement Learning from AI Feedback（RLAIF）を使って作成された革命的な大規模言語モデルであるStarling-7Bを紹介しています研究者たちは、このモデルが最先端の技術と手法を取り入れ、自然言語処理の領域を再定義する助けになることを期待しています研究者たちは、...

Learn more about Search Results 報告書