Search Results A

「バンク・オブ・アイルランドのIT障害後、人々がATMに殺到する」

「アイルランド銀行は、一部の顧客が口座内の残高を超えて資金を引き出したり送金したりすることを可能にする技術的な問題を修正しましたソーシャルメディアの投稿がATMの列を引き起こしましたが、それに対応しました」

プロンプトエンジニアリング：検索強化生成（RAG）

このブログでは、リトリーバル拡張生成というプロンプトエンジニアリング技術について理解し、Langchain、ChromaDB、GPT 3.5を使って実装します

スタビリティAIは、StableChatを紹介します：ChatGPTやClaudeに似た会話型AIアシスタントの研究プレビュー

Stability AIは、Stable Chatというプラットフォームを導入しました。このプラットフォームは、ChatGPTの馴染みのある形式に非常に似ています。しかし、初期の評価の結果、この提供にはさらなる改善と強化が必要な箇所がいくつかあります。 Stable Chatが提供するインターフェースは、テキストベースの会話を行うことができ、ChatGPTの形式と非常に似通っています。しかし、この類似点にもかかわらず、プラットフォームには制約が存在します。特に、チャット履歴の機能と独立したチャットセッションを確立する能力が必要です。インターフェースを更新すると、会話データが失われるという不便な点があります。この革新的なチャットインターフェースの中核には、Stability AIの最近リリースされたStable Belugaモデルがあります。オンラインでのコメントからは、このモデルがロシア語の単語を理解できる一方、その能力は、一貫した言語構造を構築するよりも個々の単語を認識する傾向があるという初期のフィードバックが示されています。 Belugaモデルとの対話によって、いくつかの重要な観察結果が明らかにされました：モデルは厳格な安全プロトコルに従っており、特定のタイプのコンテンツを生成する際には慎重さを示します。たとえば、最初はエロティックな内容を生成しないことが観察されています。モデルのコンテンツ生成は多様性を示し、同じプロンプトを提示された場合でも異なる応答を提供します。この多様性は、モデル自体の裁量により、コンテンツの形式を変更することにも及びます。これには、情報をリストとして構造化したり、説明的な内容の段落を作成したり、単語のリストを特集したセクションを作成したりすることが含まれます。言語スタイルに関しては、モデルは時折より一貫性を持つ必要があります。生成されたコンテンツのトーンや構造が変化する場合があり、改善の余地があることを示しています。モデルの応答には、予測不可能性を導入するフレーズが時折含まれています。たとえば、ボードゲームに関連するクエリに対する応答として、「Peppermint drinker」、「Medusonki」、「Lamb cub」といったユニークな表現が生成されることがあります。面白いことに、モデルは時々ユーザーに外部リソースを参照することを提案します。たとえば、特定のトピックの単語オプションを拡張するためにGoogle Translatorを使用することを提案することがあります。注目すべき懸念の一つは、モデルの安定性と一貫性です。ユーザーは、チャットウィンドウ内での一時的な切断や一定時間のタイムアウトの報告を行っています。確立されたChatGPTと比較すると、Stable Chat内にはさらなる改善の余地があることが明らかになります。Stability AIのリサーチプレビューは、約束を示し、独自のコンテンツ生成を提供していますが、時折一貫性に欠けることがあります。

「DARPAがハッカーを起用し、サイバー脅威から重要なソフトウェアを強化する」

競争は、トップのAIおよびサイバーセキュリティの才能に対して、ソフトウェアの脆弱性を自動的に見つけて修正し、重要なインフラストラクチャをサイバー攻撃から守ることを求めます

Anthropicは、韓国の通信企業からカスタムLLMのために100ドルを調達しました

クロード・クリエイター、Anthropicは、韓国のテレコムプロバイダーであるSKテレコムからカスタムLLMのために1億ドルを調達しましたこのニュースは、Anthropicが今年5月にシリーズCラウンドで大規模な資金を調達した直後のものですSKTのプレスリリースによれば、この投資とAnthropicとのパートナーシップは...

Google AIのAdaTapeは、Transformerベースのアーキテクチャを持つ新しいAIアプローチです

先週のブログ投稿で、Google Researchは新たなAIアプローチであるAdaTapeを紹介しましたAdaTapeはトランスフォーマベースのアーキテクチャを使用し、適応的な計算を活用しますAdaTapeは適応的な機能を使用して、計算予算を変調できる弾力性のある入力シーケンスを作成します関連する研究論文によると、AdaTapeは適応性を直接注入します...

このAIニュースレターは、あなたが必要とするすべてです＃60

今年、AI競争が加速する中で、AIチップのトレーニングと推論能力が重要な資源となっており、過去数週間にわたりいくつかの進展が見られました大手テクノロジー企業と...

StableCodeについて知っておくべきこと：Stability AIからのAIコードジェネレーター

今日の急速に進化するテックの世界において、AIを活用したソリューションは産業の変革において重要な役割を果たしていますそのような画期的なものの一つが、Stability AIによって開発されたStableCodeですこの革新的なツールは、単なるコード生成器ではなく、アクセス性、効率性、イノベーションを向上させるために設計された技術の洗練されたブレンドです深く理解するために探求してみましょう

coding

Google DeepMindの研究者がSynJaxを紹介：JAX構造化確率分布のためのディープラーニングライブラリ

データは、その構成要素がどのように組み合わさって全体を形成するかを説明するさまざまな領域で構造を持っていると見なすことができます。活動によっては、この構造は通常潜在的であり、変化します。自然言語の異なる構造の例を図1に示します。単語は一連の単語で構成され、それぞれの単語には品詞タグが適用されます。これらのタグは相互に関連し、赤色の線状の連鎖を生成します。文の分割により、泡で示された文の単語は小さな不連続なクラスターに組み合わせることができます。言語のより詳細な調査では、グループを再帰的に作成し、構文木構造を作成することができます。構造は2つの言語を結びつけることもできます。たとえば、同じ画像内のアライメントは、日本語の翻訳を英語のソースにリンクさせることができます。これらの文法的構造は普遍的です。生物学では、類似の構造が見つかることがあります。RNAのツリーベースのモデルは、タンパク質の折りたたみ過程の階層的な側面を捉えていますが、一方、単調なアライメントはRNA配列のヌクレオチドを一致させるために使用されます。ゲノムデータも連続したグループに分割されます。ほとんどの現在の深層学習モデルは、中間構造を明示的に表現しようとせず、入力から直接出力変数を予測しようとします。これらのモデルは、さまざまな方法で構造の明示的なモデリングから利益を得ることができます。適切な帰納バイアスを使用することで、改善された一般化が容易になります。これにより、サンプル効率性に加えて下流のパフォーマンスも向上します。図1: 自然言語構造の例。明示的な構造モデリングは、問題固有の制約や方法を組み込むことができます。離散的な構造のため、モデルが行った判断はより理解しやすくなります。最後に、構造が学習自体の結果である場合もあります。たとえば、データが特定の形状の隠れた構造によって説明されることを知っているが、それについてさらに詳しく知る必要がある場合があります。シーケンスのモデリングでは、自己回帰モデルが主流の技術です。一部の場合では、非順序の構造を線形化し、順序構造で近似することができます。これらのモデルは、独立した仮定に依存せず、多くのデータを使用してトレーニングすることができるため、強力です。最適な構造の特定や隠れた変数の周辺化は一般的な推論の問題ですが、自己回帰モデルからのサンプリングはしばしば扱いにくいです。大規模モデルにおいて自己回帰モデルを使用することは、バイアスのあるまたは高分散の近似を要求するため、しばしば計算コストが高いです。対象構造と同じように因子グラフ上のモデルは、自己回帰モデルの代替手段です。これらのモデルは、専用の手法を使用することで興味深い推論問題を正確かつ効率的に計算することができます。各構造には固有の方法が必要ですが、各推論タスクには専用のアルゴリズム（argmax、サンプリング、周辺、エントロピーなど）は必要ありません。SynJaxでは、各構造タイプごとに1つの関数から複数の数値を抽出するために、自動微分を使用しています。図2: ポリシーグラディエントによる自己反省ベースラインとエントロピー正則化を用いた生成木の実装例。構造要素のアクセラレータに対応した実装を提供する実用的なライブラリが存在しないため、構造化分布の深い理解のための研究は遅れています。特に、これらのコンポーネントは、Transformerモデルとは異なり、利用可能な深層学習プリミティブに直接マッピングしないアルゴリズムに依存することが頻繁にあります。Google Deepmindの研究者は、JAX機械学習フレームワーク内で組み合わせるための簡単に使用できる構造プリミティブを提供し、SynJaxがこの課題を解決するのに役立っています。使用法を示すために、図2の例を考えてください。このコードでは、サンプリング、argmax、エントロピー、および対数確率を含むいくつかのパラメータを計算する必要があるポリシーグラディエント損失を実装しています。それぞれのパラメータを計算するには、別々のアプローチが必要です。このコード行では、非射影的な有向全域木であり、単一のルートエッジ制約があります。その結果、SynJaxは単一ルートツリーに対してdist.sample() Wilsonのサンプリング手法、dist.entropy()、およびTarjanの最大全域木アルゴリズムを使用します。単一ルートエッジツリーでは、Matrix-Tree定理を使用することができます。SynJaxはそのようなアルゴリズムに関連するすべてのことを処理するため、ユーザーはそれらを実装することなく、またはそれらがどのように機能するかを理解することなく、自分の問題のモデリングに集中することができます。

「AIモデルは強力ですが、生物学的に妥当でしょうか？」

「神経科学と機械学習を結ぶ新たな研究が、アストロサイトが人間の脳における潜在的な役割についての洞察を提供しています」

Learn more about Search Results A - Page 288