Search Results A

「生成型AI：CHATGPT、Dall-E、Midjourneyなどの背後にあるアイデア」

芸術、コミュニケーション、そして現実の認識の世界は急速に変化しています人間のイノベーションの歴史を振り返ると、車輪の発明や電気の発見などを画期的な飛躍と考えることがあります今日、人間の創造性と機械の計算との間に溝を埋める新たな革命が起こっていますそれは[…]

『Auto-GPTのデコーディング』自動生成プリトレーニングトランスフォーマ（Auto-GPT）のデコーディング

「ChatGPTのリリース以来、興味深く、複雑で革新的な解決策が数多く生まれていますコミュニティはその能力を向上させるための無数の可能性を探求してきましたその中の1つは...」

「生成AIの規制」

生成型の人工知能（AI）が注目を集める中、この技術を規制する必要性が高まっていますなぜなら、この技術は大規模な人口に対して迅速に負の影響を与える可能性があるからです影響は以下のようなものが考えられます...

データオブザーバビリティの先駆け：データ、コード、インフラストラクチャ、AI

2019年にデータの可観測性カテゴリを立ち上げた時、その用語はほとんど発音できなかったものでした四年後、このカテゴリは現代の中核層として確立されました...

「BFS、DFS、ダイクストラ、A*アルゴリズムの普遍的な実装」

「よく知られたアルゴリズムであるBFS、DFS、Dijkstra、A-Starは、本質的には同じアルゴリズムのバリエーションです実際の実装を使ってそれを示します」

このAI研究は、近くの電話によって記録されたキーストロークを聞くことで、95％の正確さでデータを盗むことができるディープラーニングモデルを紹介しています

ディープラーニングの進歩とマイクロフォンの普及に伴い、個人デバイスを通じたオンラインサービスの人気が高まる中、キーボードに対する音響サイドチャネル攻撃の潜在的な影響が増しています。イギリスの研究チームがシステムからデータを盗むAIモデルを訓練しました。このモデルは95%の高い精度を示しました。さらに、彼らはこのディープラーニングモデルをZoomの通話中にデモンストレーションした際には、93%の精度を記録しました。研究者たちは、ワイヤレスキーボードが電磁(EM)信号を放射し、それが解釈可能であることを研究によって発見しました。しかし、より広範な放射は、キーストロークの音であり、これは検出が容易で特定が簡単です。そのため、彼らはキーストローク音響を研究の対象としました。さらに、研究者たちは、キーボード音響が聞き取られることがある公共の場所でより利用可能なため、デスクトップコンピュータよりも持ち運びが容易なノートパソコンでキーストローク音響を研究しました。また、ノートパソコンはモジュール化されていないため、同じ型のノートパソコンには同じタイプのキーボードが装備されており、似たようなキーボード信号が放射されます。この研究では、自己注意トランスフォーマーレイヤーをキーボード攻撃の文脈で初めて導入しました。その後、新たに開発された攻撃の効果を実世界のシナリオで評価しました。具体的には、攻撃を同じ部屋で攻撃者のマイク（モバイルデバイスを使用）と隣接したノートパソコンのキーボードに対してテストしました。また、Zoom通話中のノートパソコンのキーストロークに対しても攻撃を評価しました。セットアッププロセスでは、チームはiPhoneのマイクを使用し、キーストロークを使ってAIを訓練しました。この驚くほど簡単なアプローチは、専門の機器を必要とせずにパスワードや機密データがどれほど容易に危険にさらされる可能性があるかを示しています。実験にはMacBook ProとiPhone 13 miniが使用されました。iPhoneはノートパソコンから17cm離れた場所に折り畳まれたマイクロファイバーの布の上に配置され、デスクの振動を最小限に抑えました。キーストロークをキャプチャするため、研究者たちはZoom通話ソフトウェアの内蔵録音機能を利用しました。第二のノートパソコンデータセットである「Zoomで録音されたデータ」では、Zoomビデオ会議アプリケーションの内蔵機能を使用してキーストロークをキャプチャしました。研究者たちが得た結果は印象的でした。近くの電話によって記録されたキーストロークで訓練されると、モデルは95%の精度を達成します。さらに、Zoomのビデオ会議ソフトウェアを使用して記録されたキーストロークで訓練された場合、モデルは93%の精度を示しました。研究者たちは、彼らの結果が市販の機器とアルゴリズムを使用したサイドチャネル攻撃の実用性を証明していると強調しています。将来的には、研究者たちは、単一の録音から個々のキーストロークを抽出するためのより堅牢な技術の開発を目指しています。これは重要なことです、なぜなら、すべてのASCAメソッドは適切な分類のためにキーストロークを正確に分離することに依存しているからです。また、分類のためにキーストロークを記録するためにスマートスピーカーを使用することもできます。これらのデバイスは常にオンであり、多くの家庭に存在しています。

「🦜🔗 LangChain は何をするのか？」

「LangChainは、相互運用性を中心に設計されたオープンソースのソフトウェア開発フレームワークであり、大規模言語モデル（LLM）を活用するアプリケーションの作成を容易にすることを目的としています」

天気予測におけるAIの革命

「地球の温暖な地域、穏やかな地域、寒冷な地域に住んでいるかに関わらず、天候は日常生活やビジネス活動に大きな影響を与えます私の所在地であるドイツ北部では、もしかすると…」

AIの今週、8月7日：ジェネレーティブAIがJupyterとStack Overflowに登場• ChatGPTのアップデート

「This Week in AI」はVoAGIで提供される、人工知能の最新情報をまとめた週刊記事です最新のヘッドラインニュースや学術論文、教育資料、注目の研究など、幅広いトピックをカバーしていますこの記事は読者を常に最新の情報に保ち、進化し続けるこの分野について知識を提供することを目的としています...

Artificial Intelligence

「Retroformer」をご紹介します：プラグインの回顧モデルを学習することで、大規模な言語エージェントの反復的な改善を実現する優れたAIフレームワーク

大規模な言語モデル（LLM）を強化して、単にユーザーの質問に応答するのではなく、目標のために独立して活動できる自律的な言語エージェントにするという、力強い新しいトレンドが浮上しています。React、Toolformer、HuggingGPT、生成エージェント、WebGPT、AutoGPT、BabyAGI、Langchainなどは、LLMを利用して自律的な意思決定エージェントを開発する実用性を効果的に実証したよく知られた研究です。これらの手法は、LLMを使用してテキストベースの出力とアクションを生成し、それを使用して特定の文脈でAPIにアクセスし、活動を実行します。ただし、現在の言語エージェントの大部分は、パラメータ数の多いLLMの範囲が非常に広いため、環境の報酬関数に最適化された行動を持っていません。ReflexionやSelf-Refine、Generative Agentなど、同様のアプローチを取る他の多くの作品とは異なり、比較的新しい言語エージェントアーキテクチャである反省アーキテクチャは、過去の失敗から学ぶために、口頭フィードバック、具体的には自己反省を利用してエージェントを支援します。これらの反射エージェントは、環境のバイナリまたはスカラーの報酬を音声入力としてテキストの要約に変換し、言語エージェントのプロンプトにさらなる文脈を提供します。自己反省フィードバックは、エージェントに特定の改善領域を指示することで、エージェントにとって意味的な信号となります。これにより、エージェントは過去の失敗から学び、同じ間違いを繰り返さずに次回の試行でより良い結果を出すことができます。ただし、自己反省操作によって反復的な改善が可能になるものの、事前に訓練された凍結LLMから有用な反省フィードバックを生成することは困難です（図1参照）。これは、LLMが特定の環境でエージェントの誤りを特定し、改善の提案を含む要約を生成する能力が必要だからです。図1は、凍結LLMの情報のない自己反省のイラストです。エージェントは「Teen Titans」という回答ではなく、「Teen Titans Go」と回答するべきであり、これが前回の試行が失敗した主な理由です。一連の思考、行動、詳細な観察を通じて、エージェントは目標を見失いました。しかし、凍結LLMからの音声フィードバックは、以前のアクションシーケンスを新たな計画として提案するだけであり、次の試行でも同じ間違った行動につながります。特定の状況でのタスクの信用割り当ての問題を専門にするために、凍結言語モデルを十分に調整する必要があります。また、現在の言語エージェントは、異なる可能な報酬に基づいて勾配ベースの学習からの思考や計画に一貫した方法で取り組んでいません。Salesforce Researchの研究者は、Retroformerというモラルフレームワークを紹介し、制約を解決するためのプラグインの後向きモデルを学習して言語エージェントを強化する方法を提案しています。Retroformerは、方策最適化を通じて環境からの入力に基づいて言語エージェントのプロンプトを自動的に改善します。具体的には、提案されたエージェントアーキテクチャは、失敗した試行を反省し、将来の報酬に対してエージェントが実行したアクションにクレジットを割り当てることで、事前に訓練された言語モデルを反復的に改善します。これは、複数の環境とタスク全体にわたる任意の報酬情報から学習することによって行われます。HotPotQAなどのオープンソースのシミュレーションおよび実世界の設定（WikipediaのAPIに繰り返し問い合わせる必要があるWebエージェントのツール使用スキルを評価する）で実験を行います。HotPotQAは、検索ベースの質問応答タスクで構成されています。反省に対して、勾配を使用しない思考や計画を行わないRetroformerエージェントは、より速く学習し、より良い意思決定を行います。具体的には、Retroformerエージェントは、検索ベースの質問応答タスクのHotPotQAの成功率をわずか4回の試行で18%向上させ、多くの状態アクション空間を持つ環境でのツール使用における勾配ベースの計画と推論の価値を証明しています。結論として、彼らが貢献した内容は次の通りです： • この研究では、大規模言語エージェントへのコンテキスト入力に基づいて提示されるプロンプトを反復的に洗練することで、学習速度とタスク完了を向上させるRetroformerを開発しました。提案された手法は、Actor LLMのパラメータにアクセスせず、勾配を伝播する必要もないため、言語エージェントアーキテクチャ内のレトロスペクティブモデルの強化に焦点を当てています。 • 提案された手法により、さまざまなタスクと環境のためのさまざまな報酬信号からの学習が可能となります。Retroformerは、その汎用性のため、GPTやBardなどのクラウドベースのLLMに適応可能なプラグインモジュールです。

Learn more about Search Results A - Page 309