Learn more about Search Results 造語

モデルアーキテクチャのための生成AIに向けて

「Attention is All You Need」というトランスフォーマー革命は、深層学習モデルのアーキテクチャの設計に深い影響を与えましたBERTが登場して間もなく、RoBERTa、ALBERT、DistilBERTが続きました...

イーロン・マスク氏とXAiチームがGrokを発表:人工知能(AI)の新たなフロンティア、ライブデータとChatGPTに対する最強の競合相手

イーロン・マスクは、宇宙と電気自動車に対する野心的な取り組みで知られるテック界の大物であり、現在は急成長している人工知能の分野にも注目しています。彼のxAIチームは、OpenAIのChatGPTに挑戦するだけでなく、機械学習の対話に新しい風をもたらすAIプラットフォーム「Grok」を発表しました。 Grokは、ロバート・ハインラインの「異邦人」で造語された用語にちなんで名付けられており、あるものを徹底的に理解し、それが自分自身の一部になることを意味します。それは「銀河ヒッチハイク・ガイド」のデジタル再生版であり、知識を持ち、ほぼ全知であり、ユーモアを持っています。 マスクの最新のAI(Grok)の特徴を以下に示します: 1. リアルタイム接続: Grokは、つぶやきへのリアルタイムアクセスと謎の「X」プラットフォームにリンクされた「ライブ」検索エンジンを持っています。これにより、最新の情報の連続的なフィードにアクセスできる可能性があり、同僚よりも知識の更新速度に優れているかもしれません。 2. 強力な文脈理解: 競合他社の多くよりも会話の中でより多くの情報を保持し参照できる、印象的な25,000文字の文脈ウィンドウを誇っています。 3. マルチタスク能力: Grokはマルチタスキングを処理し、チャット会話を維持することができます。それはおしゃべり好きな宇宙ガイドとのインタラクションを目指したAIにとって重要な機能です。 4. 未来の感覚API: 画像および音声認識のための計画されたAPIにより、Grokは多感覚AIを目指し、潜在的な応用範囲をさらに拡大することを目指しています。 5. Teslaとの統合: マスクはGrokをTeslaでネイティブに実行する予定であり、すでに高度なAIの機能が向上する可能性があります。 6. 限定的な早期アクセス: 前バージョンベータ版からX Premium+の定期購読者に提供される予定のため、早期導入者に対する限定的な優位性を示しています。 7. 機知の狭間:…

「モノのインターネット」から「すべてのインターネット」へ:AIと6Gの融合によるつながる知性

「人工知能や6Gなどの最先端技術が、すべてがインターネットに接続される新しい時代を招く方法を学びましょう」

「グリーンウォッシングとは何か、そして私たちはアナリティクスを使用してそれを検出する方法」

「データ分析がどのように私たちにグリーンウォッシングを検出し、防止し、本物の持続可能性を促進するのに役立つかを探求してください」

fairseqのwmt19翻訳システムをtransformersに移植する

Stas Bekmanさんによるゲストブログ記事 この記事は、fairseq wmt19翻訳システムがtransformersに移植された方法をドキュメント化する試みです。 私は興味深いプロジェクトを探していて、Sam Shleiferさんが高品質の翻訳者の移植に取り組んでみることを提案してくれました。 私はFacebook FAIRのWMT19ニュース翻訳タスクの提出に関する短い論文を読み、オリジナルのシステムを試してみることにしました。 最初はこの複雑なプロジェクトにどう取り組むか分からず、Samさんがそれを小さなタスクに分解するのを手伝ってくれました。これが非常に助けになりました。 私は、両方の言語を話すため、移植中に事前学習済みのen-ru / ru-enモデルを使用することを選びました。ドイツ語は話せないので、de-en / en-deのペアで作業するのははるかに難しくなります。移植プロセスの高度な段階で出力を読んで意味を理解することで翻訳の品質を評価できることは、多くの時間を節約することができました。 また、最初の移植をen-ru / ru-enモデルで行ったため、de-en / en-deモデルが統合されたボキャブラリを使用していることに全く気づいていませんでした。したがって、2つの異なるサイズのボキャブラリをサポートするより複雑な作業を行った後、統合されたボキャブラリを動作させるのは簡単でした。 手抜きしましょう 最初のステップは、もちろん手抜きです。大きな努力をするよりも小さな努力をする方が良いです。したがって、fairseqへのプロキシとして機能し、transformersのAPIをエミュレートする数行のコードで短いノートブックを作成しました。 もし基本的な翻訳以外のことが必要なければ、これで十分でした。しかし、もちろん、完全な移植を行いたかったので、この小さな勝利の後、より困難な作業に移りました。 準備 この記事では、~/portingの下で作業していると仮定し、したがってこのディレクトリを作成します:…

Find the right Blockchain Investment for you

Web 3.0 is coming, whether buy Coins, NFTs or just Coding, everyone can participate.

Advertising with us