Search Results Quan et al., 2023

「2024年に注目すべきトップ10のソフトウェアアウトソーシング企業」

2024年のトップ10ソフトウェア委託革新者を探索し、ソフトウェア開発の成長と変革を推進してください

Tech

LoRa、QLoRA、およびQA-LoRa：低ランク行列分解を通じた大規模言語モデルの効率的な適応性

大型言語モデル（LLM）は、人間のようなテキストを理解し生成するという非常に優れた能力を持つ特異な領域を切り開いてきましたLLMのすごさは、膨大な数のパラメータを持っていることに起因していますこの巨大なスケールがパフォーマンスを引き上げる一方で、特定のモデルへの適応においては課題も生じます

「7つの新興量子テクノロジーの探求（2024）」

「2024年を形作る7つの量子テクノロジーを発見する：量子機械学習、クラウドコンピューティング、AI、暗号化、イメージング、気候モデリング」

Tech

世界のトップ10量子コンピューティング企業（2024年）

この記事にリストされているトップ10の量子コンピューティング企業は、量子コンピューティングの分野が急速に変化している中、この技術革命の最前線に立っています

Tech

無料でGoogle Colab上でQLoraを使用してLLAMAv2を微調整する

「Google Colabで最も影響力のあるオープンソースモデルの微調整方法を無料で学びましょう」

Natural language processing

「GPTQまたはbitsandbytes：LLMsのためにどの量子化方法を使用するか — Llama 2の例」

大規模言語モデル（LLM）がより多くのパラメータを持つようになるにつれて、メモリ使用量を削減するための新しい技術も提案されてきましたモデルを削減する最も効果的な方法の1つは、...

「AutoGPTQとtransformersを使ってLLMsを軽量化する」

大規模な言語モデルは、人間のようなテキストの理解と生成能力を示し、さまざまなドメインでのアプリケーションを革新しています。しかし、訓練と展開における消費者ハードウェアへの要求は、ますます困難になっています。 🤗 Hugging Faceの主なミッションは、良い機械学習を民主化することであり、これには大規模モデルを可能な限りアクセスしやすくすることも含まれます。bitsandbytesコラボレーションと同じ精神で、私たちはTransformersにAutoGPTQライブラリを統合しました。これにより、ユーザーはGPTQアルゴリズム（Frantar et al. 2023）を使用して8、4、3、または2ビット精度でモデルを量子化して実行できるようになりました。4ビットの量子化ではほとんど精度の低下はなく、推論速度は小規模なバッチサイズの場合にはfp16ベースラインと比較可能です。GPTQメソッドは、校正データセットのパスを必要とする点で、bitsandbytesによって提案された事後トレーニング量子化手法とは若干異なります。この統合はNvidiaのGPUとRoCm-powered AMDのGPUの両方で利用可能です。目次リソース GPTQ論文の簡潔な要約 AutoGPTQライブラリ – LLMの効率的なGPTQの活用のためのワンストップライブラリ 🤗 TransformersでのGPTQモデルのネイティブサポート Optimumライブラリを使用したモデルの量子化テキスト生成推論を介したGPTQモデルの実行 PEFTを使用した量子化モデルの微調整改善の余地サポートされているモデル結論と最終的な言葉謝辞…

「人工知能の炭素足跡」

AIの使用に起因する温室効果ガスの排出を削減する方法を探していますが、その使用は非常に増加する可能性があります

タルモ・ペレイラによる生物学と神経学の研究のためのSLEAP AIツールの力

「このインタビューに参加し、複雑な生物学的システムの研究におけるAIベースの手法の開発についての彼の物語といくつかの洞察を共有していただいたソーク研究所のサルクフェロー、タルモ・ペレイラに感謝します彼の最近の研究では、SLEAPツールを使用してマーカーレスモーションキャプチャを通じて行動を定量化することに焦点を当てていますこれは神経科学、がん研究などに応用されています... タルモ・ペレイラによるSLEAP AIツールの生物学および神経科学研究への力について詳しくはこちら »」

NEWS

AIによる光通信の加速化

通信効率の向上は、光フォトニクス技術を人工知能に導入するのに役立ちます

Learn more about Search Results Quan et al., 2023 - Page 2