Learn more about Search Results A - Page 283
![VoAGI](/assets/img/voagi.jpg)
- You may be interested
- ハブでの評価の発表
- Hugging Faceを使用してWav2Vec2を英語音...
- 生成AIの責任ある使用の緊急性
- ビジュアライゼーションのためにデータを...
- コーネル大学とテルアビブ大学の研究者が...
- dm_control 連続制御のためのソフトウェア...
- 「ブラックボックスの解除:ディープニュ...
- チャットボットの台頭
- 「OpenAIはAIの安全性に対処するためにベ...
- 「’Acoustic Touch’テクノロ...
- 「ビデオ編集はもはや難問ではありません...
- モビリティが活気づけられる:EVの発表増...
- 「月探査ツアーでのロボットチーム」
- オープンソース大規模言語モデルの優しい紹介
- マストゥゴにお会いしましょう:ディフュ...
「Amazon Redshift」からのデータを使用して、Amazon SageMaker Feature Storeで大規模なML機能を構築します
Amazon Redshiftは、一日にエクサバイトのデータを分析するために数万人の顧客に利用されている、最も人気のあるクラウドデータウェアハウスです多くのプラクティショナーは、Amazon SageMakerを使用して、完全に管理されたMLサービスであるAmazon Redshiftデータセットを規模拡大して機械学習(ML)を行うために、オフラインで機能を開発する要件を持っています
「英国初のAIカメラ、わずか3日で300人の犯罪者を摘発」
イギリスの道路安全の風景は、フリースタンディングの人工知能(AI)道路安全カメラの登場によって革命的な変革を遂げています。これらの特殊なカメラは、運転中の違法な携帯電話の使用を抑制することを目的としており、導入後わずか3日で300人近い違反者を摘発することでその効果を証明しています。この取り組みは、道路安全の向上と注意散漫な運転による事故の予防に向けた重要な一歩です。 また読む:スマートロードでよりスマートな未来への道を開拓する AIパワードセーフティカメラの登場 イギリスは先駆的な動きとして、モーティストが運転中に携帯電話を使用しているのを検知するAI機能を備えた専用のフリースタンディングカメラを導入しました。これまでのトライアルでは同様のソフトウェアが車両に搭載されたり、スピードカメラ内に設置されたりしていましたが、このイノベーションは道路安全の取り締まりにおいて新たな時代を告げるものです。 また読む:AI交通管理システムがインドの道路で導入される 即効性: ほぼ300件の違反が検出される これらのAIパワードカメラは、導入後わずか3日でコーンウォールのローンセストン近くのA30で、ほぼ300人の違反者を摘発しました。このような多数の違反者を迅速に検出することは、AI技術が道路安全の問題に対処する潜在能力を示しています。 正確性のための人間のレビュー これらのカメラは素早く潜在的な違反を検出しますが、人間のオペレーターが捉えられた画像を細心の注意で確認します。このAI技術と人間の監視の組み合わせにより、道路安全規制の正確かつ公正な執行が保証されます。 最先端の技術の活用 AIカメラシステムは、高速シャッタースピード、赤外線フラッシュ、高度なレンズとフィルタリングシステムなどの高度な技術を使用しています。この複雑なセットアップにより、カメラは通過する車両のクリアな画像をキャプチャし、違反者の正確な識別を容易にします。 また読む:AIカメラが森林火災から安全にする方法 違反者への処罰 AIカメラシステムによる交通違反が判明した運転手は、違反の重さに応じて警告書または起訴の通知を受け取ります。このアプローチは抑止力となり、道路安全ガイドラインへの遵守の重要性を強調します。 最初の3日間の結果 カメラシステムは運用開始後72時間で、携帯電話の違反117件とシートベルトの違反180件を特定しました。これらの統計は、注意散漫な運転とシートベルトの順守不履行に対処する緊急性を示しています。 道路安全の変革 コミュニティ道路安全プロジェクトであるVision Zero South Westは、以前、総合的な車載システムの15日間のトライアルを実施しました。この取り組みの成功が、デヴォン、コーンウォール、シリー諸島の警察と犯罪委員会のアリソン・ヘルナンデス氏に、技術の道路安全への潜在能力を強調させました。 また読む:アブダビの交通当局がGoogleと提携し、交通問題を解決 将来の展望と課題…
「Transformerベースの拡散モデルによる画像生成の革新的なアーキテクチャイノベーションを実現するDiffusion Transformers(DiTs)」
機械学習の領域は、トランスフォーマーベースのアーキテクチャの出現により、自然言語処理、コンピュータビジョンなどの各種タスクを革新的に変革しました。しかし、画像レベルの生成モデルである拡散モデルには、依然として注目すべきギャップが存在し、これらのモデルは主に畳み込みU-Netアーキテクチャに従っています。 他のドメインがトランスフォーマーを採用しているのに対し、拡散モデルはまだこれらの強力なアーキテクチャを統合していません。この問題に取り組むため、ニューヨーク大学の研究者はDiffusion Transformers(DiTs)という革新的なアプローチを導入しており、従来のU-Netバックボーンをトランスフォーマーの機能で置き換えることで、拡散モデルのアーキテクチャにおける既存の慣習に挑戦しています。 現在、拡散モデルは洗練された画像レベルの生成モデルとなっていますが、依然として畳み込みU-Netに依存しています。この研究では、Vision Transformers(ViTs)の原則に基づき、拡散モデルにトランスフォーマーを統合するという画期的なコンセプトを紹介しています。この移行により、U-Netデザインの制約を超えた構造変換が推進され、拡散モデルがより広範なアーキテクチャのトレンドに合致し、拡張性、堅牢性、効率性を向上させることが可能になりました。 DiTsはVision Transformers(ViTs)アーキテクチャに基づいており、拡散モデルの設計に新たなパラダイムを提供しています。このアーキテクチャには、空間入力をトークンシーケンスに変換する「パッチ」というキーコンポーネントが含まれています。DiT-SからDiT-XLまでのさまざまなモデルサイズとともに、条件付き情報を処理するDiTブロックのバリアント、および「インコンテキストコンディショニング」、「クロスアテンションブロック」、「適応的レイヤーノルム(adaLN)ブロック」、「adaLNゼロブロック」も含まれています。これらのブロックデザインとモデルサイズのバリエーションは、強力な拡散モデルの設計に対する柔軟なツールキットを構成しています。 https://arxiv.org/abs/2212.09748 実験フェーズでは、さまざまなDiTブロックデザインのパフォーマンスを評価しています。異なるブロックデザインを採用した4つのDiT-XL/2モデルが訓練され、FIDスコアを基準としてadaLN-zeroブロックデザインの一貫した優越性が示され、その計算効率性と条件付けメカニズムのモデル品質への重要な役割が示されました。この発見は、adaLN-zeroの初期化方法の効果を強調し、さらなるDiTモデルの探索におけるadaLN-zeroブロックの採用に影響を与えました。 https://arxiv.org/abs/2212.09748 さらなる探索では、モデルサイズとパッチサイズを操作してDiT構成をスケーリングします。視覚化により、計算能力の拡張によって達成された画質の大幅な向上が示されます。この拡張は、トランスフォーマーの次元を拡張するか、入力トークンを増やすことによって実行することができます。モデルのGflopsとFID-50Kスコアのロバストな相関関係は、計算リソースがDiTのパフォーマンス向上において重要であることを強調しています。ImageNetデータセットの256×256および512×512の解像度で既存の拡散モデルに対してDiTモデルをベンチマークテストすることにより、説得力のある結果が明らかになりました。DiT-XL/2モデルは、両方の解像度のFID-50Kスコアで既存の拡散モデルを一貫して上回り、その堅牢なパフォーマンスは、DiTモデルがさまざまなスケールでの拡張性と柔軟性を持っていることを強調しています。さらに、この研究はDiT-XL/2モデルの固有の計算効率性を強調し、現実世界のアプリケーションにおける実用的な適用性を示しています。 結論として、Diffusion Transformers(DiTs)を導入することは、生成モデルの革新的な時代を告げるものです。トランスフォーマーの力を拡散モデルと融合することにより、DiTsは従来のアーキテクチャの常識に挑戦し、研究と実世界の応用において有望な道を提供します。包括的な実験と結果は、DiTsが画像生成の領域を前進させる潜在能力を強調し、先駆的なアーキテクチャのイノベーションとしての位置を明確にします。DiTsが画像生成の領域を再構築し続ける中で、トランスフォーマーとの統合は、異なるモデルアーキテクチャを統一し、さまざまなドメインでのパフォーマンス向上に向けた注目すべき一歩となります。
LangChain + Streamlit + Llama ローカルマシンに会話型AIをもたらす
「オープンソースのLLMsとLangChainを統合して、無料の生成型質問応答を実現します(APIキーは必要ありません)」
クラウドの証明 GeForce NOWがUltimate KovaaK’s Challengeの結果を発表
結論は出ました:GeForce NOW Ultimateメンバーシップはゲームを次のレベルに引き上げます。メンバーはUltimate KovvaKの挑戦に真剣に取り組んでおり、Ultimateのパワーがゲームを240フレーム/秒のストリーミングでどれほど改善するかを自分自身で確認しています。 ゲーマーの狙いを向上させる人気のトレーニングタイトルであるKovaaKのクラウドでの完全なローンチが今週行われ、Steamで期間限定の割引も提供されます。KovaaK’sはこの週にGeForce NOWのライブラリに新たに20以上の新しいゲームを加えます。 ゲーマーがQuakeConで最善を尽くす Ultimateが先頭をリードしています。 多くのPCゲームファンが先週末にQuakeConのGeForce NOWラウンジでUltimate KovaaKの挑戦に臨みました。参加者はまず無料会員でプレイし、その後Ultimateメンバーシップで240fpsのストリーミングを体験しました。 そして、GeForce RTX 4080ゲーミングリグからのストリーミングがゲームをどれだけ変えるかは明らかでした。チャレンジ開始以来、58,000のセッションが完了し、参加者はUltimateメンバーシップでプレイするだけでゲームのスコアが1.6倍向上したことがすぐにわかりました。 QuakeConの参加者がクラウドを目指しています。 参加者はQuakeConのリーダーボードで上位に入るために競い、自慢や究極の賞品を獲得しました。ショーの3日間ごとのトップ3スロットと総合トップスロットは、Ultimateメンバーシップを使用した人々によって支配されました。以下はUltimateについてのいくつかのコメントです: 「これ[Ultimate Tier]は非常にスムーズで、反応性が素晴らしいです。」 – デビッドG. 「…[Ultimate Tier]では非常にクリアさがあります。」 – ゴードンM.…
「NTUとSenseTimeの研究者が提案するSHERF:単一の入力画像からアニメーション可能な3D人間モデルを復元するための汎用的なHuman NeRFモデル」
人工知能(AI)およびディープラーニングの分野は、常に急速に進化しています。自然言語処理に基づく大規模な言語モデルから、コンピュータビジョンの概念を利用したテキストから画像のモデルまで、AIは長い道のりを歩んできました。ヒューマンニューラルラディアンスフィールド(NeRF)により、正確な3Dジオメトリデータの必要性なしに、2Dの写真から高品質な3Dヒューマンモデルの再構築が可能となりました。この開発には、拡張現実(AR)や仮想現実(VR)などのさまざまなアプリケーションに重要な影響があります。ヒューマンNeRFは、2Dの観測から3Dの人物像を作成するプロセスを迅速化し、正確な3Dデータを取得するために必要な時間とリソースを削減します。 NeRFを使用して3Dヒューマンモデルを再構築する現在の技術の大部分は、単眼映画またはマルチビューカメラを使用して異なる視点から取得された複数の2D写真を使用しています。しかし、この方法は、人々の写真がランダムなカメラアングルから撮影される現実の状況で使用する場合には欠点があり、正確な3Dヒューマン再構築にはかなりの障害が生じます。この問題に対処するため、研究チームはSHERFを開発しました。SHERFは、単一の入力画像からアニメーション付きの3Dヒューマンモデルを復元することができる、初めての一般化可能なHuman NeRFモデルです。 SHERFは、標準化された参照フレーム内で3Dヒューマン表現を生成することで、再構築されたモデルを自由な視点とポーズでレンダリングおよびアニメーション化することができます。これは、従来の技術とは異なり、主に固定されたカメラアングルに依存している点が異なります。エンコードされた3Dヒューマン表現には、詳細なローカルテクスチャとグローバルな外観情報が含まれており、視点と位置の成功と高品質の合成を実現しています。これは、包括的なエンコードを容易にするために意図されたさまざまな特徴を持つ3D意識の階層的特徴のバンクの概念を使用することによって実現されます。 研究チームは、グローバル、ポイントレベル、ピクセルアラインメントの3つの階層的特徴を示しました。それぞれの特徴は異なる機能を持ち、単一の入力画像から得られる情報を補完するためにグローバル特徴が改善されることを意図しています。一方、ピクセルアラインメント特徴は、モデルの全体的な正確性とリアリズムに貢献する細かい詳細を保存する役割を担っており、ポイントレベル特徴は基礎となる3Dヒューマン解剖学の重要なシグナルを提供します。 研究チームは、これらの3D意識の階層的特徴を効率的に組み合わせるための特徴融合トランスフォーマーというデバイスを開発しました。このトランスフォーマーは、多くの階層的特徴タイプを組み合わせて利用するように設計されており、エンコードされた表現ができるだけ包括的かつ情報豊かであることを保証します。THuman、RenderPeople、ZJU_MoCap、HuMManなどの複数のデータセットでの綿密なテストにより、SHERFの有効性が示されました。その結果、SHERFは現在の最先端のレベルを上回り、ユニークな視点とポーズを組み合わせる際の高い汎用性を示しました。 研究チームによると、主な貢献は以下の通りです: 単一の画像からアニメーション付きの3Dヒューマンモデルを復元する、先駆的な一般化可能なHuman NeRFモデルであるSHERFを導入しました。 より広範な文脈に適応することで、Human NeRFの応用範囲を現実のシナリオに拡大しました。 SHERFは、詳細なテクスチャを復元し、不完全な観測からの情報の不足を埋めるために、細かいグローバル属性を捉える3D意識の階層的特徴を使用しています。 SHERFは、以前の一般化可能なHuman NeRF手法を上回り、広範なデータセットでの視点とポーズの合成において優れた結果を達成しました。 結論として、この驚くべき研究は、特にランダムなカメラアングルからの写真を取得することが困難な現実の状況において、3Dヒューマン再構築の分野で大きな進歩を表しています。
「アソシエーテッド・プレスがジャーナリスト向けのAIガイドラインを発表」
人工知能(AI)の急速な進歩は、ジャーナリズムを含むさまざまな産業への統合の道を開いています。最近、アソシエーテッドプレス(AP)は、ニュース報道におけるAIの責任ある使用について包括的なガイドラインを公開することで、重要な一歩を踏み出しました。この動きは、ジャーナリズムにおけるAIの役割と、革新と報道の信頼性のバランスの必要性についての議論を引き起こしました。 また読む:オープンAIがGPT-4を使ってスマートなコンテンツモデレーションを行う方法 AIの可能性を認識する 有名なニュース機関であるアソシエーテッドプレスは、AIがニュース報道の向上や編集プロセスの効率化にどのように役立つかを認識しています。しかし、APの規格と包摂担当副社長アマンダ・バレットは、AIがジャーナリストを置き換えるためではなく、彼らの仕事を補完するために使用されるべきであると強調しています。ガイドラインは、正確で信頼性のあるジャーナリズムの原則を守りながら、記者や編集者が効果的にAIを利用するためのものです。 また読む:OpenAIのCEOサム・アルトマン:AIがその力を証明する中で仕事が危険にさらされる ジャーナリズムにおけるAIの活用 APのガイドラインでは、ChatGPTなどのAIツールの統合に対応するため、慎重な実験とジャーナリズムの基準への強いコミットメントが強調されています。ガイドラインは明確に述べていますが、AIが生成したコンテンツはそのまま公開されるべきではなく、使用前に注意深く審査される必要があります。これらの対策は、信頼性のあるニュースを読者に提供するという組織の献身と一致しています。 また読む:ChatGPTがコピーライティングとスキルの仕事を奪う:AIの未来で雇用され続ける方法 AIの基準を設定する APがAIのガイドラインを策定することは、ニュース機関の広範なトレンドの一部です。尊敬されるジャーナリズムのシンクタンクであるポインター研究所は、ニュースメディアがAIの使用に関する明確な基準を設定し、これらのポリシーを視聴者と共有するよう求めています。AI技術が成熟するにつれて、透明性と説明責任を確保することが、公の信頼を維持するために不可欠です。 また読む:ハリウッドのディズニーの論争:AIが介入し、作家や俳優が去る! 課題と可能性に取り組む AIは変革の可能性を提供する一方で、課題も存在します。テキスト、画像、音声、動画などさまざまな形式のコンテンツを作成できる生成AIは、事実とフィクションを正確に区別することができません。これに対処するため、APはAIが生成した資料を他のソースと同様に厳密に審査するよう主張しています。この慎重なアプローチは、誤情報の拡散を防ぎ、AIが責任を持って使用されることを目指しています。 ジャーナリズムにおけるAIのサポート役 ニュース機関は、ジャーナリズムの倫理を損なうことなく、AIの機能を活用してニュース制作を向上させています。APのガイドラインは、AIがストーリーのアイデアを生み出し、見出しを作成し、編集や要約に協力することができると提案しています。これらのアプリケーションは、効率を向上させ、ニュース報道に人間の手触りを保ちながら、AIのポテンシャルを強調しています。 また読む:GoogleがニュースライターAI「Genesis」をリリース 革新と信頼性のバランス ニュース報道におけるAIの実験において先駆的な存在であるAPは、革新とジャーナリズムの信頼性の維持とのバランスを理解しています。過去10年間、APはデータソースから短いニュース記事を生成するためにAIの利用を探究してきました。しかし、組織は報道の信頼性を守るために、新たなAIアプリケーションに進出する際にも慎重な姿勢を保っています。 また読む:ハリウッドの脚本家たちがAIツールに対抗してストライキ、それを「盗作マシン」と呼ぶ 責任あるAIの未来に向けて APはジャーナリスト向けにこれらのガイドラインを設定する一方で、AIの進展に貢献するための取り組みも行っています。この組織はAI開発者であるOpenAIと協力し、ニュース記事をトレーニングデータとして生成AIモデルを使用しています。APの取り組みは、ジャーナリズムとAIの進化する関係を強調し、報道における最高水準の正確さ、信頼性、真正性を確保するために責任あるAIの統合の重要性を示しています。 また読む:TensorFlowで責任あるAIを構築する方法は? 私たちの意見 アソシエーテッドプレスのAIガイドラインは、AI時代のジャーナリズムの進化における重要な節目を示しています。信頼性のある報道、透明性、ジャーナリズムの原則を優先する基準を設定することにより、APはニュース機関が責任を持ってAIをワークフローに統合する道を示しています。AIがメディアの風景を変革し続ける中、APのアプローチは、革新と倫理が手を取り合って公に信頼できるニュースを届けるための指針となっています。
ChatGPTの基礎を学ぶための優れたリソース
この記事では、ChatGPT(および大規模言語モデル)の中核を構成する基本的な要素について学びます
「初心者のためのPandasを使ったデータフォーマットのナビゲーション」
はじめに Pandasとは、名前だけではありません – それは「パネルデータ」の略です。では、それが具体的に何を意味するのでしょうか?経済学や統計学におけるPandasのデータ形式を使用します。それは、異なるエンティティや主体に対して複数の期間にわたる観察を保持する構造化されたデータセットを指します。 現代では、人々はさまざまなファイル形式でデータを保存し、アクセス可能な形式に変換する必要があります。これは、データサイエンスプロジェクトの最初のステップであり、この記事の主な話題になります。 この記事は、データサイエンスブログマラソンの一環として公開されました。 Pandasのデータサイエンスの成功の要素 簡単なデータ処理: pandasの特筆すべき機能の一つは、複雑なデータタスクを簡単に処理できることです。以前は複雑なコードだったものが、pandasの簡潔な関数によってスムーズに処理されるようになりました。 完璧なデータの調和: pandasは、NumPy、Matplotlib、SciPy、Scikit Learnなどの高度なライブラリとシームレスに組み合わさり、より大規模なデータサイエンスの一部として効率的に機能します。 データ収集の適応性: pandasは、さまざまなソースからデータを収集する柔軟性を持っています。CSVファイル、Excelシート、JSON、またはSQLデータベースであっても、pandasはすべて対応します。この適応性により、データのインポートが簡素化され、形式変換の頭痛から解放されます。 要するに、pandasの成功は、ユーザーフレンドリーな構造、データの管理能力、他のツールとの統合、さまざまなデータソースの処理能力から生まれています。これにより、データ愛好家はデータセットに隠された潜在能力を引き出し、データサイエンスの景観を再構築することができます。 Pandasはデータをきれいに整理する方法 pandasをデータ整理のオーガナイザーとして想像してみてください。pandasは、「Series」と「DataFrame」という2つのすばらしい構造を使用してデータを処理します。それらはデータストレージのスーパーヒーローのようなものです! Series: Seriesは、データが配置される直線のようなものです。それは数字から単語まで、あらゆるものを保持することができます。各データには、インデックスと呼ばれる特別なラベルが付いています。それは名札のようなものです – データを簡単に見つけるのに役立ちます。Seriesは、単一の列のデータを扱うときに非常に便利です。計算や分析などのトリックを実行することができます。 DataFrame: DataFrameは、ミニスプレッドシートまたはファンシーテーブルのようなものです。Excelで見るような行と列があります。各列はSeriesです。したがって、「Numbers」列、 「Names」列などが持てます。DataFrameは完全なパッケージのようなものです。数値、単語など、さまざまなデータを処理するのに非常に優れています。さらに、探索やデータの整理、データの変更などの便利な機能を備えています。DataFrameの各列はSeriesです!…
「GPT4のデータなしでコードLLMのインストラクションチューニングを行う方法は? OctoPackに会いましょう:インストラクションチューニングコード大規模言語モデルのためのAIモデルのセット」
大規模言語モデル(LLM)の使いやすさと全体的なパフォーマンスは、指示を介して提供されるさまざまな言語タスク(指示チューニング)によって向上できることが示されています。視覚、聴覚、多言語データでトレーニングされたモデルは、すべて指示チューニングのパラダイムでうまく機能しています。 コード学習マシンは、研究者によってコーディングの方法を教えられます。コードコメントを使用してCode LLMが望ましいコードを生成するように間接的に指示することは可能ですが、望ましい結果が自然言語の場合には不安定で失敗します。Code LLMの操作性を向上させ、適用範囲を広げるためには、明示的な指示によるチューニングが行われる必要があります。 研究者は、制約のあるライセンスを持つデータを使用せずに、オープンソースモデルを使用して合成データを生成することを好みます。彼らは、次の4つの一般的なコード指示データベースを比較しています: xP3x:広く使用されているコードベンチマークからの結果をまとめたもの lax Code LLM:研究者による独立したデータ生成を可能にするもの OASST:主に言語情報を保持するリポジトリで、コーディング例は最小限です 新しいGitコミットの4TBのデータセットであるCOMMITPACK 研究者の貢献 事前トレーニングでは、350の異なるプログラミング言語で書かれた4テラバイト(TB)のコミットコードを許可ライセンスの下で使用できます。チューニングでは、高品質なコード指示を含むフィルタリングされたバリアントのCOMMITPACKにアクセスできます。 コードLLMの一般化ベンチマーク(HUMANEVALPACK)は、6つのプログラミング言語(Python、JavaScript、Java、Go、C++、およびRust)と3つのシナリオ(コード修復、コード説明、コード合成)に対して行われます。 最も寛大なCode LLMはOCTOCODERとOCTOGEEXです。 研究者は、データセットの基礎としてGitHubのコミットのアクションダンプをGoogle BigQueryで使用しています。コミットメッセージが非常に具体的であり、多くのファイルを扱うことから追加の複雑さを回避するために、品質フィルターを複数適用し、商業的に利用可能なライセンスをフィルタリングし、複数のファイルに影響を及ぼすすべてのコミットを削除します。影響を受けるGitHubソースコードファイルは、フィルタリングされた情報を使用してコミット前後に抽出されます。 自然言語(NL)の応答を必要とするタスクの場合、指示チューニングLLMの入力は、NL指示とオプションのNLコンテキストです。コードデータで指示をチューニングする場合、コードは入力のみ、出力のみ、またはNL指示と共に入力と出力の両方に含まれる場合があります。ほとんどの既存のベンチマークはコード合成のバリアントに焦点を当てていますが、顧客はすべての3つのケースでモデルを使用したい場合があります。そのため、6つの言語の3つの入出力の順列が、コード合成ベンチマークHumanEvalに含まれるようになりました。 3つの評価状況すべてで、OCTOCODERはすべての他の許可モデルを大幅に上回っています。OCTOGEEXは、ベンチマーク化されたモデルの中で最も少ないパラメーターを持っており、60億ですが、それでも他の許可されたCode LLMに比べて最も優れた結果を達成しています。GPT-4は他のモデルと比較して最も高いパフォーマンスを発揮しています。他のモデルよりも大きなモデルである可能性がありますが、GPT-4はクローズドソースです。 コード、モデル、データなど、すべてはhttps://github.com/bigcode-project/octopackで見つけることができます。 まとめると、大規模言語モデル(LLM)は、指示に基づいて細かくチューニングされることで、さまざまな自然言語タスクでより優れたパフォーマンスを発揮することができます。研究者は、コーディングを使用して人間の指示を細かくチューニングし、Gitコミットの固有の構造を使用してコード変更と人間のガイダンスをペアにします。350の異なる言語からの4テラバイトのGitコミットはCOMMITPACKにまとめられています。16Bのパラメーターを持つStarCoderモデルでは、COMMITPACKを他の自然言語および合成コード指示と比較しています。HumanEval Pythonテストでは、OpenAIの出力でトレーニングされていないモデルの中で最新のパフォーマンスを実現しています。さらに、Python、JavaScript、Java、Go、C++、およびRustの6つの追加のプログラミング言語と、Code…
Find the right Blockchain Investment for you
Web 3.0 is coming, whether buy Coins, NFTs or just Coding, everyone can participate.