Search Results ( link

ML プレゼンテーションに PowerPoint を使うのをやめて、代わりにこれを試してみてください

悪いパワーポイントは、注意散漫な聴衆を生み出します（彼らはカメラをオフにし、複数のタスクを同時に行います）また、そのようなパワーポイントは、プレゼンターが過剰な専門用語を使用するなどの悪い習慣に甘んじることを容易にします

新しい言語モデルを評価するための3つの重要な方法

毎週新しいLLMがリリースされますが、私のように考えると、これはついに私がLLMを利用したいすべてのユースケースに適合するのでしょうか？このチュートリアルでは、私は...を共有します

ビジネス学生からテック業界のデータサイエンティストへ

LinkedInでよく質問される中でも、一つは常に目立つ質問がありますそれは、なぜ私がビジネスからエンジニアリングに一夜にして転身し、...となったのかというものです

SalesforceはXGen-7Bを導入：1.5Tトークンのために8Kシーケンス長でトレーニングされた新しい7B LLMを紹介します

最近の人工知能の技術的なブレークスルーにより、Large Language Models（LLMs）はますます一般的になっています。過去数年間、研究者たちは、これらのモデルを膨大な量のデータでトレーニングして、複雑な言語関連のタスクを解決するための急速な進歩を遂げてきました。これには、複雑な言語パターンの理解、連続した回答の生成などが含まれます。特に研究者や開発者の関心を引いている研究の1つは、LLMsの長文コンテンツの取り扱いにおける応用です。これらのタスクの例は、テキストの要約やコードの生成などの比較的単純なタスクから、タンパク質の構造予測や情報検索などのより複雑な問題の記述まで様々です。長いテキストのシーケンスには、段落、表、画像などさまざまな形式の情報が含まれているため、LLMsはこれらの要素を処理し理解するためにトレーニングされなければなりません。さらに、長距離の構造的依存関係を効果的に考慮することで、LLMsはテキストの異なる部分間の関連性を特定し、最も関連性の高い情報を抽出することができます。したがって、より広範な知識に触れることで、LLMsはユーザーのクエリにより正確で文脈に即した回答を提供することができます。しかし、数多くの潜在的なユースケースにもかかわらず、MetaのLLaMAからMosaicMLのMPT LLMモデルに至るまで、ほとんどのオープンソースのLLMsは、最大2Kトークンのシーケンスでトレーニングされています。この制限は、より長いシーケンスのモデリングにおいて大きな課題を提起します。さらに、モデルのスケーリングに関する以前の研究は、固定された計算予算が与えられた場合、トークン数が多いほど小さなモデルの方が大きなモデルよりも優れたパフォーマンスを発揮することを示しています。したがって、現在の進歩と課題に着想を受けて、Salesforce ResearchはXGen-7Bを導入し、1.5兆トークンの8Kシーケンス長でトレーニングされた一連の7B LLMsにおいて画期的な成果を上げました。このモデルシリーズには、4Kシーケンス長に対応するXGen-7B-4K-Base、8Kシーケンス長に対応するXGen-7B-8K-Base、および公開用の教育データでファインチューニングされたXGen-7B-8k-Instが含まれています（研究目的のみで公開されています）。これらのLLMsの注目すべき特徴は、XGenがMPT、Falcon、LLaMAなどといった同様のサイズの最先端のLLMsと比較して、標準のNLPベンチマークで同等または優れた結果を達成することです。この研究で使用されたXGen-7bモデルは、Salesforceの独自のライブラリJaxFormerを使用してトレーニングされました。このライブラリは、TPU-v4ハードウェアに最適化されたデータとモデルの並列処理を利用した、効率的なLLMのトレーニングを可能にします。トレーニングプロセスはLLaMAのガイドラインに従い、さらに2つの追加の調査を行いました。最初の調査は「損失スパイク」の理解に焦点を当てました。これは、トレーニング中に損失が突然一時的に増加する現象であり、明確な原因がない状態です。これらのスパイクの原因はまだ不明ですが、研究者は「順次回路の並列化」、「swish-GLUの使用」、「RMS-Normの使用」などがトレーニングの不安定性に寄与する可能性があると特定しました。2つ目の調査はシーケンス長に関連しています。自己注意の二次の計算量のため、より長いシーケンスでのトレーニングは計算コストが著しく増加するため、段階的なトレーニングアプローチが採用されました。トレーニングは最初にシーケンス長2kの800Bトークンから始まり、次にシーケンス長4kの400Bトークン、最後にシーケンス長8kの300Bトークンを対象としました。 XGen-7b 8kモデルの長い文脈の理解能力を評価するために、研究者たちは3つの主要なタスクで評価を行いました。それらのタスクは、長い対話生成、テキストの要約、および質問応答です。研究者は、対象のタスクの難しさに基づいて、インストラクションに調整されたモデルを使用しました。長い対話生成に関しては、AMIミーティングの要約、ForeverDreaming、およびTVMegaSiteの脚本の要約の3つのタスクを評価に使用しました。すべての指標において、XGen-7B-instモデルは他のいくつかのインストラクションに調整されたモデルと比較して最高のスコアを達成し、優れたパフォーマンスを示しました。長文の質問応答に関しては、研究者は物理学、工学、歴史、エンターテイメントなどさまざまなトピックをカバーするウィキペディアのドキュメントを基にChatGPTを使用して質問を生成しました。質問と元の文書の関連性、構成、および関連性に基づいて、256トークンのLLM生成された回答をGPT-4で評価しました。このシナリオでは、2kトークンに制限されたベースラインモデルに比べて、XGen-7B-8k-Instモデルのパフォーマンスが優れていることが示されました。テキストの要約に関しては、研究者は会議の会話と政府の報告書という2つの異なるドメインのデータセットを使用してXGen-7bモデルを評価しました。その結果、XGen-7bモデルはこれらのタスクで他のベースラインモデルを大幅に上回り、テキストの要約でも優れたパフォーマンスを発揮することが示されました。評価により、XGen-7bモデルは、長い文脈を理解する能力に優れており、長い対話生成、質問応答、テキスト要約など、さまざまなタスクで優れた性能を発揮しました。その性能は、他の指示に調整されたモデルやベースラインモデルを上回り、広範なテキスト文脈での理解力と連続した応答生成能力を示しています。ただし、その効果的さにもかかわらず、XGenモデルには制約があることが研究者によって認識されており、バイアスが免除されず、有害な応答を生成する可能性があります。これは、他の多くのAIモデルと共有する特徴です。Salesforce Researchはまた、コードをオープンソース化して、コミュニティが研究内容を探求できるようにしています。 SF BlogとGithub Linkをチェックしてください。最新のAI研究ニュース、素晴らしいAIプロジェクトなどを共有している25k+ ML SubReddit、Discord Channel、Email Newsletterにもぜひ参加してください。上記の記事に関する質問や見落としがある場合は、お気軽に[email protected]までメールでお問い合わせください。

Pythonを使用したウェブサイトモニタリングによるリアルタイムインサイトの強化

イントロダクションこのプロジェクトの目的は、複数のウェブサイトの変更をモニタリングし、追跡するプロセスを自動化するPythonプログラムを開発することです。Pythonを活用して、ウェブベースのコンテンツの変更を検出し、文書化する繊細な作業を効率化することを目指しています。リアルタイムのニュース追跡、即時の製品更新、競合分析を行うために、この能力は非常に貴重です。デジタルの世界が急速に変化する中で、ウェブサイトの変更を特定することは、持続的な認識と理解を保つために不可欠です。学習目標このプロジェクトの学習目標は、以下のコンポーネントをカバーすることです： BeautifulSoupやScrapyなどのPythonライブラリを使用したウェブスクレイピングの方法に関する知識を向上させる。効率的にウェブサイトから価値のあるデータを抽出し、HTMLの構造をナビゲートし、特定の要素を特定し、さまざまなコンテンツタイプを処理することを目指します。ウェブサイトのコンテンツの微妙な変化を特定するスキルを向上させる。新しくスクレイピングされたデータを既存の参照と比較して、挿入、削除、または変更を検出するための技術を学ぶことを目指します。また、これらの比較中に遭遇するさまざまなデータ形式と構造を処理することも目指します。ウェブサイトの更新を追跡するためにPythonの自動化機能を活用する。cronジョブやPythonのスケジューリングライブラリなどのスケジューリングメカニズムを使用して、データ収集を強化し、繰り返しのタスクを排除する予定です。 HTMLのアーキテクチャについて包括的な理解を開発する。HTMLドキュメントを効率的にナビゲートし、データ抽出中に重要な要素を特定し、ウェブサイトのレイアウトと構造の変更を効果的に管理することを目指します。データ操作技術を探索することにより、テキスト処理のスキルを向上させる。抽出したデータをクリーンアップし、洗練させ、データエンコーディングの複雑さに対処し、洞察に基づいた分析と多目的なレポートのためにデータを操作する方法を学びます。この記事は、データサイエンスのブログマラソンの一環として公開されました。プロジェクトの説明このプロジェクトでは、特定のウェブサイトの変更を監視し、カタログ化するためのPythonアプリケーションを作成することを目指しています。このアプリケーションには、以下の機能が組み込まれます：ウェブサイトのチェック：特定のコンテンツやセクションの更新を検出するために、割り当てられたウェブサイトを一貫して評価します。データの取得：ウェブスクレイピングの方法を使用して、テキスト、グラフィック、または関連データなど、必要な詳細をウェブサイトから抽出します。変更の特定：新しくスクレイピングされたデータを以前に保存されたデータと比較し、違いや変更箇所を特定します。通知メカニズム：変更が検出された場合にユーザーをリアルタイムに通知するアラートメカニズムを実装します。ログ記録：変更の詳細な記録を時間スタンプや変更の情報とともに保持します。このアプリケーションは、ユーザーの設定に基づいて、任意のウェブサイトと特定のコンテンツを監視するようにカスタマイズできます。期待される結果には、ウェブサイトの変更に関する直ちにアラートが含まれ、変更の性質とタイミングを理解するための包括的な変更記録が含まれます。問題の定義このプロジェクトの主な目的は、特定のウェブサイトの監視プロセスを効率化することです。Pythonアプリケーションを作成することで、興味のあるウェブサイトの変更を追跡し、カタログ化します。このツールは、ニュース記事、製品リスト、その他のウェブベースのコンテンツの最新の変更について、タイムリーな更新情報を提供します。この追跡プロセスを自動化することで、時間の節約とウェブサイトへの変更や追加に対する即時の認識が確保されます。アプローチこのプロジェクトを成功裏に実装するために、以下の手順に従う高レベルのアプローチを取ります：プロジェクトでは、BeautifulSoupやScrapyなどの強力なPythonライブラリを使用します。これらのライブラリを使用すると、ウェブサイトから情報を収集し、HTMLコンテンツを取捨選択することが容易になります。始めに、ウェブサイトから情報を取得してベースラインを作成します。このベンチマークデータは、後で変更を特定するのに役立ちます。入力データを設定されたベンチマークと照合して、新しい追加や変更を追跡することができます。テキストの比較やHTML構造の違いの分析など、さまざまな技術を使用する場合があります。…

データサイエンスをより速く学ぶために、ChatGPTの使い方もしも既に上級者であっても

ChatGPTのようなAIツールを使用して、データサイエンスを簡単に学ぶための初心者向けガイド

Pythonを使用してTenacityを使用してリトライを制御する：エンドツーエンドのチュートリアル

Python Tenacityライブラリを発見し、Pythonアプリケーションで効果的な再試行ロジックとエラーハンドリングを実装する方法を学びましょうネットワークやAPIの障害、タイムアウト、およびさまざまな他の課題に対処するための実践的な例と業界で証明されたベストプラクティスを提供します

データサイエンスは良いキャリアですか？

イントロダクションデータサイエンスはその持続的な重要性と影響力により、キャリアパスを考える個人たちの間で非常に興味深く魅力的な話題となっています。データの生成、分析、利用が指数関数的に増加する時代において、データサイエンスは良いキャリアなのかという疑問が生じます。データサイエンスの多様な側面、職業成長への潜在能力、さまざまな産業での関連性を探求することで、データサイエンスが魅力的で良いキャリア選択肢であるという価値と見通しを理解することができます。この記事では、データサイエンティストが良い仕事なのか、データサイエンスが将来の良いキャリアなのかについての疑問に答えます。これらの疑問への回答は、データサイエンスが持つ見通しと機会について包括的な理解を提供します。さあ、始めましょう！データサイエンスとは何ですか？データサイエンスは、さまざまな科学的手法、アルゴリズム、手順を利用して膨大なデータから知識を抽出することに焦点を当てています。それは生データの中にある曖昧なパターンを見つけるのに役立ちます。データサイエンスはビジネスの問題を研究プロジェクトに変え、それを実際の解決策に変えることができます。多くの人々は、データサイエンスのキャリアを求める理由として、多くの役割と魅力的な給与があるためです。また読む: 2023年にデータサイエンティストになるためのステップバイステップガイドなぜデータサイエンスを選ぶのですか？データサイエンスの分野は広範で多様です。この分野には、テクノロジーの分野でキャリアを求めている専門家に多くのものを提供しています。それは成長の機会が多い魅力的なキャリアオプションです。データサイエンスをキャリアに考えるべき理由のいくつかは次のとおりです：需要があるデータサイエンスは非常に求められています。見込みのある従業員の機会は数多くあります。LinkedInでは、この職種の成長率が最も高く、2026年までに1150万の仕事が追加されると予想されています。そのため、データサイエンスの分野は需要があります。多くの職種がありますデータサイエンティストになるためには必要なスキルセットを持っている人はごく一部です。そのため、データサイエンスは他のIT産業よりも発展が遅れています。その結果、データサイエンスの領域は非常に多様で、多くの選択肢があります。データサイエンティストは需要が高いですが、さらに需要があります。報酬の良いキャリアデータサイエンスの分野は最高の給与をもたらします。Glassdoorによると、データサイエンティストの平均年収は11万6100ドルです。そのため、データサイエンスの仕事は非常に報酬が良いです。データサイエンスは柔軟な分野ですデータサイエンスには幅広い応用があります。銀行、医療、コンサルティング、電子商取引などで頻繁に使用されます。データサイエンスの分野は非常に多様です。そのため、さまざまな領域で働くことができます。データサイエンスのトレンドと産業事実データサイエンスは著しい成長を遂げ、多くの産業に不可欠な存在となっています。データサイエンスのトレンドと産業事実には、キャリア選択肢としてのデータサイエンスの重要性と潜在能力を示すものがいくつかあります。データサイエンスの分野は魅力的な報酬パッケージを提供しています。Glassdoorによると、アメリカのデータサイエンティストの平均給与は年間約11万3000ドルです。この高い収益性は、データサイエンスのスキルと専門知識の求人市場での価値を示しています。さらに、データサイエンスはさまざまな産業に応用されています。医療や金融からマーケティングや電子商取引まで、さまざまなセクターの組織はデータサイエンティストに頼って意味のある洞察を抽出し、戦略的な意思決定を推進しています。例えば、医療業界では、データサイエンスは患者データの分析や個別化された治療計画の開発に使用されます。同様に、マーケティングでは、データサイエンスが消費者のトレンドを特定し、特定のターゲットオーディエンスを対象にし、広告キャンペーンを最適化するのに役立ちます。これらのトレンドと産業事実は、データサイエンスが発展し求められているキャリアパスであり、さまざまなセクターでの成長と影響の大きな機会があることを示しています。データサイエンスのキャリアの未来仕事の機会に関して、データサイエンスには数多くのものがあります。経済学者によれば、2026年までに全国で1100万以上の求人があると予測されています。実際、2019年以来、データサイエンスの採用は46%増加しています。それにもかかわらず、2020年8月末までにインドでは約9万3000件のデータサイエンスの求人がありました。そのため、データサイエンスの潜在能力は否定できません。データサイエンティストの役割に加えて、この分野には多くの仕事の選択肢があります。以下はその一部です：…

データアナリストからデータサイエンティストへのキャリアチェンジの方法は？

人々は常にデータを扱っており、データアナリストは専門知識を身につけた後、よりチャレンジングな役割を求めています。データサイエンティストは、最も収益性の高いキャリアオプションの1つとされています。スキルセットの拡大が必要ですが、いくつかの教育プラットフォームが変化に有益な洞察を提供しています。多くのデータアナリストが成功して転身していますし、あなたも次の転身者になることができます！以下のステップは、データサイエンティストとしてのキャリアをスタートさせる際に、企業の成長に貢献し、専門知識を増やすのに役立ちます：スキルギャップの評価データサイエンティストの役割に必要な基本的なスキルと知識データサイエンティストはデータを実験する必要があるため、新しいアイデアや研究を開発するマインドセットが重要です。過去の実験のミスを分析する能力も同様に重要です。これに加えて、以下のような技術スキルと知識が求められます：技術スキル： PythonやRなどのプログラミング言語やデータ言語線形回帰やロジスティック回帰、ランダムフォレスト、決定木、SVM、KNNなどの機械学習アルゴリズム SAP HANA、MySQL、Microsoft SQL Server、Oracle Databaseなどのリレーショナルデータベース Natural Language Processing（NLP）、Optical Character Recognition（OCR）、Neural networks、computer vision、deep learningなどの特殊なスキル RShiny、ggplot、Plotly、Matplotlitなどのデータ可視化能力 Hadoop、MapReduce、Sparkなどの分散コンピューティング分析スキル：…

デプロイ可能な機械学習パイプラインの構築

多くのデータサイエンティストは、最初のコーディング体験をノートブックスタイルのユーザーインターフェースを通じて行いますノートブックは、探索のために欠かせないものであり、私たちのワークフローの重要な要素ですしかし...

Learn more about Search Results ( link - Page 77