「大規模言語モデルによってプログラミングは終わるのか？」

『大規模言語モデルによるプログラミングの終焉』

先週、OpenAIはOpenAI DevDayでGPT-4 Turboを発表し、重要なマイルストーンを達成しました。 GPT-4 Turboの目立つ特徴の1つは、そのコンテキストウィンドウの拡大であり、GPT-4の8,000から128,000に大幅に向上しました。 この強化により、前任者のおよそ300ページに相当する、テキストの処理が16倍に増えることが可能になります。

この進歩は、SaaSスタートアップの風景にも大きな影響を与えます。

OpenAIのChatGPT Enterpriseは、高度な機能を備えており、多くのSaaSスタートアップにとっての課題となります。 ChatGPTまたはそのAPIを中心に製品やサービスを提供しているこれらの企業は、エンタープライズレベルの機能を備えたツールとの競争に直面しています。 ChatGPT Enterpriseの提供する機能には、ドメインの検証、SSO、使用状況の洞察などが含まれており、既存の多くのB2Bサービスと直接競合しており、これらのスタートアップの存続を危うくする可能性があります。

OpenAIのCEOであるサム・オルトマン氏は基調講演で、GPT-4 Turboの知識の切れ目の拡張に関するもう1つの重要な開発を明らかにしました。 GPT-4では2021年までの情報しか持っていませんでしたが、GPT-4 Turboでは2023年4月までの知識が更新され、AIの関連性と適用性において重要な進歩を遂げました。

• ディープラーニング実験の十のパターンとアンチパターン
• 再生医療テキスト生成が臨床NLPタスクを革命化することができるのか？ クリニカルナレッジ抽出とコンテキストに基づいたLLMプロンプトを組み込んだAIモデル「ClinGen」に会いましょう
• 「トランスフォーマーブロックは、効率を損なうことなく簡素化することはできるのか？ このAIの研究論文は、設計の複雑さと性能のバランスを探求しますETHチューリッヒ大学の論文」

ChatGPT Enterpriseは、セキュリティとプライバシーの向上、GPT-4への高速アクセス、より長い入力に対する拡張されたコンテキストウィンドウなどの機能で際立っています。 高度なデータ分析機能、カスタマイズオプション、使用制限の撤廃などを備えた、これまでのバージョンに比べて優れた選択肢です。 長い入力やファイルの処理能力、および以前から知られている「Code Interpreter」という高度なデータ分析ツールへの無制限のアクセスなど、AIの魅力をさらに強固にするものです。これは、データセキュリティの懸念から以前は消極的だった企業の間で特に魅力的です。

手動でコードを作成する時代は、AIによって駆動されるシステムへと移行しつつあり、ソフトウェア開発の基本的な変化を示しています。

プログラムの単調な作業は、深いコーディングの専門知識が必要ないAIによって行われるようになるかもしれません。 GitHubのCoPilotやReplitのGhostwriterなどのツールは、コーディングを補助する初期の兆候であり、AIの役割がプログラミングの管理まで拡大する未来を示唆しています。典型的なシナリオでは、特定の言語でリストの逆順の構文を忘れたプログラマーがいます。 オンラインフォーラムや記事の検索ではなく、CoPilotは直ちに支援を提供し、プログラマーが目標に集中することができます。

低コードからAI駆動の開発への移行

低コードおよびノーコードのツールにより、プログラミングプロセスが簡素化され、基本的なコーディングブロックの自動作成が行われ、開発者はプロジェクトの創造的な側面に集中することができるようになりました。しかし、この新しいAIの波に進むにつれて、その風景はさらに変化しています。ユーザーインターフェースのシンプルさや、「Xを行うためのウェブサイトを作成してください」という簡単なコマンドを通じてコードを生成できる能力は、プロセスを革新しています。

AIのプログラミングへの影響は既に大きいです。初期のコンピュータサイエンティストが電子工学に焦点を当てることからより抽象的な概念に移行したように、将来のプログラマは詳細なコーディングを時代遅れと見なすかもしれません。 AIの急速な進歩は、テキスト/コードの生成に限定されるものではありません。 Runway MLやDALL-E 3などのイメージ生成拡散モデルのような領域では、大きな進歩が示されています。 Runwayによる最新の機能を示す以下のツイートをご覧ください。

Introducing, Motion Brush.

A new way to add controlled movement to your generations.

Coming soon to Gen-2. pic.twitter.com/htyjf1gstz

— Runway (@runwayml) November 10, 2023

プログラミングを超えた範囲で、AIがクリエイティブ産業に与える影響も同様に変革的です。映画業界の巨人であり、かつてウォルト・ディズニースタジオの会長を務めたジェフ・カッツェンバーグ氏は、AIがアニメーション映画の製作コストを大幅に削減すると予測しています。 Bloombergの最近の記事によれば、カッツェンバーグ氏はコストの90%削減を見込んでいます。 これには、伝統的なアニメーションでの中間処理、シーンのレンダリング、キャラクターデザインやストーリーボードなどの創造的なプロセスへの支援など、労働集約型のタスクを自動化することも含まれます。

AIを活用したコーディングのコスト効率性

ソフトウェアエンジニアのコスト分析：

1. 総合報酬：シリコンバレーまたはシアトルなどのテックハブにおけるソフトウェアエンジニアの平均給与は、追加手当を含めるとおよそ年間312,000ドルです。

デイリーコスト分析：

1. 1年あたりの労働日数：おおよそ1年に260日の労働日があることを考慮すると、ソフトウェアエンジニアを雇用するための1日当たりのコストは約1,200ドルです。
2. コードのアウトプット：1日あたりに100行の完成、テスト、レビュー、承認済みコードを慎重に見積もった場合、このデイリーアウトプットが比較の基準となります。

GPT-3を使用したコード生成のコスト分析：

1. トークンコスト：ビデオの時点で、GPT-3の使用コストは1,000トークンあたり約0.02ドルでした。
2. 1行のコードあたりのトークン数：平均して、1行のコードにおおよそ10トークン含まれると見積もられます。
3. 100行のコードのコスト：したがって、GPT-3を使用して100行のコード（または1,000トークン）を生成するコストは約0.12ドルです。

比較分析：

• 1行のコードあたりのコスト（人間 vs AI）：コストを比較すると、1日に100行のコードを生成する場合、人間のソフトウェアエンジニアが1,200ドルかかるのに対し、GPT-3を使用するとわずか0.12ドルです。
• コストファクター：これはAIがはるかに安価であることを示す、約10,000倍のコストファクターの違いとなります。

この分析は、プログラミングの分野でAIの経済性の潜在能力を指摘しています。AIが生成したコードの低コストは、人間の開発者の高費用と比較して、標準的または反復的なタスクにおいてAIが優先的なコード生成手法となる可能性を示唆しています。この変化により、企業には著しいコスト削減がもたらされ、人間のプログラマの役割の再評価が生じるかもしれません。彼らのスキルは、AIがまだ処理できないより複雑で創造的なタスクや監督業務に集中することができるかもしれません。

ChatGPTの柔軟性は、複雑なウェブ開発フレームワークとの相互作用を含むさまざまなプログラミングの文脈に拡張されます。Reactという人気のあるJavaScriptライブラリを使用してユーザーインターフェースを構築する開発者が作業しているシナリオを考えてみましょう。従来、このタスクには包括的なドキュメントやコミュニティ提供の例を調べる必要がありました。特に、複雑なコンポーネントやステート管理に関わる場合はです。

ChatGPTを使用すると、このプロセスを効率化できます。開発者は単純に、Reactで実装したい機能を説明し、ChatGPTは関連する使いやすいコードの断片を提供します。これは、基本的なコンポーネント構造の設定から、フックを使用したステート管理や外部APIとの統合などの高度な機能まで多岐にわたります。研究と試行錯誤に費やす時間を削減することで、ChatGPTは効率を高め、ウェブ開発のプロジェクト開発を加速させます。

AIによるプログラミングの課題

AIがプログラミングの景色を変え続ける中、プログラミングのタスクに完全にAIを頼ることに伴う制約や課題を認識することが重要です。これらの課題は、AIの強みを活用しつつ、その限界も認識するバランスの取れたアプローチの必要性を浮かび上がらせます。

1. コードの品質と保守性：AIが生成したコードは冗長で効率的ではないことがあり、保守上の課題を引き起こすことがあります。AIは機能的なコードを書くことができますが、これが可読性、効率性、保守性のためのベストプラクティスに準拠しているかどうかは、人間によるタスクです。
2. デバッグとエラーハンドリング：AIシステムはコードを素早く生成できますが、既存のコードのデバッグや微妙なエラーの理解には必ずしも優れていません。特に大規模で複雑なシステムのデバッグの微妙なニュアンスは、人間の洞察と経験を必要とすることが多いです。
3. 訓練データへの依存：プログラミングにおけるAIの有効性は、その訓練データの品質と広がりに大きく依存します。訓練データが特定のバグ、パターン、またはシナリオの例を欠いている場合、AIはこれらの状況に対処する能力が低下します。
4. 倫理的およびセキュリティ上の懸念事項：AIがコーディングでより重要な役割を果たすにつれて、データプライバシーやAIが生成したコードに偏見がある可能性など、倫理的およびセキュリティ上の懸念が生じます。倫理的な使用を確保し、これらの偏見に対処することは、AIによるプログラミングツールの責任ある開発にとって重要です。

AIと従来のプログラミングスキルのバランス

将来のソフトウェア開発チームでは、ハイブリッドモデルが現れるかもしれません。プロダクトマネージャーは要件をAIコード生成器の指令に翻訳することができるでしょう。品質保証のためにはまだ人間の監視が必要かもしれませんが、焦点はコードの作成とメンテナンスからAIが生成した出力の検証と微調整へと移行するでしょう。この変化は、モジュール化や抽象化といった伝統的なコーディング原則への重要性の低下を示唆しています。なぜならAIが生成するコードは人間中心のメンテナンス基準に従う必要がないからです。

この新しい時代では、エンジニアやコンピュータサイエンティストの役割は大きく変わるでしょう。彼らはLLMと相互作用し、タスクを達成するためのトレーニングデータや例を提供し、複雑なコーディングからAIモデルと戦略的に協力することに重点が置かれるようになるでしょう。

基本的な計算ユニットは従来のプロセッサから大規模な事前学習済みLLMモデルに移行し、予測可能な静的なプロセスから動的で適応性のあるAIエージェントへと変わります。

この変化により、プログラミングの目的はプログラムの作成と理解からAIモデルの導きへと移行し、コンピュータサイエンティストやエンジニアの役割が再定義され、私たちの技術とのやり取りが再構築されるでしょう。

AIによって生成されたコードにおける人間の洞察力の持続的な必要性

プログラミングの未来は、コーディングよりも技術的な世界を推進する知識に重点を置くことです。

AIによる自然言語処理が形式的な数学的表現や従来のプログラミングの精度と複雑さを完全に置き換えることは、せいぜい未熟と言えるでしょう。プログラミングにおけるAIへの移行は、形式的なプログラミングと数学的なスキルによってのみ提供される厳密さと精度を排除するものではありません。

さらに、AIが生成したコードに対して、これまで解決されていない問題をテストするという課題は依然として大きなものです。プロパティベースのテストなどの技術は、現状のAIでは再現または置換することができないプログラミングの深い理解を必要とします。

要約すると、AIはプログラミングの多くの側面を自動化するという約束をしていますが、創造性、複雑な問題解決、倫理的な監視を必要とする領域では、人間の要素が重要であるということです。

We will continue to update VoAGI; if you have any questions or suggestions, please contact us!