本文へスキップ

AIツール普及で開発メトリクスはどう変化したか?3万件超のPR分析

公開日

開発生産性
AIツール普及で開発メトリクスはどう変化したか?3万件超のPR分析
•••

AIコーディングアシスタントや自律型エージェントの導入が広がり、ソフトウェア開発の現場ではコード作成の速度が大きく変化しています。一方で、個人の作業効率の向上がチーム全体の開発速度やコードレビューのあり方にどのような変化をもたらすのかについては、長期的なデータに基づく定量的な把握が十分に進んでいませんでした。

本記事では、Jiada Li氏らによる研究「Engineering Signals of Human-AI Collaboration in the Agentic Coding Era」を紹介します。この研究は、AIツールを早期から集中的に活用している代表的な高密度開発環境として「 vLLM 」と「 SGLang 」の2つのオープンソースリポジトリを取り上げ、計33,228件のマージ済みプルリクエスト(PR)から7つの開発指標の推移を調べたものです。

4つの時代区分と33,228件のPRによる縦断的調査

本研究では、AIツールを早期から最も積極的に導入しているAIインフラプロジェクト「vLLM(18,290件のPR)」および「SGLang(14,938件のPR)」を対象に、AIツールの進化マイルストーンに沿った4つの時代区分(Era 0〜3)で開発指標の変化を分析しています。

表1:AIツールのマイルストーンに基づく開発時代の定義

時代(Era)期間区分名主なイベント
Era 02023年2月〜2023年9月エージェント前夜の基準期(初期のAI支援コーディング)GPT-4公開、GitHub Copilot X発表
Era 12023年10月〜2024年5月初期のAIコーディングツール拡大期GitHub Copilot Chat・Enterprise一般提供
Era 22024年6月〜2024年12月バイブコーディング主流化とワークフロー統合期AIアシスタントの急速な普及、Cursorなどの導入拡大
Era 32025年1月〜2026年6月エージェント型コーディング出現期エージェント機能の標準化、Claude Code等の登場

PR作成数は急増するも1PRあたりの変更規模は維持

調査対象となった2つのリポジトリでは、AIツールの進化に伴い月間のマージ済みPR数が大幅に増加しました。初期段階(Era 0やEra 1)と比較して、エージェント型ツールの活用が進んだEra 3では、月間PR数が約18〜21倍に拡大しています。

表2:vLLMおよびSGLangにおける主要な開発メトリクスの推移

メトリクスvLLMSGLang
総マージ済みPR数18,290件14,938件
月間PRスループットの増加倍率21倍(Era 0の38件/月からEra 3の797件/月)17.9倍(Era 1の42件/月からEra 3の743件/月)
月間ピークマージ数(2026年6月)1,156件/月1,413件/月
サイクルタイム中央値(全期間 / Era 3)0.85日 / 1.04日0.37日 / 0.62日
サイクルタイム90パーセンタイル(Era 3)16.8日14.3日
月間ユニーク作成者数の増加傾向(回帰直線の傾き)+10.1人/月 (r^2 = 0.94)+11.2人/月 (r^2 = 0.93)
PRあたり平均コメント数(Era 0,1 / Era 3)0.87件 / 3.63件0.74件 / 2.81件
PRサイズ中央値:追加行数(Era 3)19行22行
PRサイズ中央値:変更ファイル数(Era 3)2ファイル2ファイル

スループット急増は自動Botではなく人間の開発者によるもの

自動生成BotによるPRが急増した可能性を検証するため、GitHubのアカウント種別メタデータを用いた分解分析が行われました。その結果、Botが作成したマージ済みPRはvLLMで0.17%(31件)、SGLangで0.01%(1件)にとどまり、PR数の増加はBotの自動作成ではなく、AIツールを活用する人間の開発者による投稿が牽引していることが確認されました。

PRの粒度は肥大化せず小さく保たれている

PR数の大幅な増加に伴ってコードの変更規模が大きくなっているかを検証したところ、PRあたりの追加行数の中央値は19〜22行、変更ファイル数の中央値は2ファイルと、全期間を通じて安定していました。スループットの向上は、1回あたりの変更規模を拡大したためではなく、小さな粒度の変更が高頻度で提出されるようになった結果であることが示されています。

コメント密度の増加とレビュー待ち時間の二極化

開発速度が上がる一方で、レビューやコミュニケーションに関する指標には変化が見られました。

コメント密度が約4倍に増加

PRあたりの平均ディスカッションコメント数は、初期時代と比較してEra 3では約3.8〜4.2倍に増加しました。PRの変更規模が変わっていないにもかかわらず議論が増加している要因として、コミュニティ参加者の増加に伴う議論の活発化や、AIが生成したコードに対する人間側の確認・明確化の要求が増えた可能性が挙げられています。Botによるコメントの寄与度は増加分の15〜20%程度と推定され、残りの大部分は人間同士のやり取りによるものでした。

サイクルタイムの90パーセンタイルが長期化

PR作成からマージまでの所要時間(サイクルタイム)の中央値は、Era 3においても約0.6〜1.0日と短い水準を維持していました。しかし、上位10%に相当する90パーセンタイル(P90)の値は14.3〜16.8日に達しており、日常的な軽微な変更が素早くマージされる一方で、複雑な変更や議論が必要な変更のレビューが長期化するという、待ち時間の二極化が確認されています。

また、月間のマージ率(マージ数 / 新規作成数)もEra 3で低下傾向を示しており、作成されるPRの増加に対してレビューが追いつかなくなる兆候が観察されました。

開発組織がチームの健全性を把握するための観点

本研究の著者は、AIツールの活用が進むチームにおいて、コード作成速度だけでなくレビュー環境の維持が重要になると指摘しています。

表3:開発指標とチーム運営における着眼点の整理

指標捉えられる傾向運用の着眼点
PRスループットAI支援による作成速度ツール導入前後の基準を単純比較せず、活動規模の変化として捉える
サイクルタイム(P90)レビューの停滞と難易度中央値だけでなくP90の数値を監視し、複雑な変更の滞留を把握する
コメント密度レビューでの対話量単純な承認だけでなく、仕様確認や設計面の議論が発生しているか確認する
月間マージ率レビューのキャパシティマージ率の低下傾向から、レビュー負荷の過多を早期に検知する
PRサイズ変更の分割ルール変更行数やファイル数が肥大化せず、適切な粒度に保たれているか追跡する

AIによってコードの記述作業が迅速化しても、設計方針の決定や変更の妥当性判断など、人間の文脈理解を要する領域の重要性は変わりません。コードの生成速度が高まるほど、レビュー体制の設計や変更粒度の管理が開発の円滑さを保つ材料になります。

まとめ

本研究では、AIツールを高度に活用する大規模オープンソースプロジェクトのデータから、AIツールの進化に伴いPRの投稿頻度が大幅に増える一方で、変更の粒度は小さく保たれていることが示されました。同時に、レビュー時のコメント増加や、複雑な変更におけるレビュー待ち時間の長期化といった課題も確認されています。

コードの生成が容易になる環境においては、PRの作成数だけでなく、レビューの滞留状況や変更の適切な分割、十分な仕様伝達が行われているかを定量的に確認することが、チームの開発体制を整えるうえで参考になります。


開発生産性やチームビルディングにお困りですか? 弊社のサービス は、開発チームが抱える課題を解決し、生産性と幸福度を向上させるためのさまざまなソリューションを提供しています。ぜひお気軽にご相談ください!

参考資料:

執筆・編集: vonxai編集部

Google Scholarで開発生産性やチーム開発に関する論文を読むことが趣味の中の人が、面白かった論文やレポートを記事として紹介しています。