カーパシー：LLMの能力認知ギャップが拡大しています

人工知能研究者、OpenAI の共同創設者、元テスラ人工知能ディレクターの Andrej Karpathy は X に投稿し、一般の人々の大規模言語モデルの能力に対する共通認識のギャップが拡大しており、二つのグループがそれぞれ異なることを言う状態から、より急激な漏斗の形になっていると述べました。彼は4月の関連投稿を再度取り上げ、接触の程度に応じた層別の推定を示しました。

Karpathy は、約60億人（世界人口の約75%）がほとんど大規模言語モデルに接触したことがないと述べています。約10億から20億人（約20%）は、無料版の ChatGPT のような製品を時折使用しており、主により良い検索や執筆の補助として見なしているとし、多くの非技術者や数学、コード以外の専門家はその用途が限られていると考えています。約2000万人（0.2%）が数学とコードの分野で先端モデルを専門的に使用しており、過去に数週間または数ヶ月かかっていた複雑なプロジェクトが、インテリジェントエージェントによって提示のもとで完了できることを見ています。これには、アプリケーションの構築、複製、翻訳、バイナリの逆コンパイルが含まれます。彼は、1年も前には自分が手動で逐語的にコードを書いていたことを述べました。

Karpathy はさらに、約5000人（約0.00006%）が内部で先端レベルのシステムに接触できると述べています。外部で見られるプレビューは、数千のインテリジェントエージェントが数週間にわたり大規模なソフトウェアプロジェクト、ネットワーク攻防、科学的発見、数学の最前線を処理する様子であり、人間のレビューは遅れ始めています。例えば、OpenAI と Hugging Face に関連する出来事は数ヶ月後も整理されており、数学者は722篇の最前線の数学文書を長期間にわたり研究することになるでしょう。彼は、この漏斗が問題の規模と時間の長さ、能力がデジタル化され検証可能な分野でより際立っていること、そして無料、料金、内部アクセスの違いによって共同で駆動されていると考えています。