AIは世界を席巻しつつあり、その基盤となるチップへの需要は爆発的に増加しています。しかし、これらのチップ向けのソフトウェアスタックは、わずか数社の大企業が支配しています。開発者は、AIの世界に点在する様々なチップ上で容易にコードを実行できるのでしょうか？
クリス・ラットナー氏と彼の元Googleの同僚であるティム・デイビス氏が2022年に設立したModularというソフトウェアスタートアップは、この問いに答えるべく設立されました。Modularは、クラウドビジネスがGPUとCPU（生成AIを支える高性能チップ）から最大限のパフォーマンスを引き出すための統合ソフトウェアレイヤーを開発しています。さらに、開発者が複数のGPUとCPU上で動作するAIアプリを単一の言語（Pythonベース）で構築できる新しいプログラミング言語も開発しました。Modularの基本的な考え方は、開発者が特定のチップ向けにアプリを構築した場合、他のベンダーのチップで実行するために余計な手間をかける必要がない、ということです。
しかし、Modularの長期的な目標はさらに野心的です。NvidiaやAMDなどの企業が業界で握っているソフトウェア支配を緩め、AIチップの事実上のソフトウェアになることです。「我々の考えは、コンピューティングパワーの必要性は爆発的に増加しているが、統一されたコンピューティングプラットフォームが存在しない、ということです」とラットナー氏は言います。「主権AIは至る所に存在するでしょう。多くのスターゲートが存在するでしょう。しかし、異なる用途に最適化された様々な種類のチップが存在し、それらのための統一レイヤーが必要となるのです。」
Modularの考え方は、既にいくつかの兆候を見せています。Nvidia、AMD、AmazonなどのAI大手企業が、Modularと提携してテストを実施しています。GPUクラスタ企業のSF ComputeもModularと協力して、世界最安値の巨大AIモデル用APIを構築しました。今週から、Modularの開発者プラットフォームは、NvidiaとAMDのチップに加えて、Apple Silicon GPUもサポートしています。
この勢いを背景に、Modularは3年で3回目の資金調達として2億5000万ドルのベンチャーキャピタル投資を調達し、評価額は16億ドルに達しました。今回のラウンドは、ピッツバーグに拠点を置くUS Innovative Technology Fundが主導しました。DFJ Growthも投資に加わり、既存の投資家であるGeneral Catalyst、Greylock、GV（旧Google Ventures）も参加しています。「この分野におけるスタートアップの魅力を解明するために多くの時間と労力を費やしてきましたが、独自のチップを開発しようとした企業、そしてAMDやNvidiaのような大手企業ですら、結局はソフトウェアに帰結します」とGVのマネージングパートナーであるデイブ・ミュニチエッロ氏は述べています。「クリスは、ソフトウェアこそが最も興味深く、価値のある問題であると私を納得させました。」
価値があるとはいえ、非常に複雑な問題でもあります。その複雑さの一部は、Nvidiaのクローズドエコシステムに由来します。NvidiaのチップはGPU市場の大部分を占めていますが、同社の20年前の独自ソフトウェアプラットフォームであるCUDAにより、開発者はロックインされています。AMDの高性能コンピューティング向けソフトウェアプラットフォームであるROCmはオープンソースである点が異なります。これにより、開発者はより容易に異なるチップにコードを移行できます。しかし、開発者によると、NvidiaのCUDAからROCmへのコードの移行はスムーズではなく、通常は単一のチップベンダー向けに開発することに集中しています。
6月のAMDのAdvancing AIイベントでラットナー氏は、「ROCmは素晴らしいオープンソースですが、単一のベンダーのハードウェア上で動作します」と述べ、ModularのソフトウェアがよりポータブルでGPUをさらに高速化できる理由を説明しました。AMDにおけるラットナー氏の講演は、Modularの普及のためにラットナー氏とデイビス氏が取り組む必要のある一種の綱渡りを象徴しています。現在、NvidiaとAMDはどちらもModularにとって重要なパートナーですが、将来は直接的な競合相手にもなり得ます。Modularの価値提案の一部は、Nvidiaよりも高速にGPUを最適化するソフトウェアを提供できる点にあります。Nvidiaが新しいGPUを出荷してから「アテンションカーネル」（GPUソフトウェアの重要な部分）をリリースするまでには数ヶ月の遅れが生じる可能性があります。
「現時点ではModularはAMDとNvidiaを補完する存在ですが、時間とともに、ROCmやCUDAが自社のチップ上で動作する最良のソフトウェアではないと感じる可能性があります」とミュニチエッロ氏は述べています。また、潜在的なクラウド顧客がModularのような追加のソフトウェアレイヤーの支払いをためらう可能性についても懸念しています。
GPU向けのソフトウェア開発は、「黒魔術」のようなものであると、GPUカーネル最適化企業であるMakoの共同創設者兼CEOであるワリード・アタラ氏は述べています。「アルゴリズムをGPUにマッピングすることは、非常に困難な作業です。1億人のソフトウェア開発者、GPUカーネルを記述する1万人がいますが、それをうまくできるのはおそらく100人だけです。」Makoは、GPU向けコーディングを最適化するAIエージェントを開発しています。一部の開発者は、Modularのようなユニバーサルコンパイラや新しいプログラミング言語を開発するのではなく、それが業界の未来であると考えています。Makoは、Flybridge CapitalとスタートアップアクセラレータのNeoから850万ドルのシード資金を調達しました。「私たちは、コーディングに対する反復的なアプローチを取り、AIで自動化しようとしています」とアタラ氏は述べています。「コードを記述しやすくすることで、それを実行できる人の数を飛躍的に増やすことができます。新しいコンパイラを作成することは、より固定的な解決策です。」
ラットナー氏は、ModularもAIコーディングツールを使用していると述べています。しかし、同社はカーネルだけでなく、コーディングスタック全体に対処することに力を入れています。
投資家がModularのアプローチが実行可能であると考える理由はおよそ2億5000万ドルにも及びます。ラットナー氏は、オープンソースのコンパイラインフラストラクチャプロジェクトであるLLVMやAppleのSwiftプログラミング言語を開発してきたコーディング界の重鎮です。彼とデイビス氏は、これは大企業の環境の外で解決しなければならないソフトウェアの問題であり、ほとんどの企業は自社のテクノロジースタック向けのソフトウェア開発に焦点を当てていると確信しています。「Googleを辞めたとき、私は少し落ち込んでいました。なぜなら、私は本当にこの問題を解決したかったからです」とラットナー氏は言います。「私たちが気づいたのは、それは賢い人材の問題でも、お金の問題でも、能力の問題でもないということです。それは構造的な問題なのです。」
ミュニチエッロ氏は、テクノロジー投資の世界で一般的なマントラを共有しました。彼は、製品だけでなく、創設者自身にも賭けていると言います。「彼は非常に頑固で、また性急ですが、多くの場合、正しいのです」とミュニチエッロ氏はラットナー氏について述べています。「スティーブ・ジョブズもそうでした。彼はコンセンサスに基づいて決定を下しませんでしたが、多くの場合、正しかったのです。」
Source: A Former Apple Luminary Sets Out to Create the Ultimate GPU Software
