AIチップのコスト、実は6割以上がメモリ代だった

AI用チップの部品コストのうち、メモリが約60〜65%を占めることが明らかに。メモリ需要の急増がAIサービス料金や導入コストに直結しており、AI民主化の大きな壁となっている。

「AIって結局なんでこんなに高いの？」と思ったことはありませんか？その答えの大部分が、実はメモリにあるんです。

Epoch AIの調査によると、AIチップ（GPUなど）を構成する部品コストのうち、メモリ関連が約60〜65% を占めていることがわかりました。つまり、最先端AIチップの値段の3分の2近くは「記憶装置」のコストということになります。

なぜここまでメモリが重くなっているのでしょうか？ChatGPTやClaudeのようなLLM（大規模言語モデル）は、学習・推論の際に膨大なデータを高速で読み書きする必要があります。モデルが大きくなるほど、必要なメモリ量も爆発的に増加。特にHBM（高帯域幅メモリ）と呼ばれる高性能タイプは供給が限られており、SKハイニックスや三星電子など一握りのメーカーが市場を握っている状態です。この供給制約が、AIチップ全体の価格を押し上げる大きな要因になっています。

これはAIを活用したい副業ワーカーやスタートアップにとっても他人事ではありません。クラウドAIサービスの利用料金は、こうしたハードウェアコストに直結しているからです。メモリの価格が下がれば、API利用料も安くなり、AI活用のハードルが一気に下がる可能性があります。

逆に言えば、メモリコストの行方こそがAI民主化の鍵を握っているとも言えますよね。

参照元： Hacker News / Epoch AI