リンクをコピーしました!

8GBの終焉:ローカルAIがあなたのラップトップを破壊した理由

高価格だけではありません。あなたのハードウェアは機能的に時代遅れになりつつあります。「AI PC」標準は、メモリ要件に厳しい下限を強制し、8GBマシンを電子廃棄物に変えています。

🌐
機械翻訳

この記事は英語の原文から自動翻訳されています。 英語の原文を読む

ニューラルネットワークの視覚化を実行しようとした際に、メモリ不足エラーを表示するラップトップ画面。

8GBのRAMは10年以上にわたり、「これで十分」とされる標準でした。学生や事務職、さらには軽めのクリエイティブ作業をする人にとっても安全な最低ラインでした。Appleは2012年から2023年まで、MacBookの標準構成として8GBを販売していました。Windowsのノートパソコンも、ブラウジングや表計算作業であれば8GBの範囲内で快適に動作していました。

その時代は終わりました。ウェブページが重くなったから(実際そうなってはいますが)ではありません。コンピュータの根本的な使い方が、データを「取得する」ことから「生成する」ことへとシフトしているからです。

「AI PC」とローカル大規模言語モデル(LLM)の台頭により、ハードウェアに新たな下限が課されるようになりました。MicrosoftのCopilot+規格は16GBのRAMを義務付けています。AppleのM4 Macも、ついに16GBからのスタートとなりました。これは単なるアップセルのマーケティングではありません。物理的な問題なのです。8GBのマシンで現代のローカルAIを動かそうとすると、単に遅くなるだけでなく、事実上動作しなくなります。

なぜあなたの8GBノートパソコンが「レンガ」と化しつつあるのか、その技術的な実態を見ていきましょう。

「レンガ化」の数学

なぜ8GBが死んだのかを理解するには、大規模言語モデル(LLM)がメモリをどう使うかを見る必要があります。使用していないときにSSD(スワップファイル)へ怠惰に書き出せるブラウザタブとは異なり、LLMはその「重み」——知能を定義するパラメータ——を機能させるために、アクティブで高速なRAM上に常駐させておく必要があります。

Llama 3 8BやMicrosoftのPhi-3のような標準的な「小型」ローカルモデルを、実用的な4ビット量子化で動かした場合の数値を見てみましょう。

モデルサイズ80億パラメータ×0.5バイト(4ビット)4.0 GB\text{モデルサイズ} \approx 80\text{億パラメータ} \times 0.5\text{バイト(4ビット)} \approx 4.0\text{ GB}

問題なさそうに見えますよね?あなたは8GBを持っています。計算を確認します。$8 - 4 = 4$。4GB残っています。

間違いです。

OSの分を忘れています。Windows 11は、いくつかのバックグラウンドサービスがアイドル状態でも、4GBから5GBのRAMを容易に消費します。

必要合計=OS(4.5 GB)+モデル(4.0 GB)+コンテキストキャッシュ(0.5 GB)=9.0 GB\text{必要合計} = \text{OS(4.5 GB)} + \text{モデル(4.0 GB)} + \text{コンテキストキャッシュ(0.5 GB)} = 9.0\text{ GB}

ウェブブラウザすら開いていない段階で、すでにメモリ使用率112%に達しています。

スワップの死のスパイラル

必要なメモリが物理RAMを超えると、OSはデータをSSD上の「スワップ」または「ページファイル」に移動させます。

最新のNVMe SSDの読み取り速度は速く、5GB/sから7GB/s程度です。しかしRAMはそれよりも一桁速く、しばしば60GB/sから100GB/sを超えます。さらに重要なのは、レイテンシ(データを見つけるまでの時間)が致命的だということです。

LLMがテキストを生成するとき、生成するトークン一つひとつについて、繰り返しその重みをスキャンします。もしその重みがスワップファイルの中にあれば、CPU/NPUは一時停止し、SSDがデータを取ってくるのを待たなければなりません。

  • RAMアクセス:ナノ秒単位。
  • SSDアクセス:マイクロ秒単位(1000倍遅い)。

その結果起こるのが「スワップスラッシング」です。システムは実際の計算よりも、RAMとSSD間のデータ移動に多くの時間を費やすようになります。1秒あたりのトークン数は、会話に十分な20T/sから、苦痛な0.2T/sまで落ち込みます。カーソルはフリーズします。音声はカクつきます。プロセスを強制終了するまで、マシンは「レンガ化」した状態になります。

背景にある歴史:8GBの長い黄昏

8GB標準は驚くほど根強く生き残ってきました。

  • 2012年:MacBook Pro Retinaが、プレミアムな基準として8GBを搭載して登場。当時は多くの用途にとってオーバースペックでした。
  • 2016年〜2020年:8GBが標準になります。Chromeはよりメモリを食うようになり、Electronアプリ(Slack、Discord)が普及しますが、一般的な生産性用途では8GBでも持ちこたえます。
  • 2023年:Appleが8GBのRAMを搭載したM3 MacBook Proを1,599ドルで発売。レビュアーやプロフェッショナルたちが反発し、「容認できない」と評しますが、Appleは「Macの8GBはWindowsの16GBに相当する」と主張して擁護します。

この主張は、統合メモリの効率性ゆえに動画編集に関しては議論の余地があるにせよ真実かもしれませんが、AIに関しては成り立ちません。80億パラメータのモデルは、それがmacOS上であろうとWindows上であろうと気にしません。数学的に固定されたスペースを必要とするだけです。8GBは8GBです。

2024年、この論調は急速に変化しました。Microsoftは「Copilot+ PC」規格を発表しました。次世代Windowsノートパソコン向けのハードウェア標準です。その要件は厳格でした。

  • NPU:40 TOPS(Trillions of Operations Per Second)以上。
  • RAM:最低16GB。

8GBのRAMを搭載したCopilot+ PCは存在しません。そもそも作られていないのです。256GBのストレージと40 TOPSのNPUと並んで16GBを仕様の一部にすることで、Microsoftは業界全体に対し、8GBではもはや想定される体験を提供できないという明確な一線を引いたのです。

NPUのボトルネック

ここにはもう一つの層があります。統合メモリです。

現代の「AI PC」(Snapdragon X Elite、Apple Silicon、Intel Core Ultra)では、NPU(ニューラル処理ユニット)はCPUやGPUとメモリを共有します。AIチップ専用のVRAMは存在しません。

つまり、その新しいNPUを使って4Kで背景をぼかしたり、画像を生成したり、リアルタイム翻訳エージェントを動かしたりしたい場合、そのメモリはシステムRAMから直接持ち出されるのです。

ビデオカード(GPU)は、まさにこの理由から何十年も専用のVRAMを搭載してきました。ゲーミングPCなら、16GBのシステムRAムに加えて8GBのビデオRAMを搭載していることもあります。現代のノートパソコンは、合計で16GBです。AIが4GBを、GPUがディスプレイバッファとUI用に2GBを占有すれば、CPUには残りかすを取り合うしかなくなります。

グラフィックスとNPUを共有する8GBマシンでは、アプリケーション用の「使用可能な」メモリはわずか3GBから4GB程度になりかねません。それは、タブを5つ開いた最新のウェブブラウザを動かすだけでもぎりぎりで、生産性ワークフローどころではありません。

将来展望の分析:32GBが新たな基準に

今日、AIを「動かす」ための最低限として16GBが広く受け入れられているとすれば、将来を見据えて何を買うべきなのでしょうか。

その答えは、ますます32GBになりつつあります。

ローカルモデルが賢くなるにつれ、サイズも大きくなっていきます。すでに「量子化を意識した学習(Quantization-Aware Training)」や「専門家混合(Mixture of Experts、MoE)」モデルが効率化を図っていますが、知能への需要には限りがありません。ユーザーは以下を実行したいと望むようになるでしょう。

  1. テキスト要約エージェント(バックグラウンド)。
  2. コーディングアシスタント(IDE内)。
  3. 音声文字起こしサービス(会議)。

複数のモデルをOSやブラウザと同時に動かせば、16GBなど朝食のようにあっという間に食い尽くされてしまいます。

私たちは、2000年代初頭に似たハードウェア陳腐化のサイクルに突入しつつあります。当時は、3年前のコンピュータでは最新のソフトウェアを動かせませんでした。この10年間、年々の進歩はごくわずかでした。2018年のノートパソコンでも、今日のウェブブラウジングには十分に使えます。

しかし2018年のノートパソコン——あるいは8GBのRAMを搭載した2023年のノートパソコンですら——ローカルAI革命には参加できません。次期OSアップデートの中核機能から、事実上締め出されているのです。

結論:今日ノートパソコンを買うなら、8GBは選ばないでください。友人にも8GBを買わせないでください。それは節約の選択肢ではなく、行き止まりです。この10年で初めて、ベースモデルを買うことは単に倹約的というだけでなく、間違いになったのです。

出典 (4)

Advertisement

🦋 Bluesky での議論

Bluesky で議論する

投稿を検索中...